Алгоритъмът Compas, който работи за американската полиция от 1998 г., анализира данните на подсъдимите и след това въз основа на получената информация помага да се реши например дали престъпникът трябва да бъде пуснат под гаранция или трябва да бъде оставен в ареста. При избора на мярка за неотклонение системата е взела предвид възрастта, пола и рекорда на криминалната сцена. За 20 години "служба" алгоритъмът беше оценен от повече от милион души, но наскоро беше обявен за некомпетентен, след което веднага бе призован.
Учени от Дартмутския колеж тестваха колко точна е системата и дали може да й се вярва. За да направят това, те наемат хора на свободна практика, обикновени хора без юридическо образование, които сами да вземат решения въз основа на кратка информация за хората, като предоставят на субектите информация за пол, възраст, криминална история и няколко други параметъра.
Точността на прогнозата на фрийлансърите, които имаха малко досие, беше почти 70 процента, докато програмата изоставаше с хората с пет процента, като същевременно разчиташе на 137 точки от биографията. Анализът на преценките на алгоритъма показа, че програмите са по-склонни да подозират чернокожи затворници.
„Грешките в такива случаи могат да бъдат много скъпи, така че си струва да се помисли дали този алгоритъм изобщо трябва да се използва за произнасяне на съдебни присъди“, казва един от авторите на изследването.
След като проучиха принципа на алгоритъма, изследователите стигнаха до заключението, че колкото по-млад е подсъдимият и колкото повече арести има зад гърба си, толкова по-голяма е вероятността за рецидив, следователно специалистите от AI признават технологията за ненадеждна.
Вячеслав Ларионов