Общата компютърна програма предсказва рецидивизма като лошо като хората

Точно като професионален готвач или сърдечен хирург, алгоритъмът за машинно обучение е толкова добър, колкото и обучението, което получава. И тъй като алгоритмите все по-често поемат управлението и вземат решения за хората, установяваме, че много от тях не са получили най-доброто образование, тъй като имитират пристрастия, основани на човешката раса и пол, и дори създават нови проблеми.

Поради тези причини, особено във връзка с това, че много държави, включително Калифорния, Ню Йорк и Уисконсин, използват алгоритми, за да предскажат кои хора ще извършат престъпления отново, след като са били затворени. Дори по-лошо, дори не изглежда да работи.

В доклад, публикуван в сряда в списание Научни постижения Двама компютърни учени от колежа Дартмут откриха, че широко използваната компютърна програма за предсказване на рецидивизма не е по-точна от напълно необучени цивилни. Тази програма, наречена „Профилиране на управлението на извършителите на престъпления за алтернативни санкции“, анализира 137 различни фактора, за да определи колко вероятно е човек да извърши друго престъпление след освобождаването. COMPAS разглежда фактори като употреба на вещества, социална изолация и други елементи, които теоретизират криминолозите, може да доведе до рецидив, като класифицират хората като висок, среден или нисък риск.

И разбира се, оценката на риска звучи чудесно. Защо да нямаме повече данни, за да помогнем на съдилищата да определят кой е по-голям риск? Но това, което компютърните учени от Дартмут Джулия Дракел и Хани Фарид установиха, че нетренираните хора правилно преценяват риска от рецидивизъм с почти същата точност като COMPAS, което предполага, че предполагаемата сила на алгоритъма всъщност не съществува.

В едно проучване, което включва само малка част от информацията, използвана от COMPAS (седем фактора вместо 137, и с изключение на раса), група от доброволци в интернет, с предполагаема липса на обучение по оценка на риска от престъпления, оценява докладите за случаи. Те правилно са преценили рецидивизма на човек с 67-процентна точност, в сравнение с 65-процентната точност на COMPAS.

Отделете малко време, за да оставите да потъне. Неотренираните хора в мрежата бяха малко по-добре да предскажат дали някой ще се върне в затвора. от инструмента, който буквално е предназначен да предскаже дали човек ще се върне в затвора, И се влошава. След като добавите раса на подсъдимия, фалшиво-положителните и фалшиво-отрицателните стойности на доброволеца са в рамките само на няколко процентни пункта от COMPAS. Така че не само COMPAS не е толкова велик в предсказването на рецидивизма, той е също толкова предразположен към расовите пристрастия, колкото и хората. Толкова за студената логика на компютрите.

След това изследователите направиха линеен модел, който съвпада с предсказанието на COMPAS само с два фактора: възраст и брой на предишни присъди. Само за да е ясно, това предсказание също би било несправедливо, но демонстрира колко е погрешен COMPAS.

И докато това изследване е ново, големите поглъщания, които тя подкрепя, не са. При разследване от 2016 г. ProPublica Репортерите установиха, че COMPAS не само е ненадежден, но всъщност е систематично пристрастен към афроамериканците, като класифицира чернокожите като по-висок риск от белите, които са извършили по-тежки престъпления. Надяваме се, че това ново изследване ще помогне да се проправи пътя за по-справедливи процеси за оценка на риска в системата на наказателното правосъдие.

Фактът, че COMPAS е безполезен в най-добрия случай и дълбоко предубеден в най-лошия случай предполага, че компютърно-базирани оценки на риска може да бъде задълбочаване на несправедливостите, които съдебната система трябва да се справи.Тъй като оценките за оценка на риска могат да се приложат на всяка стъпка от процеса на наказателното правосъдие, включително при определяне на облигацията на дадено лице, определянето дали те са освободени от свобода и в някои държави, дори и за определяне на присъдата на лицето, това изследване показва, че е необходимо преразглеждане на използването на COMPAS и други програми.