Общая компьютерная программа предсказывает рецидивизм так же плохо, как и люди

Как и профессиональный шеф-повар или кардиохирург, алгоритм машинного обучения настолько же хорош, насколько и обучение, которое он получает. И поскольку алгоритмы все в большей степени принимают господство и принимают решения за людей, мы обнаруживаем, что многие из них не получают лучшего образования, поскольку они имитируют предрассудки в отношении человеческой расы и пола и даже создают новые проблемы.

По этим причинам это особенно касается того, что несколько штатов, включая Калифорнию, Нью-Йорк и Висконсин, используют алгоритмы, чтобы предсказать, какие люди снова совершат преступления после того, как они были заключены в тюрьму. Что еще хуже, это даже не похоже на работу.

В статье, опубликованной в среду в журнале Научные достижения пара компьютерных ученых из Дартмутского колледжа обнаружила, что широко используемая компьютерная программа для прогнозирования рецидивизма не более точна, чем полностью неподготовленные гражданские лица. Эта программа, которая называется «Профилирование исправительного правонарушения для альтернативных санкций», анализирует 137 различных факторов, чтобы определить, насколько вероятно, что человек совершит другое преступление после освобождения. КОМПАС рассматривает такие факторы, как употребление психоактивных веществ, социальная изоляция и другие элементы, которые, по предположениям криминологов, могут привести к рецидивам, которые классифицируют людей как людей с высоким, средним или низким риском.

И конечно, оценка рисков звучит великолепно. Почему бы не иметь больше данных, чтобы помочь судам определить, кто несет больший риск? Но то, что обнаружили компьютерные ученые Дартмута Джулия Дрессел и Хани Фарид, заключалось в том, что неподготовленные люди правильно оценивали риск рецидивизма примерно с той же точностью, что и COMPAS, предполагая, что предполагаемая сила алгоритма на самом деле отсутствует.

В одном исследовании, которое включало только часть информации, используемой КОМПАС (семь факторов вместо 137 и исключая расу), группа добровольцев-людей в Интернете, предположительно не прошедшая подготовку по оценке криминального риска, оценивала сообщения о случаях. Они правильно оценили рецидив человека с точностью до 67 процентов по сравнению с 65-процентной точностью КОМПАС.

Потратьте немного времени, чтобы это впиталось. Нетренированные люди в сети немного лучше предсказали, вернется ли человек в тюрьму. чем инструмент, который буквально разработан, чтобы предсказать, вернется ли человек в тюрьму, И это становится хуже. Как только вы добавите расу обвиняемого, ложноположительные и ложноотрицательные показатели добровольца будут в пределах нескольких процентных пунктов от COMPAS. Таким образом, КОМПАС не только не так хорош в прогнозировании рецидивизма, он так же подвержен расовым предубеждениям, как и люди. Вот вам и холодная логика компьютеров.

Затем исследователи составили линейную модель, которая соответствовала прогнозу COMPAS только с двумя факторами: возрастом и количеством предыдущих обвинительных приговоров. Просто чтобы быть ясным, этот прогноз также был бы несправедливым, но он демонстрирует, насколько несовершенным является COMPAS.

И хотя это исследование является новым, больших успехов, которые оно поддерживает, нет. В расследовании 2016 года ProPublica Журналисты обнаружили, что КОМПАС не только ненадежен, но и систематически склонен к афроамериканцам, постоянно оценивая чернокожих как более высокий риск, чем белых, совершивших более серьезные преступления. Надеемся, что это новое исследование поможет проложить путь к более справедливым процессам оценки рисков в системе уголовного правосудия.

Тот факт, что КОМПАС в лучшем случае бесполезен, а в худшем глубоко предвзятый, говорит о том, что компьютерные оценки рисков могут усугубить несправедливость, которую должна устранить система правосудия.Поскольку оценки риска могут применяться на любом этапе процесса уголовного правосудия, в том числе при установлении связи с лицом, определении, предоставляется ли ему условно-досрочное освобождение, а в некоторых штатах даже при определении наказания лица, это исследование указывает на острую необходимость пересмотреть использование COMPAS и других программ.