В Сан-Франциско проходит тестирование алгоритма, чтобы установить предварительный залог

Система уголовного правосудия находится в процессе алгоритмических изменений. Около 30 юрисдикций - в том числе целые штаты Аризона, Кентукки и Нью-Джерси, а также такие города, как Сан-Франциско и Чикаго - тестируют алгоритм, который устанавливает стоимость залога на основании данных уголовных дел по всей стране. Не все судьи обязательно готовы принять цифровые рекомендации близко к сердцу.

Алгоритм был создан Фондом Лауры и Джона Арнольда в Хьюстоне и называется оценкой общественной безопасности, или PSA. Цель алгоритма состоит в том, чтобы убрать предвзятость при установлении залога, используя данные из 1,5 миллионов предварительных судебных дел. В прошлом, однако, алгоритмы несли те же предубеждения людей, которые их делают.

Девять факторов входят в алгоритм, согласно веб-сайту фонда:

• Является ли текущее преступление насильственным
• Есть ли у человека ожидающие обвинения на момент ареста

• Есть ли у человека предварительное осуждение за проступок
• Есть ли у человека предварительное осуждение
• Есть ли у человека предварительное осуждение за насильственное преступление
• Возраст человека на момент ареста
• Не явился ли человек на предварительном слушании за последние два года
• Не явился ли человек на досудебное слушание более двух лет назад
• Был ли человек ранее приговорен к лишению свободы.

Алгоритм не учитывает расу, пол, доход, образование, занятость или соседство. Это, по мнению фонда, делает PSA нейтральным.

Тем не менее, судьи в Сан-Франциско не всегда следуют рекомендациям, Хроника Сан-Франциско отчеты.

Сан-Франциско перешел на использование алгоритма после того, как город подал в суд на национальную группу по защите гражданских прав, которая утверждала, что непомерный залог причиняет боль бедным больше, чем богатым. Богатые люди, совершившие мелкие преступления, покупали себе выход из тюрьмы, в то время как бедные люди, которые не могли позволить себе чрезмерные суммы залога, оставались в камере до тех пор, пока не мог быть назначен суд.

СРП должен был выровнять игровое поле, глядя на данные, а не на непосредственное преступление. Алгоритм использует исторические данные, чтобы судить, насколько вероятно, что человек совершит другое преступление или избежит суда, если его посадят под залог, Отчет меньшинства стиль. Если вероятность высока, залог устанавливается выше, и наоборот.

Аналогичный алгоритм, созданный Northpointe, использовался для определения сроков освобождения заключенных. ProPublica опубликовал результаты расследования, проведенного в мае, в ходе которого выяснилось, что оценки «оценки риска», полученные по алгоритму Northpointe, непропорционально предсказывают, что чернокожие люди с большей вероятностью совершат другое преступление, чем белые, после того как они выйдут. Только 20 процентов прогнозов Northpointe были точными.

С другой стороны, передовые картографические технологии и большие данные также помогают правоохранительным органам выявлять и контролировать точки доступа преступников.

Алгоритм фонда направлен на то, чтобы избежать подобного смещения путем устранения любых демографических показателей. Однако действительно ли это работает, пока не ясно, пока судьи не начнут полагаться на алгоритмы, а не на прецедент и интуицию.