Технологии распознавания лиц ФБР неуважительно относятся к вашей конфиденциальности и правам

Кто сторожевой пёс? Управление подотчетности правительства, как следует из его названия. Недавний отчет GAO об использовании правительством технологии распознавания лиц был опубликован в среду. По сути, мы сами получили ситуацию. Плохая ситуация Вкратце: своими программами распознавания лиц ФБР нарушает вашу конфиденциальность и не сообщает вам об этом. Кроме того, ФБР не проверяет, чтобы эти программы были точными и надежными.

ФБР и биометрия уходят в прошлое - любовные отношения начались с баз данных отпечатков пальцев. Но это идет намного дальше, сейчас. «Биометрия» для ФБР и, согласно GAO, означает «автоматическое распознавание лиц на основе их биологических и поведенческих характеристик». В 2011 году ФБР запустило пилотный проект своей системы «Идентификация следующего поколения» (NGI).; четыре года спустя, в апреле 2015 года, он был полностью введен в эксплуатацию.

NGI частично использует Межгосударственную Фотосистему (IPS) для этих так называемых биометрических данных. Эта база данных - в дополнение к внешним базам данных от частных компаний - предоставляет государственным органам доступ к более чем 411 миллиона фотографии лиц (в настоящее время население США составляет всего 319 миллионов). Министерство юстиции утверждает, что большинство из этих фотографий сделаны с фотографий, сделанных кружками - «Более 80 процентов фотографий в NGI-IPS являются криминальными», - но они также объединяются со многими штатами, чтобы получить доступ к водительским удостоверениям и фотографиям паспортов. GAO говорит, что момент подозреваемый «зарегистрирован за преступление», он или она в книгах - то есть в NGI-IPS.

Из отчета не совсем ясно, насколько ФБР расходится с вашими фотографиями в социальных сетях. ФБР утверждает, что не включает их в NGI-IPS, но использует их:

«… Фотографии, снятые с камер видеонаблюдения или фотографии из социальных сетей, не регистрируются в NGI-IPS… По данным ФБР, внешние базы данных фотографий не содержат полученных в частном порядке фотографий или фотографий из социальных сетей, и ФБР не поддерживает эти фотографии; он только ищет против них ».

Но стоит отметить, сколько может быть социальных медиа для золотых приисков. Приложение для обработки фотографий на вашем компьютере может распознавать вас и ваших друзей. Facebook тоже это делает, и это ужасно хорошо в каталогизации каждого человека на фотографии. Каждый раз, когда вы используете объектив Snapchat, Snapchat отображает уникальные контуры вашего лица. И это не останавливаться на достигнутом - эти технологии практически везде.

Несмотря на это, не только ФБР развлекается с вашим лицом: доступ распространяется на местные полицейские управления. (Существует также следующее: «Система распознавания лиц Министерства обороны используется для поддержки боевиков на местах для выявления вражеских комбатантов».) ФБР является единственным агентством, непосредственный доступ, но все остальные могут просто запросить доступ. Как только доступ предоставлен, соответствующее агентство отправляет фотографию в ФБР и запрашивает определенное количество потенциальных совпадений. (Фотография может иметь высокое разрешение, но, зная камеры видеонаблюдения, скорее всего, нет.) Оказавшись там, NGI-IPS пропускает фотографию через свою базу данных, а затем, как заявляет GAO, «необходимо выполнить человеческий анализ». Команда из «29 обученных специалистов по биометрическим изображениям в службах FACE Facial Analysis Comparison Evaluation» затем дает заключительное слово. Наконец, необходимое количество потенциальных совпадений возвращается в агентство. Затем это агентство должно определить, являются ли эти очевидные подозреваемые фактическими подозреваемыми.

Вот как это работает:

«В частности, технология извлекает элементы из граней и помещает их в формат, часто называемый отпечатком, который может использоваться, среди прочего, для проверки. После того, как отпечаток лица создан, технология может использовать алгоритм распознавания лиц, чтобы сравнивать отпечатки лиц друг с другом, чтобы получить единственное значение оценки, которое представляет степень сходства между двумя лицами ».

В зависимости от вашего знакомства с научной фантастикой, это может показаться надежной и заслуживающей доверия системой. Это не. Вот раздел Заголовок в отчете GAO:

«ФБР имеет ограниченную информацию о точности своих возможностей технологии распознавания лиц».

Все, что ФБР знает, - это когда сделал протестировать показатель точности 50 возможных совпадений программы, что, к сожалению, было сделано с тестовой базой данных, а не с реальной базой данных - она ​​была точной на 86 процентов. ФБР «не оценило точность поисков по распознаванию лиц NGI-IPS в его оперативной обстановке - обстановке, в которой зарегистрированные фотографии, а не тестовая база данных фотографий - используются для поиска следственных следов». все равно, насколько точными являются системы распознавания лиц, используемые в частных компаниях: аудиты не проводятся.

Восемьдесят шесть процентов точно. Другими словами: около четырех из пяти звезд. Если ваш местный суши-ресторан имел четыре звезды из пяти, вы можете заказать еду на вынос. Но как небольшое количество отзывов может исказить рейтинг ресторана, так и высоко Количество возможных совпадений может исказить точность NGI-IPS. Пятьдесят потенциальных совпадений - это максимум, который могут запросить агентства. система может выплевывать всего лишь два, GAO говорит, что чем меньше список, тем менее точна система.

Там также вся досадная ложная положительная вещь. «Должностные лица ФБР заявили, что они не оценили, как часто поиски по распознаванию лиц NGI-IPS ошибочно сопоставляют человека с базой данных (ложное срабатывание)». Ложные срабатывания - простите за мой язык - серьезные ошибки, поскольку они «могут изменить традиционная презумпция невиновности в уголовных делах, возлагая на подсудимого больше бремени, чтобы показать, что он не тот, кем система его идентифицирует ». Система может нарушить любой конец уравнения: если фотография плохого качества, показатели успеха стремительно падают; если программное обеспечение низкого качества, показатели успеха падают. Низкие показатели успеха означают много ложных срабатываний.

После завершения отчета GAO дал Генеральному прокурору США Лоретте Линч и директору ФБР Джеймсу Коми шесть рекомендаций. Суть: у Министерства юстиции есть проблема с непрозрачностью. Общественность может знать, что ее частная жизнь нарушается, но общественность не знает конкретно как его конфиденциальность нарушается. Кроме того, Министерство юстиции должно устранить недостаток надзора, чтобы обеспечить минимальные нарушения конфиденциальности. Наконец, Министерство юстиции должно убедиться - хотя и задним числом - в том, что эти программы надежны.

Министерство юстиции полностью согласилось только с одной рекомендацией. Он «частично согласился» с еще двумя, но отклонил оставшиеся три - два из которых пытались установить руководящие принципы точности.