Apple iPhone X не может отличить китайские лица, получен возврат

$config[ads_kvadrat] not found

Обзор iPhone 12 Pro Max — лучшая камера? Сравнение с Pixel 5!

Обзор iPhone 12 Pro Max — лучшая камера? Сравнение с Pixel 5!
Anonim

На прошлой неделе в Нанкине, крупном городе на востоке Китая, женщине по имени Ян дважды предлагали возмещение от Apple за ее неисправный iPhoneX, который ее коллега разблокировал с помощью технологии распознавания лиц. Обе женщины этнически китайцы.

Ян рассказала местным новостям, что в первый раз, когда это произошло, она позвонила на горячую линию iPhone, но они ей не поверили. Только когда она и ее коллега пошли в местный магазин Apple и показали сотрудникам магазина, что они предложили ей возмещение, и она купила новый телефон, думая, что, возможно, виновата неисправная камера.

Но у второго телефона была та же проблема, предполагая, что это была не неисправная камера, как предположили работники магазина, а проблема с самим программным обеспечением.

Это будет не первый случай, когда программное обеспечение для распознавания лиц и ИИ, стоящие за ним, сталкиваются с трудностями при распознавании небелых лиц.

В 2015 году Google Фото случайно пометил фотографию двух афроамериканцев как горилл, а в 2009 году компьютеры HP http://www.youtube.com/watch?v=t4DT3tQqgRM) столкнулись с трудностями при распознавании и отслеживании черных лиц - но нет проблем с белыми лицами. В том же году программное обеспечение камеры Nikon было названо мигающим азиатским лицом.

Google Фото, вы все облажались. Мой друг не горилла. pic.twitter.com/SMkMCsNVX4

- Джеки (@jackyalcine) 29 июня 2015 г.

«По сути, это проблема с данными», - пишет Кейт Кроуфорд, главный исследователь в Microsoft и сопредседатель Симпозиума Обамы по обществу в Белом доме и А.И. «Алгоритмы учатся, используя определенные изображения, часто выбираемые инженерами, и система строит модель мира на основе этих изображений. Если система обучена на фотографиях людей, которые в подавляющем большинстве случаев белые, ей будет труднее распознавать небелые лица ».

Джеки Алсин, программист из Бруклина, чья фотография была неправильно помечена Google, согласилась. Из своего опыта он сказал: «Этого можно было бы избежать с помощью точной и более полной классификации чернокожих».

Но расизм, который закодирован в ИИ, даже если он непреднамеренный, имеет последствия, выходящие за рамки простого распознавания лиц.

Расследование ProPublica в 2016 году показало, что черные преступники в два раза чаще ошибочно помечены как вероятные для совершения преступлений, чем белые преступники, в то время как растущая тенденция «предиктивной полицейской деятельности» использует алгоритмы для прогнозирования преступности и соответственно направляет ресурсы полиции.

Тем не менее, сообщества меньшинств исторически подвергались чрезмерному контролю, что привело к возможности того, что «это программное обеспечение рискует увековечить и без того порочный круг», говорит Кроуфорд.

Вернувшись в Нанкин, Китай, Ян получила второе возмещение за свой второй iPhoneX. Из местных новостей неясно, купила ли она тогда третью.

То, что было поставлено на карту в этот раз, возможно, было всего лишь одним потребителем. Но случай Яна был примером постоянной необходимости для технологической индустрии проектировать с учетом разнообразия и инклюзивности.

$config[ads_kvadrat] not found