Создатель «Этого человека не существует» раскрывает жуткую историю происхождения своего сайта

Филипп Ванг - 33-летний инженер-программист, ответственный за создание сайта с искусственным интеллектом, который недавно стал вирусным. Каждый раз, когда страница обновляется, алгоритм, известный как генеративная сеть состязаний (GAN) (первоначально закодированный Nvidia), создает гиперреалистичные портреты полностью поддельных людей.

Трюк был разработан, чтобы привлечь внимание к постоянно растущей способности А.И. представлять как реальные изображения, которые являются полностью искусственными. Но, как говорит Ван Inverse, у этого трюка есть разветвления, которые выходят далеко за пределы: «эй, посмотрите на этого реально выглядящего фальшивого человека». В обществе, где картинки и изображения являются стандартными суррогатами для «доказательства», ГАН - автоматизируя работу, которая когда-то требовала кропотливого труда на часть экспертов по визуализации - скоро позволит любому предоставить «доказательство» того, что любой мыслимый человек совершил какую-либо мысль.

«Я в основном нахожусь в той точке своей жизни, где я собираюсь признать, что сверхразум будет реальным, и мне нужно посвятить свою оставшуюся жизнь ему», - объясняет он. «Реакция говорит о том, сколько людей в неведении относительно А.И. и его потенциал. »

Сайт задел аккорд. Бывший инженер-программист Uber говорит, что с момента запуска «Этого человека не существует» посещали около 4,2 миллиона раз, что неплохо для одноразового сайта, первоначально размещенного в закрытой группе Facebook. Первоначально Ван использовал это как способ убедить нескольких друзей присоединиться к независимой А.И. исследования, над которыми он сейчас работает. Но в течение дня он решил, что более широкая аудитория может извлечь выгоду из изучения потенциала GAN. По его словам, реакция говорит о том, как важно информировать людей о том, что технология такого типа может быть одновременно революционной и опасной.

Почему поддельные лица представляют собой страшный прорыв

Сайт Вана использует алгоритм StyleGAN от Nvidia, который был опубликован в декабре прошлого года. Потенциал, по его мнению, варьируется от полезного, но обыденного (например: оптимизация имплантации зубной коронки) до более отдаленного, например, позволяющего воображению совершенно новых молекул служить в будущих лекарствах. Но эта революционная технология также сделает обман и дезинформацию легче, чем когда-либо прежде.

Причина, по которой варианты использования настолько многогранны, заключается в том, что существует множество способов применения GAN, которые обучаются путем сопоставления двух сетей друг с другом: генератора и дискриминатора. Генератору дают реальные изображения, которые он пытается воссоздать как можно лучше, в то время как дискриминатор учится различать поддельные изображения и оригиналы. После миллионов тренировок, алгоритм развивает сверхчеловеческие возможности для создания копий изображений, на которых он обучался.

Это тот же метод, который создает глубокие подделки, или компьютерные изображения, наложенные на существующие изображения или видео, и которые часто используются для подталкивания поддельных новостных сюжетов или других мистификаций.

И хотя Ван восхищен инновациями, которые он принесет многим предприятиям, он также хочет, чтобы люди больше знали о потенциальном ущербе, который он может причинить.

Например, злодейский актер может распространять сгенерированное GAN видео или изображение, изображающее фиктивное событие, чтобы спровоцировать беспорядки, протесты или другие потенциально насильственные реакции в Интернете.

Поскольку весь процесс автоматизирован, все, что кому-то понадобится, - это доступ к массиву графических процессоров (GPU) или графических карт, которые обеспечивают машинное обучение, и к набору данных изображений, чтобы начать подделывать, как по маслу.

В более долгосрочной перспективе, хотя StyleGAN способны создавать неподвижные изображения людей, которых никогда не было, заставить эти изображения говорить и двигаться естественным путем - это всего лишь пара шагов. К счастью, Ван отмечает, что простое информирование о GAN сделает людей менее восприимчивыми к тому, что они будут обмануты. Повышенная осведомленность облегчит нам всем возможность наслаждаться улучшениями в 3D-графике и медицине, которые, вероятно, появятся в StyleGAN.

«Я просто надеюсь, что моя демонстрация повышает осведомленность. Те, кто не знают, наиболее уязвимы для этой технологии », - сказал Ван. «С другой стороны, А.И. действительно принесет много добра в этот мир ».

Отправить письмо автору: [email protected]