OpenAI: бывшая фирма Элона Маск находится на грани нового А.И. эпоха

OpenAI, некоммерческая организация, занимающаяся исследованиями в области искусственного интеллекта, соучредителем которой является Элон Маск, в 2016 году, добилась больших успехов - даже после того, как Маск расстался со своими разногласиями по поводу своего направления. Исследователи разработали системы, которые могут играть в игры, писать новостные статьи и перемещать физические объекты с потрясающими уровнями ловкости.

OpenAI вызвал споры с его исследованиями. На прошлой неделе было объявлено о разработке языковой модели GTP2, которая может генерировать тексты с ограниченными запросами. Учитывая написанное человеком приглашение «Майли Сайрус была поймана воровством в магазине у Аберкромби и Фитча на Голливудском бульваре сегодня», система произвела правдоподобную полную историю, которая продолжилась тем, что «19-летнего певца поймали на камеру, которую сопровождают из магазина. охранниками ».

Он также создал эту оригинальную историю о говорящих единорогах, основанную на коротком приглашении:

«Я не был тесно связан с OpenAI уже более года, и у меня нет руководства или контроля со стороны совета директоров», - сказал Маск в Twitter на выходных. «Мне пришлось сосредоточиться на решении чрезвычайно большого числа инженерных и производственных проблем в Tesla (особенно) и SpaceX. Кроме того, Tesla боролась за тех же людей, что и OpenAI, и я не был согласен с тем, что хотела сделать команда OpenAI. Прибавь к этому все, и было бы лучше расстаться на хороших условиях ».

Фирма изначально казалась для Маск идеальным способом для достижения своих целей использования А.И. на благо человечества. Предприниматель ранее предупреждал об «фундаментальном риске» для цивилизации, создаваемом супер-умными машинами, призывая правительства регулировать «как мы делаем еду, наркотики, самолеты и автомобили».

Маск пообещал 10 миллионов долларов, чтобы основать фирму на начальном этапе, и ее миссия сосредоточена на «открытии и определении пути к безопасному искусственному общему интеллекту».

Нетрудно понять, как сравнительно небольшое количество людей могут использовать программы, в которых рассказывается история, подобная той, которую рассказывает руководитель OpenAI Грег Брокман, чтобы влиять на мнение менее опытной публики.

Сотрудник OpenAI распечатал этот образец, написанный AI, и отправил его в мусорную корзину: http://t.co/PT8CMSU2AR pic.twitter.com/PuXEzxL7Xd

- Грег Брокман (@gdb) 14 февраля 2019 г.

«Из-за нашей озабоченности по поводу вредоносных приложений технологии мы не выпускаем обученную модель», - пояснила компания в своем блоге. «В качестве эксперимента по ответственному раскрытию информации мы вместо этого выпускаем гораздо меньшую модель для экспериментов, а также технический документ».

Объявление вызвало опасения, что технология может быть использована для создания поддельных новостей. Аналитика Индии предупредил, что с предстоящими выборами в Индии в конце этого года А.И. может нанести ущерб демократическому процессу. Исследователи OpenAI сами заявляют, что в сочетании с исследованиями в области производства синтетического аудио и видео «широкой общественности необходимо скептически относиться к тексту, который они находят в Интернете».

Райан Лоу, А.И. ученый и бывший стажер OpenAI, резюмировал угрозу такой программы, которая использовалась для краткого создания фальшивых новостей в этой распространенной публикации Medium:

… Автоматизированная система может: (1) позволить плохим актерам, у которых нет ресурсов для найма тысяч людей, проводить масштабные кампании дезинформации; и (2) резко увеличить масштабы кампаний по дезинформации, уже проводимых государственными субъектами.

Не все исследования OpenAI оказались столь противоречивыми. Дактил, представленный в июле 2018 года, может адаптироваться к физике реального мира, чтобы манипулировать объектами в реальном мире. Рука робота очень сложна, с 24 степенями свободы, но система может легко перемещать объекты, используя три камеры RGB и координаты руки робота.

Рука робота использует преимущества универсальных алгоритмов обучения подкреплению, используемых для победы над людьми в видеоиграх. Команда «OpenAI Five» столкнулась с командой профессионалов Dota 2 игроков в 2018 году. Система была обучена играм, рассчитанным на 180 лет, с использованием потрясающих 128 000 процессорных ядер и 256 графических процессоров. В то время как он побил команду бывших профессионалов и стримеров Twitch, он проиграл профессиональным игрокам.

Мускус использовал Dota 2 соответствует привлечь внимание к Neuralink, его план создать симбиотические отношения с А.И. связывая человеческий мозг и избегая захвата роботов:

Отличная работа @OpenAI. Скоро понадобится нейронный интерфейс, чтобы включить симбиоз человека / ИИ.

- Элон Маск (@elonmusk) 6 августа 2018 г.

В своем объявлении генератора текста OpenAI заявил, что планирует обсудить свою более широкую стратегию через шесть месяцев. Фирма надеется спровоцировать нюанс дискуссий об опасностях искусственного интеллекта, что может избежать некоторых сценариев бедствий, предусмотренных Маском. Однако даже компания признает, что «не уверена, что» отказ от генератора текста «является правильным решением сегодня». Поскольку раскол между двумя основными структурами, предупреждающими об опасностях ИИ, уже сформировался, маловероятно, что законодателям будет легко время в разработке решений.