OpenAI Элона Маск может стать мускулом для исследований в области искусственного интеллекта

В выходные Элон Маск, Сэм Альтман и другие влиятельные лица из Силиконовой долины неожиданно объявили о запуске OpenAI, некоммерческой компании, которая описывает свою цель как: «продвигать цифровой интеллект таким образом, который наиболее вероятно пойдет на пользу человечеству в целом, не ограничен необходимостью генерировать финансовую прибыль ».

«Поскольку в наших исследованиях нет финансовых обязательств, мы можем лучше сосредоточиться на положительном влиянии человека. Мы считаем, что А.И. должно быть продолжением человеческой воли и, в духе свободы, как можно более широко и равномерно распределяться ».

Из этого объявления есть два основных вывода. Во-первых, Мускус и компания видят А.И. исследования в настоящее время слишком узко сосредоточены на достижении краткосрочной практической ценности, и они хотят помочь продвинуть усилия, которые принимают более широкий, всесторонний подход к развитию А.И. системы. Второй, более завуалированный вывод: Маск по-прежнему обеспокоен возможностью А.И. причинить вред, если мы разработаем и внедрим полусухие системы. Мускус ранее называл А.И. «Наша самая большая экзистенциальная угроза» и предположил, что регулирующий надзор может быть необходим для предотвращения потенциальных опасностей. OpenAI может быть способом обеспечения такого контроля без необходимости в федеральном наблюдателе.

То, что Маск и его коллеги делают, отличается от того, что делали другие. Ведь с открытым исходным кодом А.И. ничего нового Google сделал свой собственный А.И. Программное обеспечение с открытым исходным кодом в прошлом месяце, и это стало довольно стандартной процедурой. Но с фондом в 1 миллиард долларов OpenAI уже является одной из крупнейших организаций, работающих над A.I. исследования, и довольно легко самый большой некоммерческий. Его цель - сделать его результаты общедоступными, а все патенты - бесплатными. У них есть кнут и пряник, и они намерены использовать его для управления промышленностью.

Идея состоит в том, чтобы использовать OpenAI как своего рода противовес крупным корпорациям, частным исследовательским лабораториям и даже мировым правительствам, у которых есть невероятные суммы денег и ресурсов для вливания в свои собственные А.И. исследования, которые не могут быть посвящены дружественным целям, а могут привести к технологиям с гнусными приложениями. Исследователи, работающие с OpenAI, будут в основном заниматься «дружественным» делом А.И., без необходимости показывать немедленные результаты. Там может быть больше внимания для безопасности и конструктивных особенностей, которые частные предприятия могут быть склонны игнорировать. Не будет белой башни, где лишь немногие избирают путь А.И. развитие. Это будет долгожданный мир для всех.

В интервью с Backchannel Мускус также подчеркивает стремление сделать самые разнообразные А.И. системы. «Мы хотим А.И. быть широко распространенным », - говорит он. «Мы думаем, что, вероятно, много хорошо».

Это важно, потому что это, вероятно, является основной причиной, по которой Маск и Альтман хотят демократизировать А.И. Они считают лучший вид А.И. - тот тип, который принесет пользу человечеству в позитивном ключе без создания повелителей роботов, - это тот тип, который действует как «расширение индивидуальной воли человека», как выразился Маск. Он продолжает говорить:

«Как в А.И. расширение себя так, что каждый человек по существу симбиотичен с ИИ, в отличие от ИИ, являющегося большим центральным интеллектом, своего рода другим. Если вы думаете о том, как вы используете, скажем, приложения в Интернете, у вас есть электронная почта, социальные сети и приложения на ваших телефонах - они фактически делают вас сверхчеловеческим, а вы не думаете о них как о будучи другим, вы думаете о них как о продолжении себя. Таким образом, в той степени, в которой мы можем направлять ИИ в этом направлении, мы хотим это делать. И мы нашли ряд инженеров-единомышленников и исследователей в области ИИ, которые чувствуют то же самое ».

В основном, видение OpenAI для А.И. исследования - это децентрализованное сообщество, которое помогает связывать людей друг с другом и с самим миром.

Маск еще не обрисовал в общих чертах, как они будут препятствовать тому, чтобы исследования в пределах самого OpenAI - или переназначались внешними группами - шли в опасном направлении. Здесь есть еще кое-что, на что стоит обратить внимание: системы с открытым исходным кодом имеют смысл, только если данные, используемые для построения алгоритмов машинного обучения, свободно распространяются. Интеллектуальная система должна учить как быть умным и для этого нужно учиться на данных и опыте. Это похоже на строительство плотины - вам нужны и чертежи (алгоритм), и строительные материалы (данные), чтобы на самом деле сделать что-то, что остановит воду.

Вот почему люди по-прежнему ограничены в том, что они могут делать с Google TensorFlow - у них пока нет данных, которые есть у Google. И если коллаборация, созданная на основе OpenAI, не предоставит свободный доступ к тем же данным, с которыми работают внутренние исследователи, концепция Маск не обязательно будет реализована - или, по крайней мере, не так, как он ее продвигает.

Маск, Альтман и другие основатели OpenAI начали что-то, что окажет огромное влияние на рост A.I. отныне и впредь. В то же время они должны быть откровенны в своем стремлении способствовать развитию сообщества исследователей открытого кода, что означает, что они должны быть публичными о своих планах относительно некоммерческой компании и готовы делиться данными. В противном случае OpenAI не будет сильно отличаться от стайных компаний, для которых оно было разработано.