Как новый центр Калифорнийского университета в Беркли мог предотвратить А.И. Апокалипсис

Калифорнийский университет в Беркли только что добавил свое имя в растущий список авторитетных учреждений, работающих над тем, чтобы не допустить уничтожения человечества злонамеренным искусственным интеллектом. Его новый Центр искусственного интеллекта, совместимый с человеком, объявленный в понедельник, призван обеспечить, чтобы А.И. остается полезным, а также для предотвращения А.И. Апокалипсис.

Собственный А. Беркли А.И. Эксперт, профессор Стюарт Рассел, руководит предприятием. Проект «Открытая филантропия» предоставил Центру грант в размере 5,5 млн. Долл. США, а также другие. Несколько других экспертов из Беркли, Корнелльского университета и Мичиганского университета будут выступать в качестве соучредителей.

Корнелл профессор Барт Сельман рассказал обратный о Центре, который мы должен страх, и почему мир, вероятно, не катится в ад в корзинке - пока.

Что вы надеетесь достичь с помощью Центра совместимого с человеком А.И.?

Эти центры являются относительно новым развитием. Люди делают инвестиции - например, в Институт будущего будущего вложены средства от Элона Маск из Теслы - для решения вопросов, касающихся будущего жизни и возможных угроз для будущего жизни и общества. Новый центр в Беркли является еще одним примером такого института.

Это вдохновлено изменяющейся ролью искусственного интеллекта и вычислений в нашем обществе. Эти технологии внедряются в наше общество и будут влиять на нас. Эти институты собираются для того, чтобы собрать вместе исследователей для изучения возможных негативных воздействий или того, как убедиться в отсутствии негативных воздействий.

Само название Центра предполагает, что А.И. и человечество по своей сути несовместимо. Это твоя точка зрения?

Это первая реакция людей на то, что эти вещи могут быть несовместимыми. Мы на самом деле считаем, что при наличии надлежащих мер предосторожности, а также надлежащих руководящих принципов и исследований мы можем действительно согласовать интересы и убедиться, что эти технологии полезны. А.И. У технологии есть огромные положительные стороны, и цель общества состоит в том, чтобы мы оставались на положительных сторонах. Исследователи, работающие в институте, считают, что это возможно.

Если бы вы могли принять перспективу конца света, как бы выглядел наиболее вероятный сценарий конца света?

Явным риском будет военное развитие искусственного интеллекта, которое может привести к гонке вооружений с применением искусственного интеллекта между странами: автономное оружие, автономные беспилотники, которые подчиняются своим собственным командам, разработанные различными странами, которые враждебны друг другу. Это самый конкретный риск, который я вижу. Я думаю, что А.И. например, для автомобилей с самостоятельным вождением - для регулярных ролей в обществе - будет очень полезным. Но военный аспект вызывает беспокойство.

Это уже тяжелая битва?

Страны фактически рассматривают эту проблему. В определенном смысле это тяжелая битва: военные стремятся к развитию А.И. технология. Но были достигнуты договоренности - например, биологическое оружие, пожалуй, самый известный случай, - когда страны в какой-то момент решили, что оно пойдет на пользу всем странам не разработать биологическое оружие в больших масштабах. Мы надеемся, что страны поймут, что недостаток для всех слишком велик, чтобы пойти на тотальный А.И. гонка вооружений.

Если обе стороны разработают эту технологию, никто не будет впереди.

Есть ли что-то еще, что я должен знать о Центре или о злобном А.И. в общем?

Важно дать положительную сторону. Риски легко подчеркнуть - и, конечно, отчасти именно поэтому эти центры создаются - но также важно отметить, что многие исследователи считают, что этот риск поддается управлению и что положительные стороны будут огромными.

Вы уже дали перспективу конца света. Каковы некоторые потенциальные положительные применения А.И. что вы действительно взволнованы?

Положительными сторонами будет общество, в котором нам помогает эта технология. Синхронные речевые переводы - например, между китайским и английским языками - где люди могут просто общаться, как если бы они говорили на родном языке, друг с другом по всему миру. Уход за пожилыми людьми: люди могут оставаться дома так долго, как им хочется, потому что у них есть робот-помощник, который помогает им жить независимо.

Это, вероятно, окажет довольно драматическое влияние на жизнь в целом - в плане занятости и того, что мы расставляем по приоритетам.

Да. Есть дебаты о занятости, которые являются своего рода отдельной дискуссией. Будет достаточно ресурсов, чтобы поддержать всех, поэтому возникает вопрос о том, как мы обеспечим, чтобы все получили пользу от этих разработок. Будет переосмысление того, что значит работать, какую работу люди будут выполнять. Но в принципе у людей будет больше свободы и больше времени для занятий, которые им нравятся, потому что машины помогут многим другим, более обыденным, Работа вещи типа Это займет некоторое время, но мы верим, что общество адаптируется и медленно внедряет эти изменения.

Это интервью было отредактировано для ясности и краткости.