Проект OpenAI Элона Маск определил 4 большие проблемы для ИИ

Большинство проблем, которые могут возникнуть в результате все более изощренного искусственного интеллекта, гораздо сложнее, чем SkyNet, но это не означает, что умнее А.И. не приходит без рисков.

Вот почему Элон Маск и другие знаменитости из Силиконовой долины создали Open AI, группу, посвященную решению проблем с A.I. прежде чем они смогут нанести реальный ущерб. Эта группа называется OpenAI, и она ищет помощи по этим вопросам.

«OpenAI - это некоммерческая исследовательская компания по искусственному интеллекту», - говорит группа на своей странице «О компании». «Наша цель - продвигать цифровой интеллект таким образом, который, скорее всего, пойдет на пользу человечеству в целом, без необходимости генерировать финансовую отдачу».

Объявление о работе, замаскированное под пост в блоге под названием «Специальные проекты», выделяет четыре таких «проекта» как проблемы, которые имеют «либо очень широкие последствия», либо затрагивают «важные возникающие последствия развития ИИ». А затем его авторы - Илья Суцкевер, Дарио Амодей и Сэм Альтман - пригласите сильных экспертов по машинному обучению «начать работу над одной из этих проблем в OpenAI». Просто подайте заявку, спрашивают они. Вот эти четыре большие проблемы, стоящие перед искусственным интеллектом:

Нахождение скрытых систем ИИ.

Что хуже, чем очень умный А.И. что можно использовать не по назначению? Очень умный А.И. это уже используется для неправильной цели, никто не знает. «По мере увеличения числа организаций и ресурсов, выделяемых на исследования ИИ, увеличивается вероятность того, что организация совершит нераскрытый прорыв ИИ и будет использовать систему для потенциально злонамеренных целей», - пишет команда OpenAI в своем блоге. «Кажется, важно это обнаружить. Мы можем представить множество способов сделать это - смотреть новости, финансовые рынки, онлайн-игры и т. Д. »

Строительство А.И. это может программировать.

Некоторые из лучших программистов ленивы. Поэтому имеет смысл, что OpenAI хочет создать A.I. способен создавать программы самостоятельно. Лучше потратить время на создание А.И. достаточно умен, чтобы кодировать все, что вам может понадобиться в будущем, чем кодировать все эти вещи самостоятельно. Это 2016 год, чтобы громко кричать, а кодерам нужен перерыв!

Использование А.И. для кибер-обороны.

«На раннем этапе ИИ будет использоваться для проникновения в компьютерные системы», - пишет OpenAI. «Мы бы хотели, чтобы методы ИИ защищались от сложных хакеров, интенсивно использующих методы ИИ». Это звучит хорошо, тем более что MIT предупредил, что нынешний А.И. опирается на людей для защиты от кибератак.

Создание действительно сложных симуляций.

«Мы заинтересованы в создании очень большой симуляции с множеством различных агентов, которые могут взаимодействовать друг с другом, учиться в течение длительного периода времени, изучать язык и достигать разнообразных целей», - пишет команда OpenAI.

О, давай. Теперь вы, ребята, просто пытаетесь доказать, что Маск прав насчет того, что мы живем в симуляции.