Чужой А.И. Ученые утверждают, что текстовое сообщение - это ящик Пандоры

Что если первый контакт с инопланетной жизнью - это не приземление НЛО посреди Центрального парка, а просто сообщение, посланное по звездам? Что может быть скрыто внутри этого инопланетного общения?

Астрономы Майкл Хиппке из Обсерватории Соннеберг в Германии и Джон Лиред из Гавайского университета размышляли над этим сценарием, и они убедительно утверждают, что просто нет способа узнать, есть ли в этом сообщении что-то злое, и что нет способа сдержать такой А.И. как только сообщение прочитано.

Присоединяйтесь к нашей частной группе Dope Space Pics в Facebook для еще более странного чуда.

В документе, который был недавно размещен на препринтном сайте arXiv, объясняется фундаментальная проблема кода. Очень простое сообщение в виде простого текста, визуальных или звуковых сообщений, вероятно, можно было бы считать безопасным, просто распечатав его и посмотрев на него вручную, но что-либо более сложное, чем это, потребовало бы его обработки компьютером. Невозможно узнать, присутствует ли вредоносный или вредоносный код, пока наша программа не запустит его.

Да, есть меры предосторожности, которые мы могли бы применить. Авторы предлагают компьютер на карантине, расположенный на Луне, с ядерными бомбами с дистанционным управлением, подготовленными к запуску при первых признаках проблемы. Послание держится в тайне от внешнего мира, и только небольшая группа правительственных исследователей и сотрудников знает, что происходит.

Но если есть разумный А.И. внутри кода, который более интеллектуален, чем мы, - и это неправдоподобно, учитывая, что пришельцы, стоящие за ним, должны быть значительно более продвинутыми, чем мы, чтобы отправить его в первую очередь - тогда это всего лишь вопрос времени, прежде чем он получит верх, «ИИ может предложить ценные вещи, такие как лекарство от рака, и сделать небольшой запрос взамен, например, увеличить производительность своего компьютера на 10 процентов», - пишут авторы. «Представляется разумным принять предложение. Когда мы это делаем, мы начинаем бизнес и торгуем с ним, что не имеет четких ограничений. Если лекарство от рака будет состоять из чертежей для наноботов: должны ли мы их создавать и выпускать в мир, если мы не понимаем, как они работают? Мы могли бы отклонить такие предложения, но не должны забывать, что люди участвуют в этом эксперименте ».

Даже если, как предполагают авторы, для А.И. требуется игра по психологии охранника с больным ребенком. чтобы найти способ убежать, это будут найти в конце концов. Кроме того, ничто не останется в тайне навсегда, и может ли какое-либо правительство, будь то демократическое или диктаторское, надеяться на то, чтобы навсегда заинтриговать общественность от чужой разведки?

Как только человеческий компьютер читает сообщение об инопланетянах, A.I. это только вопрос времени. внутри становится доминирующий разум на Земле. Учитывая, что мы контролируем только планету, потому что в настоящее время мы занимаем эту позицию, нам остается только надеяться, что программа пришельцев будет доброжелательной.

И, честно говоря, сами авторы настроены оптимистично.

«Мы можем только решить уничтожить такое сообщение или рискнуть», - пишут они. «Всегда разумно заранее понимать риски и шансы и делать сознательный выбор за или против него, а не слепо следовать случайным путем. В целом, мы считаем, что риск очень мал (но не равен нулю), а потенциальная выгода очень велика, поэтому мы настоятельно рекомендуем прочитать входящее сообщение ».