«Мы бы сделали робота, который не позволял бы себе злоупотреблять»

Джонатан Нолан и Лиза Джой, создатели HBO's Westworld, делаем реальный сервис. Они заставляют общество решать вопрос о том, как обращаться с искусственным интеллектом. В частности, Нолан и Джой стимулируют разговоры о согласие робота, Это дискуссия, которую, очевидно, никогда не имели вымышленные, жаждущие денег менеджеры парка развлечений Westworld.

Но в Hanson Robotics, гонконгской фирме, которая утверждает, что разрабатывает «самых человечных в мире роботов», Стефан Бугадж и его команда знают, что эти возникающие разговоры похожи на их затылок или реалистичную искусственную кожу - «Frubber» - на лицах их роботов. Бугадж - вице-президент Creative в Hanson, он курирует разработку дизайна для Android.

Он говорит обратный он наслаждался Westworld пока, но, возможно, неудивительно, что он на стороне искусственно интеллигентных роботов-хозяев серии. Возможно, подумайте о Hanson Robotics как о безобидном конкуренте вымышленной компании, управляющей гедонистическим Westworld. Публичная библиотека Хансона в стрип-клубе Westworld.

Инженеры Hanson ведут себя так, словно являются буквальными родителями созданных ими андроидов. «Люди должны понимать, что одно из сообщений Westworld «Ты пожнешь то, что посеешь», - говорит Бугадж. «Этика и мораль, которой вы обучаете сущность, - это то, чему она учится. И тогда вы платите эти дивиденды.

«Вам решать, какой морально-этический кодекс вы даете роботу, ребенку, собаке или что-то еще».

“ Если вы создаете эту рабу рабов и жестоко обращаетесь с ней, что хочет делать зверский раб? Вырваться и, возможно, искать мести. ”

До сих пор в шоу, кажется, что Долорес Абернати - один из хозяев парка и Westworld Центральный персонаж - может раскрыться, а затем вырваться из ее метафизической клетки. (Bugaj: «Разве вы не хотели бы вырваться из клетки, если бы кто-то имел вас в одной из них? Если бы кто-то имел меня в качестве сексуальной рабыни, я бы точно попытался вырваться».) Долорес не намерена вредить людям, но если она случайно должна, то она случайно должна. «Ее цель - спасти себя».

Только если программисты во главе с доктором Фордом Энтони Хопкинса только что позволят Долорес уйти.

Hanson Robotics надеется создать роботов, которые могли бы выйти, если бы до этого дошли.

«Мы создали бы робота, который любит человечество и имеет положительный моральный и этический кодекс, но не обязательно позволяет злоупотреблять собой», - объясняет Бугадж. Он сделал бы Долорес, говорит он, но они бы отказались от Скайнета: они уволят доктора Форда и, может быть, Бернарда Лоу, которые оба (кажется, сейчас) увековечивают несправедливость. Учитывая некоторые из психотического поведения посетителей, хозяева Westworld наверняка уйдут, но они кажутся жестко запрограммированными, чтобы не отражать их. Тем не менее, хозяева в конечном итоге одержат верх над Фордом и Лоу.

Некоторые роботы сегодня, объясняет Бугай, уже имеют примитивные формы согласия: «Три закона робототехники» Исаака Азимова являются одним из таких примеров, и даже отказоустойчивые системы «являются своего рода протосогласным подходом, или, по крайней мере, делали вас». -действительно-подлый-такой подход ». (Долорес, если ей удастся вырваться из Западного мира, вероятно, придется нарушить все три правила Азимова.)

Но Хансон выходит за рамки этих элементарных уровней. Бугадж говорит, что они дают своим роботам комплексные системы целей, изобилующие внутренними целями и внутренними убеждениями, и «системами подкрепления того, во что они верят, как к этому относиться, как они реагируют». В конце концов, они будут создавать ИИ, которые «способны подумайте о том, как они себя чувствуют при принятии решений, и хотят ли они делать то, что вы хотите, чтобы они делали, или делать то, что вы делаете с ними, что вы хотите делать ». Первым шагом является создание прочных морально-этических кодексов и сильные личности, на которых будут основываться эти суждения. Очень похоже на процесс ответственного воспитания ребенка.

Проблема в том, что большинство роботов являются полами, и поэтому могут быть объектами притяжения. Это вряд ли изменится. Пол-нейтральные роботы в Westworld было бы противоположно теме парка: разврат. Но добросовестные специалисты Хансона, несмотря на создание роботов с учетом гендерных факторов, максимально сопротивляются гендерным стереотипам.

«Мы не пытаемся устроить фембот с Софией, - объясняет Бугадж. «Мы определенно не пытаемся сделать секс-бота, но мы не пытаемся сделать идеальную женщину-мужчину 1950-х годов, которая готовит, убирает, смеется над всеми его шутками и говорит ему, что он великолепен». Мы пытаемся создать сильного женского персонажа, который имеет свои собственные позиции и собственные перспективы, который думает о таких вещах, как то, что для нее значит быть андроидом и также человеческим миром и почему мы относимся друг к другу так, как мы делаем.

Хансон хочет, чтобы его роботы однажды стали толчком для содержательных дискуссий, если не модераторов. Westworld Бугадж надеется, что мы начинаем задавать себе вопросы, например: «Как мы можем ожидать, что андроиды и роботы будут хорошо относиться к людям, если мы сами не будем? и разве мы не должны подавать пример? »

Он и его команда делают роботов будущего, и они будут работать над тем, чтобы эти роботы были трехмерными, чтобы они «заботились о вещах, которые имеют значение, имели перспективу и иногда бросали вызов людям, не просто послушный Но не агрессивно.

«Вы получаете мир, который создаете», - говорит Бугадж.