Роботист Tufts призывает к морали машины: роботы должны «не подчиняться, чтобы подчиняться»

Роботы становятся все более важными для нашей повседневной жизни, и вскоре им придется столкнуться с некоторыми из сложных моральных решений, которые мы должны делать на регулярной основе. Матиас Шойц (Matthias Scheutz), профессор компьютерных наук в лаборатории взаимодействий человека и робототехники при Университете Тафтса, особенно обеспокоен тем, что мы даже не оснастили даже наших самых совершенных прототипов роботов способностью справляться с некоторыми из этих ситуаций. Шойц считает, что роботам придется научиться не подчиняться людям, если мы хотим, чтобы они действительно служили нашим потребностям.

В комментарии к Сегодня онлайн, провокационно под названием «Роботы должны быть в состоянии не повиноваться, чтобы подчиняться», Шойц просит читателя определить, что должен делать робот, если столкнется с рядом ситуаций, которые могут даже запутать человека. Некоторые из них:

Робот по уходу за пожилыми людьми, которому забытый владелец поручил стирать «грязную одежду», хотя одежда только что вышла из стиральной машины.

Студент, приказывающий своему наставнику-роботу выполнить всю домашнюю работу, а не делать это самостоятельно.

Бытовой робот поручил своему занятому и отвлеченному владельцу управлять уборкой мусора, даже если в него воткнуты ложки и ножи.

То, что Scheutz стремится описать в статье, - это простой факт, что нам понадобятся роботы, которые знают, как сказать «нет» людям. Многие из его примеров связаны с надежностью человека, управляющего роботом, но это сложнее, чем кажется, запрограммировать робота, который знает, как получать инструкции от тех, кто не слишком молод, не слишком стар или явно пытается создать проблемы.,

Некоторые из этих проблем уже горячо обсуждаются в штаб-квартире самых влиятельных мировых технологических компаний, поскольку они ищут новые способы, которыми технологии могут захватить части нашей жизни. Шойц приводит в пример автономный автомобиль, который направляется назад, но замечает собаку, лежащую на его пути. Большинство из нас согласны, что даже человек, ведущий машину, хотел бы, чтобы машина остановилась, но что, если животное было белкой или енотом? Что, если автомобиль проехал 45 миль в час по проселочной дороге и внезапно затормозил из-за собаки, рискуя подвергнуть машину столкновению с другим транспортным средством, находящимся позади нее?

«В любом случае, обеим автономным машинам важно обнаружить потенциальный вред, который могут причинить их действия, и отреагировать на него, пытаясь избежать этого, или, если вреда невозможно избежать, отказываясь выполнять указания человека», Шойц пишет о подобной дилемме.

Команда Шойца работала над этими проблемами с помощью своих прототипов и обнаружила, что самой сложной частью этих вопросов является дифференциация незначительных степеней вреда, которые могут возникнуть, когда робот следует определенному порядку. Поэтому они дали своему роботу очень простой, но мощный моральный урок, который позорил бы даже великих философов.

«Если вам дано указание выполнить действие, и, возможно, выполнение действия может причинить вред, то вам разрешено не выполнять его».

Тонким образом, это революционный прогноз Шойца. Конечно, мы все стараемся избежать вреда, но неужели иногда мы думаем, что можно рисковать? Прогулка по улице, поедание второй порции десерта или даже копирование заметок друга из класса может нарушить аксиому Шойца.

Понятие роботизированного вмешательства также предполагает, что Шойц хочет, чтобы его роботы следовали закону. Не ждите, что ваш робот-помощник из Шойциана поможет вам нелегально скачивать новую музыку. Это может нанести вред акционерам EMI!

Это сложная область моральной, правовой и технической мысли, и Шойц не боится атаковать ее с ног на голову.