Стереотипный робот Georgia Tech - это будущее ИИ, а не расизма

Для ушей, воспринятых после школьных специальных мероприятий и семинаров по разнообразию, это будет звучать плохо, но мы хотим, чтобы роботы выносили быстрые суждения на основе внешнего вида. Преодоление предрассудков - это хорошо, но неспособность к стереотипам снижает интеллект - искусственный и другой. Алан Вагнер, доктор философии, робототехник в Georgia Tech, является главным сторонником технологии стереотипирования. Он утверждает, что такого рода логику не нужно применять к расе или полу, просто к ситуациям и поведению.

В начале теста своего алгоритма стереотипа Вагнер обучил наивного робота делать выводы из того, что он видел. Робот научился и стал восприимчивым, что позволило Вагнеру начать критически думать об этике предположений роботов, особенно запрограммированных. Он говорил с обратный о его работе и ее последствиях.

Проведи меня через эксперимент.

Робот взаимодействует с различными типами людей - пожарными, EMT или еще чем-нибудь - но у него нет никакого предшествующего опыта ни с одной из этих категорий людей. Это, в основном, опытное обучение.

Идея заключалась в том, чтобы показать, что робот может использовать перцептивные функции человека для прогнозирования их потребностей в плане использования инструмента. Как работает алгоритм, камера робота будет воспринимать различные аспекты того, как выглядел человек - их однородный цвет, например, есть ли у него борода и цвет волос.

Это также задавало бы им вопросы о том, как они выглядят. Конечно, задавать вопросы - это не то, что вы хотите делать в поле, но восприятие робота сейчас настолько ограничено. Нам нужен был способ начать процесс обучения о человеке. Человек выбирал инструмент, а затем робот выбирал инструмент, и со временем робот узнал, какой инструмент предпочитает каждый тип человека.

Вы ожидали, что робот узнает, что значок означает полицейского или тяжелое отражающее пальто означает пожарного?

Мы вроде как этого и ожидали. Но были и некоторые удивительные вещи.Например, робот ошибочно распознал, что борода предсказана пожарным - это было странно, но когда вы смотрите на данные, это не удивительно. Первые несколько человек, которые взаимодействовали с ним, были пожарными, у которых были бороды. Таким образом, мы утверждаем необходимость в восприятии разнообразия, идея о том, что если бы робот мог видеть большие, широко разные типы людей в категории, он бы лучше развивал и понимал категорию.

Вы сказали бы, что автономные роботы должны быть обучены, чтобы сгладить эти причуды, чтобы робот не думал, если у этого человека есть борода, он пожарный?

Абсолютно. Крайне важно, чтобы мы сгладили эти вещи. Очень важно, чтобы у нас были эти роботы, которые работают от разных людей.

Как может выглядеть это обучение?

Это позволило бы роботу сосредоточиться на вещах, которые лучше характеризуют пожарных. Например, пожарный может даже не носить куртку. Робот тогда заметит другие аспекты пожаротушения, возможно, сапоги, возможно, перчатки, возможно, шлемы. Было бы сказано: «Хорошо, этот человек действительно является пожарный в этой среде ».

Если у вас было достаточно людей, он мог бы распознать пожарного на пожаре, а не пожарного на вечеринке в честь Хэллоуина. Это тонкие детали восприятия, такие как разница между качеством типов униформы или контекстной средой.

Помимо сопоставления бороды с пожарными, насколько успешным был этот алгоритм?

Мы действительно хотели взглянуть на две вещи: во-первых, что вы можете с этим сделать? Если роботы могут распознавать пожарных, это действительно помогает? Бумага показала, что это позволило вам сузить область поиска. Вместо того, чтобы смотреть на бороды по цвету волос, в поисках цвета глаз или чего-либо еще, что вы могли бы искать, вы могли бы сосредоточиться на функциях, которые действительно имели значение. Человек носит пальто пожарного? Это может ускорить процесс.

Еще одна очень важная вещь, на которую мы обратили внимание: что, если предсказанная роботом категория неверна? Как это влияет на вас? Вы можете представить себе, что условия поиска и спасения могут быть хаотичными: возможно, вы работаете в дымовых условиях, робот может не очень хорошо все воспринимать, у него могут быть ошибки. Вы можете представить себе худший случай, когда робот думает, что человек является жертвой, когда на самом деле он пожарный. Так что он пытается спасти пожарного. Это было бы ужасно. Мы хотели увидеть, где он ломается, как он ломается, какие особенности влияют на него больше всего, и каковы различные виды ошибок.

Вы можете использовать этот подход по-разному - если они вообще не видят этого человека, но могут видеть действия, которые они совершают. Если я вижу, как человек выбирает топор, я могу предсказать, что у него есть шлем.

Как вы подходите к тому, чтобы заставить робота оценить контекст и сделать прогноз?

Мы попытались взглянуть на пару различных типов среды - ресторан, школу и дом престарелых. Мы попытались отразить особенности среды и какие объекты находятся в этой среде, какие действия выбирает человек и как выглядят люди в этой среде, и пытаемся использовать это, чтобы сделать много социальных прогнозов. Например, в школьной среде люди поднимают руки, прежде чем говорить. Так что, если я увижу, как люди поднимают руку, какие объекты я бы ожидал увидеть в окружающей среде? Ожидаю ли я увидеть классную доску? я ожидаю увидеть стол? Я ожидаю увидеть детей.

Надежда там использовать эту информацию. Если робот выполняет процедуру эвакуации, он будет видеть, какие типы людей там находятся и где они могут быть.

Допустим, к вашей двери приходит робот, который говорит: «Пожалуйста, следуйте за мной к выходу». Что-то настолько простое, что кажется на самом деле очень сложным. Если робот стучит в дверь в многоквартирном доме, вы не представляете, с кем будете взаимодействовать. Это может быть четырехлетний ребенок, это может быть 95-летний человек. Мы хотели бы, чтобы робот адаптировал свое интерактивное поведение к тому типу людей, которых он видит, чтобы спасти их. Мы берем некоторые из этих контекстных уроков и пытаемся разработать это приложение.

Используете ли вы похожее определение «стереотип» для роботов и людей, или что-то еще происходит?

Термин стереотип имеет негативный контекст. То, как мы его используем, - это просто для развития категорий людей и использования категориальной информации для прогнозирования характеристик человека. Я знаю в психологии, много работы сосредоточено на лицевых стереотипах и гендерных стереотипах. Мы не делаем ничего подобного. Процесс такой же? Я не знаю. Без понятия.

Вы волнуетесь, что у людей могут быть неправильные представления о вашей работе?

Пару лет назад мы разработали эту идею роботов, которые могут обманывать людей. В средствах массовой информации было немного неправильное представление о том, что это приведет к тому, что роботы украдут кошельки людей.

Я хотел бы использовать ситуацию экстренной эвакуации: вы не всегда хотите быть полностью честным с человеком, находящимся в эвакуации, верно? Например, если кто-то спросит вас: «С моей семьей все в порядке?» Может быть ужасно, если робот скажет: «Нет, они все умерли. Пожалуйста, следуйте за мной до выхода ». В некоторых ситуациях робот действительно должен быть ненадолго нечестным. Но по моему опыту, люди чувствовали, что мы пытаемся привести к концу света.

Мы всегда заинтересованы в просоциальных аспектах этих методов человек-робот. Мы пытаемся помочь людям, а не быть чем-то плохим.