Это то, что происходит, когда Дональд Трамп встречает искусственный интеллект

Брэдли Хейс, сотрудник докторской диссертации в Массачусетском технологическом институте, который занимается исследованиями в области робототехники, только что превратил Дональда Дрампа Трампа в робота. Он запрограммировал рекуррентную нейронную сеть - искусственный интеллект - для изучения и подражания речам кандидата от республиканцев.

«Хайс», говорит он, это «исследование, сфокусированное на совместной работе человека и робота: разработка алгоритмов, позволяющих роботам работать вместе и учиться у людей, чтобы люди могли быть более безопасными, более эффективными и более эффективными в своей работе». @DeepDrumpf это «побочный проект». Он черпал вдохновение из «фантастического эскиза» Джона Оливера. («Надеюсь, он это увидит - надеюсь, он это увидит и оценит».)

обратный говорил с Хейсом об этом патриотическом начинании.

Что еще вдохновило вас на создание @DeepDrumpf?

Это произошло во время обеденного разговора с некоторыми моими коллегами, которые также занимаются исследованиями в области робототехники и занимаются машинным обучением. Мы говорили о некоторых различных методах статистического моделирования, которые действительно были актуальны для нашего исследования.Оказывается, что тот же метод, который стоит за DeepDrumpf, работает во многих областях робототехники, потому что это метод моделирования, который пытается изучить структуру последовательной информации или последовательных данных. Естественный язык является отличным примером последовательных данных, где структура предложения довольно непротиворечива: есть правила и базовая структура для всех данных, которые вы получаете.

Унаследовать 100 миллионов? И сейчас я строю по всему миру. И у меня есть немного круто.

- DeepDrumpf (@DeepDrumpf) 4 марта 2016 г.

Другой исследователь из Стэнфорда написал курс по нейронным сетям и, в частности, опубликовал статью под названием «Необоснованная эффективность рекуррентных нейронных сетей». Итак, он написал это фантастическое введение в эту методику статистического моделирования и кучу люди показали, что он обладает необоснованной властью представлять структуру при записи текстовых данных в произвольной форме.

Я видел статью, в которой сравнивалась сложность речи различных политических лидеров. В статье говорилось о том, как Трамп использует более упрощенный язык, и это сильно ударило по его демографическому голосу и его поклонникам. С политической точки зрения это действительно здорово, потому что оно делает ваше сообщение ясным и доступным для самой широкой аудитории; с точки зрения машинного обучения, это означает, что это может быть самой подходящей моделью, которую мы можем сделать.

Слышали ли вы о языке программирования под названием «Сделайте Python снова великим»?

Вы знаете, я видел это вчера. TrumpPython или что-то в этом роде? Я видел это. Я прочитал об этом статью, зашел на их страницу GitHub, но у меня еще не было времени поиграть с ней. Но выглядит отлично.

Можем ли мы узнать что-нибудь о лингвистических тенденциях Трампа или что-нибудь подобное от вашего А.И.?

Да, это возможно в том смысле, что, если вы посмотрите на выходные данные модели, это свидетельствует о структуре, которую модель извлекла из данных. Так что виды повторений, виды вещей, которые выходят из модели, расскажут вам - потенциально - о некоторых вещах, которые присущи его речевым моделям и его посланию.

Канзас Они все сказали: «Мне ничего не нужно. У них была ужасная страна, и есть особая инфраструктура, наша страна нуждается в богатых.

- DeepDrumpf (@DeepDrumpf) 4 марта 2016 г.

Вы не обязательно сможете получить это из самой учетной записи Twitter, в основном потому, что Twitter дает вам только 140 символов для работы. И поскольку в модель не вошло много данных, а также отчасти потому, что стенограммы взяты из дебатов, где кандидаты (и особенно Трамп) имеют тенденцию прерывать себя, это приводит к этим разрывам в выходных данных.

Требуется еще немного ручной работы, чтобы в основном взять образец текста из этой модели, а затем пройти через него и выбрать лучший непрерывный слепок из 140 символов, а затем опубликовать его.

Это дело. Наш президент - Обамакар. Теперь, это то, чего нет. Большое спасибо. Мы не болельщик, мы интересны

- DeepDrumpf (@DeepDrumpf) 4 марта 2016 г.

Таким образом, это не очень невежливо в этот момент?

Он эффективно учится как распределение вероятностей, и вы можете выбирать из него. Это означает, что у вас есть модель, и вы можете попросить письмо. И, если вы попросите в нем достаточно букв подряд, он даст вам вещи, которые похожи на английский. Или, что еще лучше, некоторые из них напоминают то, что на самом деле мог сказать Трамп - потому что это было обучено ему. Итак, общий процесс, которым я следую, таков: я бы взял, скажем, 500 или 1000 символов из него. Это просто дало бы мне текстовую стену с 500 или 1000 символов, я думаю, бредом, а затем из этого я просто выберу лучший блок из 140 символов, который имеет смысл. Или лучшее предложение, которое выходит из этого, которое кажется уместным.

Например, прошлой ночью я использовал это для того, чтобы транслировать дебаты в прямом эфире. Итак, одна из вещей, которую вы можете сделать с такой моделью, это то, что вы можете заправить ее. Таким образом, поскольку модель дает вам только один символ за раз, она зависит от символов, которые предшествуют ей - букв, которые она выводила ранее. Вот как он узнает слова, так он отражает структуру предложений и некоторые элементы грамматики.

Скажем, я начинаю свое предложение с «Ромни есть», а затем спрашиваю его для следующей тысячи символов. Мы называем это грунтовкой. Он выдаст все, что захочет, но установит начальную часть последовательности так: «Ромни…»

Это ссылки на эти твиты с фразами в скобках?

Абсолютно верно.

Ромни инструмент. Я хочу сказать тебе это. Они, наверное, последнее, что нам нужно в лидере. Мы не можем этого сделать.

- DeepDrumpf (@DeepDrumpf) 3 марта 2016 г.

Одна из вещей, которые я надеюсь сделать после того, как процесс станет немного чище - и в который будет добавлено больше данных, - это начать взаимодействовать с другими кандидатами. Если вы посмотрите на учетную запись в Twitter, она отслеживает других основных кандидатов. В конце концов, мы надеемся начать отвечать на них и, возможно, бросить им вызов. Но это больше похоже на проект выходного дня.

@realDonaldTrump Они собираются платить прямо сейчас, и вроде бы, абсолютно. Я действительно богатый. О, я хочу поддержать и иметь их.

- DeepDrumpf (@DeepDrumpf) 3 марта 2016 г.

Можете ли вы объяснить, что такое текущая нейронная сеть на упрощенном, неспециализированном языке?

Конечно, мы попробуем. Нейронная сеть, как правило, принимает какой-то вход, затем выполняет математические вычисления в середине и выдает результат. В общем, это просто классификатор. Таким образом, при некотором вводе он скажет вам, какому классу соответствует этот ввод. Популярным примером будет - базовая нейронная сеть - вы даете ей изображение кота, и вы хотите, чтобы он сказал вам, что - если это, например, кошка, собака, или самолет, или машина - вы хотите чтобы сказать, что «Хорошо - с высокой уверенностью - это кошка, которую вы только что дали мне».

Так что это задача классификации высокого уровня. Это похожая концепция, но вместо того, чтобы быть кошкой, собакой, машиной, классы представляют собой отдельные буквы алфавита и знаки препинания. Таким образом, он принимает вклад, а затем выполняет математические расчеты, основываясь на том, что он изучил - поэтому все обучение происходит «в середине», мы назовем это - и в конце вы получите классификацию. Так, вроде Это письмо.

То, что делает его возвратный Нейронная сеть состоит в том, что выходные данные предыдущих шагов передаются на следующий шаг как часть модели. Тот факт, что модель дала мне «М», послужит основой для следующего прогона модели. Таким образом, он может дать вам «а», а затем «к», а затем «е», потому что он пытается выпустить «Сделай Америку великой снова», потому что это много представлено в данных.

Вы особенно гордитесь какими-либо твитами DeepDrumpf?

Да, на самом деле. У меня есть пара, которую я еще не опубликовал, но -

исключающее.

Смеется Точно. Из тех, которые опубликованы, я особенно доволен: «Мне то, что не нужно ИГИЛ».

Мне то, что не нужно ИГИЛ.

- DeepDrumpf (@DeepDrumpf) 3 марта 2016 г.

Давайте посмотрим … Я посеял это с "Я не расист, но …", и продолжение этого было "… верь в это", что я считаю довольно превосходным. Я собирался сохранить этот на тот случай, когда он станет актуальным, если он станет актуальным.

Ничего хорошего после этих слов не приходит.

Вы бы предпочли голосовать за Дональда Трампа или голосовать за @DeepDrumpf?

Я думаю, что есть компромиссы с каждым из этих выборов.