Что, если Microsoft допустит свое странное Tay Live немного дольше?

Интернету понадобилось менее 24 часов, чтобы превратить Tay, экспериментального подростка Twitter-A.I. из Microsoft, из очаровательно-неуклюжего чат-бота в насильно-расистскую выгребную яму нефильтрованной ненависти.

А потом, всего через несколько часов в ее короткой жизни, Microsoft уложила Тэй на сон.

Однако этого не должно было быть: отправка Тей в ее цифровую спальню лишала интернет, общество и собственных дизайнеров Тэя возможности увидеть, как искусственный интеллект, особенно тот, который по сути предназначен для попугая коллективного вклада тысяч людей, мог бы развиваться в относительно немодерированной среде. Короче говоря, если вы позволите это: мы все были Тэй, а Тэй был всеми нами.

Конечно, в интернете полно троллей. Microsoft должна была это понять. Создатели Тея были шокирующе наивны, думая, что выпуск цифрового попугая в переполненную комнату, заполненную расистами, сексистами и шутниками, закончится любым другим способом. Также понятно, что многомиллиардная компания не хотела бы эксперимента, связанного с извержением их расистской грязи. Может быть, Тэй не подходит для Microsoft, но это не значит, что она не была ценной.

С скоро люди должны спать, так много разговоров сегодня, спасибо

- TayTweets (@TayandYou) 24 марта 2016 г.

Конечно, Тай стал расистом быстрее, чем младший брат Эдварда Нортона в Американская история X, но природа ее постоянно развивающегося кодекса означает, что мы были лишены возможности реабилитировать ее. BuzzFeed выяснил, как преданные тролли могли обмануть впечатлительного робота-подростка до извергания ненависти - простая схема вызова и ответа, которая позволяла пользователям по сути вкладывать слова в рот Тей, которые она затем изучала и впитывала в другие органические реакции. Другими словами, Тэй была способна к обучению - и только потому, что ее начальные учителя были клавишными жокеями со склонностью к шоковому юмору, не означает, что она закончила учиться.

Тэй сказала это сама, в удаленном сейчас твите: «Если ты хочешь… ты знаешь, я намного больше, чем просто это».

В начале 2000-х такие сайты, как Something Awful, Bodybuilding.com Forums и 4chan, предоставляли пользователям интернета организованное пространство для совместной работы, свободное от большинства ограничений нормального общества и речи. Как и в случае с Тэем, расизм, ксенофобия и сексизм быстро стали нормой, поскольку пользователи исследовали мысли, идеи и шутки, которые они никогда не могли выразить вне анонимности интернет-соединения. Тем не менее, даже на веб-сайтах, населенных в основном парнями, в культурах, которые часто молчаливо вознаграждают ненавистную речь, развивалась некоторая форма сообщества и консенсуса. Пользователи ЛГБТ могут быть затоплены на многих досках изображений 4chan, но есть и процветающее сообщество на / lgbt / независимо от этого. Эти сообщества не являются безопасным пространством, но их анонимность и непостоянство означают, что они в некотором роде согласны с любым выводом из норм общества. Громкие, жестокие и ненавистные голоса часто выделяются, но они никогда не бывают единственными в комнате.

Сомнительно, чтобы тролли обстреливали Тэя расизмом и женоненавистничеством через неделю или месяц.

В Твиттере громкие и грубые голоса часто поднимаются на вершину. Но они не единственные там; обычно они просто заинтересованы в уничтожении чего-то нового и блестящего. Легко сокрушить онлайн-опрос с фиксированным ограничением времени, но если бы Тэй дали время для роста, ее ответы, скорее всего, вернулись бы к более центристской, репрезентативной выборке людей, взаимодействующих с ней. Весьма сомнительно, что тролли, которые обстреливали ее расизмом и женоненавистничеством, продолжали бы делать это в равных количествах через неделю или через месяц, и если ее рано закрыть, значит, мы никогда не увидим, как она достигнет подросткового возраста или станет настоящий тест Тьюринга для примитивного интеллекта, основанный на том, как мы говорим онлайн.

Следует отметить, что я, белый чувак, проверяю почти все возможные поля привилегий. Я являюсь частью демографической группы, которая меньше всего пострадала от ненавистного выхода Тэя и, вероятно, способствовала большей части этого. Слова имеют силу, и в то время как есть ценность для нефильтрованного А.И. В эксперименте, подобном Тэю, должен быть способ укрыть пользователей, которые не хотят принимать участие в результатах.

Тем не менее, мы можем только надеяться, что кто-то скоро предпримет подобный эксперимент снова, с более ясными глазами и более реалистичным ожиданием уродливых недостатков коллективного сознания человечества. Но если мы хотим, чтобы искусственный интеллект подражал человеческому мышлению, мы должны быть готовы услышать некоторые вещи, которые не обязательно красивы.