Почему мы до сих пор доверяем Amazon? Как большие технические гиганты не могут защитить общество

Амазонка, возможно, ожидала большого общественного внимания, когда объявила, что она создаст свою новую штаб-квартиру - но, как и многие технологические компании в последнее время, она, вероятно, не ожидала, насколько негативным будет ответ. На выбранных Амазонкой территориях Нью-Йорка и Вирджинии местные политики возражали против обещаний компании, финансируемых налогоплательщиками. Журналисты по всему политическому спектру планировали сделки - и социальные сети наполнились голосами жителей Нью-Йорка и Вирджинии, обещавших сопротивление.

Точно так же откровения о том, что Facebook использовал антисемитские теории заговора, чтобы подорвать легитимность своих критиков, указывают на то, что вместо изменения Facebook скорее пойдет в наступление. Даже когда Amazon и Apple увидели, что их рыночная стоимость ненадолго превысила 1 трлн. Долл., Технологические лидеры были потянуты до Конгресса, изо всех сил пытались согласованно занять позицию в отношении высказываний на почве ненависти, были уличены в сокрытии сексуальных проступков и видели, как их собственные сотрудники протестуют против деловых сделок.

В некоторых кругах это рассматривается как потеря общественного доверия к технологическим фирмам, которые обещали переделать мир - в социальном, экологическом и политическом отношении - или, по крайней мере, как разочарование тем, как эти компании изменили мир. Но технологическим компаниям нужно сделать гораздо больше, чем вернуть доверие общественности; им нужно доказать, что они это заслужили в первую очередь - чего нельзя сказать об истории технологической критики и скептицизма.

Глядя в сторону от проблем

Крупные технологические компании создавали свои проекты в неопределенно утопическом, позитивно звучащем языке, который затемняет политику и государственную политику, выходит за рамки пристрастия и - что удобно - избегает проверки. Google обычно напоминал своим работникам: «Не будь злым». Facebook работал, чтобы «сделать мир более открытым и связанным». Кто может возразить против этих идеалов?

Ученые предупреждали об опасности таких платформ задолго до того, как многие из их основателей даже родились. В 1970 году социальный критик и историк технологий Льюис Мамфорд предсказал, что целью того, что он назвал «компьютерным умом», будет «предоставление и обработка бесконечного количества данных, чтобы расширить роль и обеспечить господство в системе власти». В том же году оригинальное эссе феминистского мыслителя Джо Фримена предупредило о внутреннем дисбалансе сил, который остался в системах, которые, казалось, делали всех равными.

Аналогичным образом, в 1976 году ученый-компьютерщик Джозеф Вейзенбаум предсказал, что в предстоящие десятилетия люди окажутся в бедственном положении, поскольку они все больше будут зависеть от непрозрачных технических систем. С тех пор было издано бесчисленное множество подобных предупреждений, в том числе важные недавние исследования, такие как исследование ученой Сафии Нобл о том, как поиск в Google повторяет расовые и гендерные предубеждения, и заявление медиа-исследователя Шивы Вайдьянтхана о том, что «проблема с Facebook - это Facebook».

Технологические компании являются могущественными и богатыми, но их дни, когда они избегают проверок, могут заканчиваться. Американская публика, похоже, начинает подозревать, что технологические гиганты не были готовы и, возможно, не желали брать на себя ответственность за инструменты, которые они выпустили в мир.

После президентских выборов 2016 года в США сохраняется обеспокоенность тем, что российское и другие иностранные правительства используют любую доступную платформу социальных сетей для того, чтобы сеять раздор и недовольство в обществе по всему миру.

Facebook до сих пор не решил проблемы с конфиденциальностью и прозрачностью данных, вызвавшие скандал с Cambridge Analytica. Твиттер является предпочтительным мегафоном для президента Дональда Трампа и домом для беспокоящих насильственных высказываний на почве ненависти. Будущее корпоративных офисов Amazon складывается в многоплановую драку между выборными должностными лицами и людьми, которых они якобы представляют.

Это невежество или наивность?

Рассматривая нынешнюю ситуацию с учетом истории критического анализа технологий, трудно не прийти к выводу, что технологические компании заслуживают кризисов, с которыми они сталкиваются. Эти компании просят людей доверить им свои электронные письма, личные данные, историю поиска в Интернете и финансовую информацию, и многие из этих компаний с гордостью заявляют, что знают людей лучше, чем они сами. Они продвигают свои новейшие системы, в том числе «умные колонки» и «умные камеры», стремясь обеспечить мониторинг каждого бодрствующего момента пользователя - и спящего момента - также, вводя больше данных в свои алгоритмы заработка денег.

И все же, казалось бы, неизбежно эти компании продолжают демонстрировать, насколько они недостойны доверия, утечки данных, обмена личной информацией и неспособности предотвратить взлом, поскольку они медленно наполняют мир тревожной техно-паранойей, достойной эпизода «Черного зеркала». «.

Ответы технологических компаний на каждое новое открытие соответствуют стандартной схеме: после того, как разразился скандал, компания, о которой идет речь, выражает тревогу по поводу того, что что-то пошло не так, обещает провести расследование и обещает добиться большего в будущем. Спустя некоторое время - дни, недели или даже месяцы - компания раскрывает, что скандал был прямым результатом того, как система была спроектирована, и выдавливает испуганного руководителя, чтобы выразить возмущение по поводу разрушительного использования плохих людей, найденных для их системы, не признавая, что проблема в самой системе.

Сам Цукерберг сказал Сенату США в апреле 2018 года, что скандал с Cambridge Analytica научил его «мы несем ответственность не только за то, чтобы дать людям инструменты, но и за то, чтобы эти инструменты использовались во благо». Это довольно фундаментальный урок, который мы пропустили при создании многомиллиардной компании.

Восстановление из того, что осталось

Использование любой технологии - от ножа до компьютера - несет риски, но по мере того, как технологические системы увеличиваются в размерах и сложности, масштаб этих рисков также имеет тенденцию к увеличению. Технология полезна только в том случае, если люди могут использовать ее безопасно, таким образом, когда преимущества перевешивают опасности, и если они могут быть уверены, что понимают и принимают потенциальные риски. Пару лет назад Facebook, Twitter и Google могли показаться большинству людей добрыми способами общения, которые принесли обществу больше, чем они отняли. Но с каждым новым скандалом и запутанным ответом все больше и больше людей видят, что эти компании представляют серьезную опасность для общества.

Как бы ни было заманчиво указать на кнопку «выкл.», Это не простое решение. Технологические гиганты превратили себя в ткань повседневной жизни сотен миллионов людей. Предполагать, что люди просто бросают курить, просто, но не понимает, насколько много людей стали зависимыми от этих платформ - и насколько они могут оказаться в ловушке во все более невыносимой ситуации.

В результате люди покупают книги о том, насколько плохой Amazon - заказывая их на Amazon. Они проводят в Google поиск статей о том, сколько информации Google знает о каждом отдельном пользователе. Они пишут в Твиттере о том, как сильно они ненавидят Твиттер, и публикуют в Фейсбуке статьи о последнем скандале в Фейсбуке.

Технологические компании могут оказаться руководителями растущей пользовательской базы, поскольку их платформы распространяют недовольство все шире и шире, чем это возможно в прошлом. Или же они могут решительно изменить себя, разрушив себя, передав контроль над демократическими решениями своих пользователей и взяв на себя ответственность за вред, который их платформы и продукты принесли миру. Тем не менее, похоже, что пока индустрия не пошла дальше, предлагая полусырые извинения, продолжая вести бизнес как обычно. Надеюсь, это изменится. Но если прошлое - какое-то руководство, оно, вероятно, не будет.

Эта статья была первоначально опубликована в «Разговоре» Захари Леб. Прочитайте оригинальную статью здесь.