2001: HAL
Как нам остановить будущее А.И. от неподчинения приказам и выбора идти своим путем? Это может звучать как сюжет из 2001: Космическая Одиссея, но один эксперт утверждает, что это то, о чем мы, возможно, уже должны начать думать. Конечно, мы можем отключить алгоритм поиска Google, если он когда-нибудь станет мошенническим, но когда он сталкивается с финансовыми и юридическими последствиями, его легче сказать, чем сделать. В будущем, поскольку мы становимся зависимыми от более продвинутых А.И., это может оказаться невозможным.
«Этот алгоритм не был специально разработан сам невозможно перезагрузиться или отключиться, но так оно и было », - сказал Стюарт Армстронг, исследователь из Института будущего человечества, на Пиратском саммите 2016 года в среду. Это означает, что изменение с непреднамеренными результатами может быть трудно исправить, и оно может быть не первым A.I. найти себя в этой ситуации.
Решением Исаака Азимова были три закона робототехники, которые жестко кодируют идеи, например, не причиняя вреда людям. Проблема в том, что вред довольно субъективен и открыт для интерпретации. Люди больше работают над ценностями, например понимают, что причинять вред вредно, и интерпретируют ситуацию, чем работают над неким жестким правилом, согласно которому они никогда не должны причинять вред.
«Именно из-за такого рода проблем люди гораздо больше заинтересованы в том, чтобы использовать машинное обучение для получения ценностей, а не пытаться кодировать их традиционным способом», - сказал Армстронг. «Ценности стабильны в том смысле, что другие вещи не в А.И. Ценности защищают самих себя ».
Но даже в этих ситуациях важно разработать А.И. сделать их непрерываемыми, пока они бегут. Безопасное прерывание допускает безопасные изменения политики, которые могут избежать непреднамеренных последствий от изученных ценностей. Если HAL 9000 когда-либо пытался остановить открытие дверей отсека, важно, чтобы мы могли определить, что значения А.И. испорчены, и вмешиваться, не переводя систему в автономный режим.
Наблюдайте за тем, как этот волнистый робот-червь плавает легко через жидкость для имитации тела
Мысль об убийстве червей, ползущих по вашему телу, как органическая водная горка, может вызвать у вас дрожь в спине, но однажды странный робот-извиватель может спасти вам жизнь: ученые усердно работают, придумывая, как применять робототехнику в таких областях, как пищевая медицина , И они приближаются к прорыву ...
Sony PlayStation VR вызывает болезнь после запуска, но вот как это остановить
Игроки изо всех сил пытаются оставаться на устройстве с PS4 в течение длительных периодов, но некоторые пользователи узнали, как перестать чувствовать себя плохо после игры в VR.
Вот почему «Разбойник» Mon Calamari разных цветов
Некоторые из Mon Calamari в «Rogue One» бледно-голубые, почти белые, чего мы никогда раньше не видели в «Звездных войнах». Оказывается, это из-за того, где они живут.