Внутренний: тирания счастья

Универсальные солдаты: кому нужна этика робототехники в эпоху военных роботов

«Я понимаю, почему вы плачете. Но сам я плакать не могу».
— Т-800, «Терминатор 2»

Кто придумал роботов

Карел Чапек сумел заглянуть в будущее, когда в 1920 году писал свою пьесу “R.U.R.”, также известную как «Россумские универсальные роботы». С легкой руки чешского фантаста слово «робот» вошло в повседневную жизнь и научную фантастику.

Пьеса начинается на фабрике, на которой из синтетических материалов создаются искусственные люди — «роботы». На чешском “robota” — «принудительный труд; долг, который крепостной должен отработать на земле феодала». Робот — это не только фантастическая машина, но и нечто столь примитивное и знакомое нам, например, лифт или банкомат.

Несмотря на название, чапековское творение — скорее, андроиды, так как они выглядят, как люди, и способны на самостоятельное мышление. В начале они с радостью работают на пользу людям, но всё заканчивается первым среди множества в фантастике восстанием машин. Уже через несколько лет пьесу перевели на тридцать языков, а «робот» заменил прежнее «автоматон» во всех языках мира.

«Роботы Чапека — последствия травматичной трансформации мирового общества Первой мировой войной и конвейером Форда».

— критик Джон Ридер

Андроид (в переводе с греческого «подобный человеку») — это гуманоидный робот или синтетический организм, напоминающий по своему внешнему виду человеческое существо, но не являющееся на самом деле живым. Зачастую сходство столь сильное, что отличить человека от андроида практически невозможно, однако есть и исключения. Например, С-3РО из вселенной «Звездных войн» — дроид (укороченная форма слова «андроид», придуманная специально для «Звездных войн»). К этой же категории можно отнести репликантов из «Бегущего по лезвию» и Дейту из «Звездного пути». Разумеется, это деление не прописано ни в одном своде правил или законов. Например, R2-D2 из «Звездных войн» — тоже «дроид», хотя по сути этот робот — разумный почтовый ящик, никоим образом не напоминающий человека. Существует еще и термин «гиноид» — женственный гуманоидный робот.

Откуда взялись киборги

Киборг — это «кибернетический организм», по крайней мере частично созданный из органических тканей. Киборги — гибриды биологического и искусственного, органики и механического. Человек с механической рукой или сердцем, по сути, тоже киборг.

Первым примером киборга в кино считается персонаж черно-белого фильма Эжена Лурье «Колосс Нью-Йорка». Едва ли не лучший пример киборга в поп-культуре — Робокоп из фильма Верховена, так как он создан на основе человеческого тела. Относительно Терминатора существует множество разногласий, так как хотя в киновселенной он заявлен как киборг, его скорее можно отнести к андроидам, потому что у него нет органических частей тела, кроме кожи, которую он носит, словно пальто. Терминатор прекрасно может функционировать и без нее. В «Терминаторе 2» герой Шварценеггера описывает самого себя как «живую ткань на металлическом скелете». Функционирующих частей человеческого организма, как полагается образцовому киборгу, у него нет.

Как появилась этика робототехники

Если Чапек стал первым, кто открыл для роботов дверь в поп-культуру, то впихнул их в эту дверь Айзек Азимов, безжалостно подчинивший всех роботов, киборгов и андроидов своим законам робототехники. Азимов, считающийся вместе с Артуром Кларком и Робертом Хайнлайном одним из трех главных корифеев научной фантастики вообще в ответе за многие тропы этого жанра, сегодня превратившиеся в шаблоны: межгалактические империи, приятели-роботы, планетарные города.

Достоверно известно, что Азимов читал «Россумских роботов» и высказался о работе так: «Пьеса Чапека, по моему мнению, невероятно плоха, но она бессмертна благодаря одному этому слову. Она принесла слово „робот“ в английский, а посредством английского во все другие языки, на которых сейчас пишут фантастику».

Три закона Азимова созданы именно для того, чтобы предотвратить ситуацию, подобную той, что складывается в «Россумских роботах» и в фантастике 30–40-х годов. Правила эти Азимов сформулировал после того, как написал первые свои рассказы.

  1. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред.
  2. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку причинили вред.
  3. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  4. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Одно из самых вопиющих примеров нарушения «трех законов» в поп-культуре — поведение андроида Эша в фильме «Чужой». Чтобы выполнить специальный приказ 937, Эш должен пожертвовать командой «Ностромо», чтобы привезти для корпорации образцы Чужого.

Именно нулевой закон является главным источником конфликта: благо отдельного человека и человечества не всегда равнозначны.

Кроме того, человеческое существо конкретно, в то время как человечество в целом — абстракция. Робот не может навредить человеку, но что, если робот найдет способ доказать, что, навредив человеку, поможет человечеству?

Из книг Азимова законы в том или ином виде успешно перекочевали в книги Терри Пратчетта, Лестера дель Рея, Роджера Макбрайда Аллена, Джека Уильямсона и других, а также шоу «Доктор Кто», франшизы «Чужие» и «Робокоп». В 1970-х болгарские фантасты Любен Дилов и Никола Кесаровски добавили еще два закона:

  1. Робот всегда должен обозначить, что является роботом.
  2. Робот должен знать, что он — робот.

Последние два закона продемонстрированы в действии в сериале «Мир Дикого Запада», где самосознательность андроидов играет важную роль, и постоянно обсуждается вопрос того, что отличает робота от настоящего человека. В частности, в первом сезоне неясно, осознает ли персонаж Бернарда, что он не является человеком.

Причинит ли робот вред человечеству

Если во времена Чапека появление роботов казалось фантастикой, то сегодня это скорее данность. В следующем десятилетии компьютеры по производительности превзойдут человеческий мозг. Уже сейчас ведется бурное обсуждение того, какое место займут роботы в современном обществе и каким правилам они должны подчиняться. Ведь у искусственного интеллекта нет норм морали, навязываемым им обществом, родителями, учителями, окружением — только то, что в них заложено программой.

Осенью 2017 года Илон Маск заявил Национальной ассоциации губернаторов, что «искусственный интеллект является фундаментальным риском для самого существования человеческой цивилизации».

Маск — основатель проекта OpenAI, расположенного в Сан-Франциско. Эта организация обеспокоена потенциальным риском от излишнего влияния искусственного интеллекта на общество. В 2016 году OpenAI выпустил в свет программу, которая замеряла уровень разумности ИИ в играх, приложениях и на сайтах. Маск покинул проект из-за конфликта интересов со своей работой над ИИ для «Теслы», но проект продолжает функционировать.

Вдохновением для основания OpenAI стали опасения ученых Стивена Хокинга и Стюарта Расселла, которые верили, что продвинутый ИИ может получить способность изменять себя и самостоятельно совершенствоваться, что приведет к исчезновению человечества. Стивен Хокинг считал, что ИИ может быть в ответе за «худшее событие в истории цивилизации», Илон Маск с ним соглашался, утверждая, что «ИИ — главная экзистенциальная угроза для человечества».

Представители OpenAI далеки от абсолютных реакционеров. Они считают, что «трудно переоценить, сколько пользы может принести искусственный интеллект, равномерный человеческому», но так же трудно понять, «как он может навредить обществу, если при его создании будут допущены ошибки». В проекте полагают, что радикальные улучшения в ИИ произойдут очень скоро, и нельзя медлить с подготовкой сдерживающих мер.

По данным исследования Pew Research Centre, 72 % респондентов «взволнованы» перспективой влияния искусственного интеллекта на рабочие места. В своей книге «Кому принадлежит будущее» Джарон Ланье говорит, что из-за развития технологий пропадут миллионы рабочих мест и возрастет социальное неравенство. Если управлять обществом и получать хороший доход будут только те, кто управляет компьютерами, то что будет с простыми «синими воротничками»? Значительная часть людей, по версии ученого, будет жить в бедности, пока будет процветать лишь незначительная технократическая элита. И имеем ли мы право поступиться человечностью, оставив стольких людей за бортом ради прогресса?

По версии Ланье, средний класс «выключен» из онлайн-экономики. Убеждая юзеров выдавать ценную личную информацию в обмен на бесплатные услуги, фирмы получают множество важных данных задаром. Ланье зовет подобные компании «серверы-Сирены», делая отсылку к «Одиссее»: вместо того, чтобы платить каждому человеку за их вклад в базу данных, серверы-Сирены концентрируют богатство в руках тех немногих, кто контролирует эти данные.

Растет число общественно-политических групп, обеспокоенно следящих за развитием ИИ. Американский конгрессмен-демократ Джон Делейни и его коллега-республиканец Пит Олсон запустили проект Artificial Intelligence Caucus. Его цель — информировать политиков и общественных деятелей о технологических, экономических и социальных эффектах развития ИИ.

Кроме исследовательского центра Илона Маска OpenAI существует и Partnership on AI — совместный проект Google, Facebook, Apple, Amazon, IBM и Microsoft, компаний, которые активно используют ИИ для контролирования собственных рабочих. Этот общеиндустриальный консорциум, созданный в январе 2017 года, нацелен на «установку наилучших практик для ИИ и просвещение публики». В октябре к проекту присоединилась Тера Лайонс, занимавшаяся исследованиями ИИ и робототехники и интеграцией в общество при администрации Барака Обамы.

Причинит ли робот вред человеку

В сентябре этого года Россия и США наложили вето на попытки ООН ограничить разработку роботизированного оружия в рамках кампании Stop Killer Robots. The Independent отмечает особую заинтересованность этих двух стран, а также Южной Кореи, Израиля и Австралии в создании полностью независимых от человека систем вооружения.

До сих пор все разработки сталкивались с проблемой обеспечения энергией. Несмотря на это, согласно рапорту министерства обороны Великобритании «Будущее начинается сегодня», в войнах будущего будут сражаться роботы и генетически модифицированные бойцы, подобные «универсальным солдатам» из одноименного фильма с Жаном-Клодом Ван Даммом.

Роботы особенно широко будут принимать участие в армейских соединениях как связисты, а также в ВВС.

DARPA, агентство исследовательских проектов Минобороны США, намеревается создать искусственный интеллект нового поколения, максимально близкий к человеческому. В 2016 году появились новости о том, что американские военные вложили 62 млн долларов в создание чипов для солдат, которые позволят им напрямую коммуницировать с компьютерами. Если они преуспеют, киборги станут вполне реальны. Коннор Уолш, профессор механической и биомедицинской инженерии в Гарварде, рассказал CNN, что имплант «всё изменит», и добавил, что «в будущем экзоскелеты будут контролироваться имплантами».

Параллельно под контролем Командования специальных операций США идет разработка TALOS — экзоскелета для военных, подобного костюму Железного Человека из вселенной Marvel.

Уже в этом году должен появиться функциональный прототип. Несмотря на это, многие сомневаются в успехе проекта, поскольку полное перевооружение вооруженных сил окажется слишком дорогостоящим, а выгода — недостаточной. С начала разработки в 2013 году TALOS был переделан уже пять раз. Директор программы полковник Джеймс Миллер признавал в 2017 году, что с созданием экзоскелета возникают проблемы кроме подачи энергии, касающиеся разработки должной защиты от огня со стороны противников так, чтобы не сделать костюм слишком тяжелым.

В августе 2018 года в новостях появились сообщения о том, что Россия ведет исследования в этом направлении и добилась определенных успехов, создав экзоскелет «Ратник-3», который был представлен форуме «Армия-2018». То, о чем военные всех стран мир мечтали с восьмидесятых годов, скоро может стать явью.

Тем не менее вместо мира без человеческой армии и войн мы можем получить разложение общества. Армия — крупнейший национальный институт, который воплощает силу государства и служит интеграции общества. Политолог Энтони Д. Смит считает, что «военные мифы эффективны в создании переживания взаимосвязанности и включенности в целое, они питают культуру». Армия представляет собой символ могущества страны, которой она служит, а роботизация войск приведет к утрате войсками их уникальной идентичности.

Пол Шар, автор книги «Ничья армия: автономное вооружение и будущее войны», в интервью изданию The Verge сказал: «Есть много причин, по которым я не склонен думать, что уменьшение контроля человека над насилием не такая уж хорошая идея, но остановить развитие технологий сложно <…>. Есть старый вопрос: „мы контролируем технологию или она нас?“. Не думаю, что на это есть простой ответ».

Подчинится ли робот приказам человека

Группа AI Now во главе с исследователем из университета Нью-Йорка Кейт Кроуфорд намерена предотвратить появление авторитарного ИИ.

В проекте высказываются сомнения, что демократия не сможет выжить в эру искусственного интеллекта и огромных массивов цифровой информации. Мало того что уже сейчас есть опасения за жизнеспособность существующих демократических обществ — продвинутые диктатуры могут использовать искусственный интеллект для слежки за своими гражданами и преследования неугодных.

Подобные процессы, о которых говорит Кроуфорд, уже происходят в Китае, где силы ИИ используются для тотального контроля и сбора информации.

Знают ли вообще современные роботы об этике

В реальности роботы и искусственный интеллект не исполняют три закона по определению — всё зависит от того, на что они запрограммированы, каковы их возможности и кто их хозяева. Условный робот-пылесос не обладает «разумом», который помог бы ему понять, нарушает он закон или нет. Даже самые сложные и продвинутые роботы сегодняшнего дня не могут понимать и интерпретировать «три закона». Тем не менее чем больше эволюционируют роботы, тем чаще встает вопрос об этических ограничениях.

Футуролог и идеолог трансгуманизма Ханс Моравек предложил адаптировать законы робототехники для «корпоративных разумов» — корпораций, управляемых ИИ и использующих роботов для изготовления своей продукции. Появление подобных фирм Моравек считал делом времени еще в середине 90-х, но пока что этика для корпораций остается инструментом маркетинга в большей степени, чем способом борьбы за общественное благо.

«Развитие ИИ — это бизнес, а бизнес печально известен тем, что не заинтересован в фундаментальных ограничениях, в особенности таких, которые носят философский характер», — писал в журнале Science Роберт Сойер, указывая на то, что именно военно-промышленный комплекс США — основной источник финансирования исследований в области робототехники. По мнению автора, пока военные больше других заинтересованы в создании искусственного интеллекта, никакая этика не проникнет в эту область. Возможно, только создание нового типа Машины Судного Дня поставит этический вопрос ребром.

Внутренний – fragile-generation