Секс, смерть и роботы: что изучает киберфилософия
Разработка умных машин и ИИ — одно из самых перспективных и быстро развивающихся направлений современной науки. Однако то, как роботизация всего и вся скажется на мире и человеке, волнует не только технарей, но и гуманитариев. Ведущая телеграм-канала «Настя про философию» Анастасия Бабаш рассказывает о проблемах, которыми занимается киберфилософия: почему мы любим и боимся андроидов, смогут ли они заменить людей в сексе и на войне и захотим ли мы провести последние минуты жизни наедине с мыслящей машиной?
Спросите у гугла, что такое киберфилософия, — и вы найдете не так уж много научных работ по этой теме. Авторы самой известной из них Джеймс Мур и Терелл Байнум признают, что точное определение здесь подобрать сложно, а этим диковинным термином можно называть всё, что находится на пересечении философии и компьютерных наук. Перед мыслителями встает целый ряд вопросов: в чём отличие реальности от виртуальности? будут ли машины обладать сознанием? насколько этично заниматься сексом с киберами и создавать роботов-убийц?
По мере стремительного развития технологий такие проблемы, требующие пристального рассмотрения и анализа, копятся. Поэтому в XXI веке принято говорить не о киберфилософии в целом, а об отдельных ее направлениях: об этике искусственного интеллекта, философии сознания (представляющей собой попытку выяснить, сможем ли мы воссоздать его с помощью технологий), робоэтике и т. д.
Каждый раздел философской науки уже содержит вопросы, связанные с IT-технологиями. Например, представителей онтологии интересует, в чём разница между виртуальным и реальным мирами, гносеологии — будет ли способен искусственный интеллект учиться так же, как и мы, и т. д.
По объекту исследования вся киберфилософия делится на два крупных направления: первое из них изучает роботов, второе — искусственный интеллект. Может показаться, что между ними нет никакой разницы и одно без другого не существует, но на самом деле это не совсем так.
Основной предмет философии роботов — физическое воплощение технологий, то есть механизмы, которые будут взаимодействовать с нами в повседневной жизни. Например, в рамках этой дисциплины рассматриваются вопросы, как нам следует относиться к киберсобакам (помните страшную серию с робопесиком из «Черного зеркала»?) и могут ли умные машины заменить священников (судя по опыту японцев — вполне).
Представителей философии искусственного интеллекта интересуют программы, то есть всё то, что существует в виртуальной среде: можно ли закодировать сознание? какую этическую систему выберут компьютеры? как ИИ будет обращаться с нами? Они мало размышляют о физическом воплощении искусственного интеллекта — в фокусе их внимания то, что станет управлять этой оболочкой. Например, некоторые философы, как и Илон Маск, убеждены, что нейросети способны создать бессмертного диктатора и он нас поработит.
Классическая (и раскритикованная современниками) дуалистическая формула mind-body условно приложима и к киберфилософии в ее нынешнем виде: представители двух названных направлений изучают искусственные «тело» (роботов) и «душу» (ИИ). Конечно, кое-кто из них занимается одновременно и тем и другим, но разница между исследованиями всё еще видна. Вполне возможно, в будущем это изменится.
История любви и ненависти к искусственной жизни
Философы любят обращаться к своим предшественникам и распутывать сложный клубок идей, чтобы понять, откуда что произошло и как изменилось наше отношение к той или иной проблеме.
Так, выясняется, что философия роботов совсем не новая дисциплина и возникла не в ХХ столетии. Похожие вопросы волновали уже умнейших мужей Античности, размышлявших о возможности создания машин с искусственным интеллектом.
Некоторые современные философы трактуют миф о Пигмалионе и Галатее как отражение мечты об «умном механизме». Другие считают, что уже в «Илиаде» Гомера говорится о роботах-помощниках: для того чтобы выковать щит Ахиллу, хромоногий бог кузнечного ремесла Гефест создал золотых служанок.
…Прислужницы, под руки взявши владыку,
Шли золотые, живым подобные девам прекрасным,
Кои исполнены разумом, силу имеют и голос,
И которых бессмертные знанию дел изучили.(Гомер, «Илиада», песнь 18)
Впрочем, сотворил Гефест и первого робота-убийцу — согласно некоторым мифам, он создал Талоса — медного великана, охранявшего остров Крит от чужеземцев. Американская историкиня Эдриен Майор в своей книге Gods and Robots: Myths, Machines, and Ancient Dreams of Technology отмечает, что эти выдумки вполне могли быть основаны на реальных событиях, ведь древние греки добились впечатляющих успехов в механике и металлообработке. Она описывает бронзовые автоматы: прыгающего дельфина и летящего орла, — которые были представлены на Олимпийских играх. Древнегреческие философы и историки, утверждает Майор, размышляли над возможностью биотехнэ (от bios «жизнь» и techne «наука, мастерство») — то есть жизни, созданной искусственно, — и ставили ряд связанных с этим важных вопросов. Если подобное достижимо, в чём тогда смысл человеческого существования? Почему мы так мечтаем победить смерть?
Впрочем, пишет Майор, древние греки, сравнивая жизнь искусственную и обычную, пришли к выводу, что смертность — то, что делает нас людьми. В противном случае мы лишимся автономии, а такие понятия, как мораль и героизм, уйдут в прошлое.
В Средние века мечта о создании роботов не умерла — подобные идеи продолжают встречаться в работах ученых и философов. Современный американский историк Э. Р. Труитт в своей книге Medieval Robots: Mechanism, Magic, Nature, and Art утверждает, что арабская культура и Византийская империя сохранили науку об умных механизмах после древних греков. А в XIII столетии ею снова заинтересовался западный мир.
Примечательна история того времени о механической бронзовой голове, создание которой приписывали средневековым теологам и философам Роджеру Бэкону и Альберту Великому. По преданиям, она могла ответить на любой вопрос (хотя иногда говорила только «да» или «нет», если не совсем его поняла). Многие современные исследователи сравнивают это изобретение с Сири или Алексой.
Своего собственного робота сконструировал и известный философ XVII столетия Рене Декарт (тот самый, который активно развивал идею дуализма тела и души).
По легенде, когда в возрасте 15 лет заболела и умерла его дочь Франсин, Декарт создал ее механическую копию, внешне неотличимую от девочки. Он повсюду возил ее с собой в шкатулке и доставал, когда хотел поговорить (очень удобно!).
В 1646 году с изобретательным французом пожелала встретиться шведская королева, и Декарт снова взял «дочь» с собой. Однако капитану и матросам это не понравилось: команда подозревала, что ученый замешан в колдовстве. Ночью они ворвались к нему в каюту, испугались механической Франсин и выкинули ее за борт. Декарт был настолько опечален случившимся, что вскоре и сам скончался.
Эта вымышленная история, по мнению современных исследователей, так же как и древнегреческие мифы, иллюстрирует наше парадоксальное отношение к роботам. С одной стороны, мы давно мечтаем создать умные машины, которые будут выполнять за нас работу и даже станут нам друзьями, а с другой — отчаянно боимся их, ведь они могут получить контроль над нашими жизнями.
Такие парадоксы рассматривают современные исследователи, занимающиеся философией роботов.
Философский зомби — будущее робототехники
В философии сознания известен вымышленный персонаж — так называемый философский зомби. В отличие от своего «собрата» из поп-культуры, он представляет собой почти точную нашу копию — выглядит, ведет себя и говорит так же, как и мы. Но есть нюанс: такой зомби лишен квалий — сознательных переживаний. Если он уколет палец, то скажет: «Ай!» — но совсем не почувствует боли. Однако со стороны мы не сможем определить, настоящий ли перед нами человек или такой вот необычный персонаж, ведь все реакции, по которым мы судим, совпадают у того и у другого.
Философского зомби мыслители придумали для того, чтобы доказать, что сознание — это нечто большее, чем наше поведение и процессы в мозгу (то есть чтобы опровергнуть теорию физикализма и бихевиоризма). Но с развитием технологий всё больше исследователей склоняется к тому, что этот образ есть не что иное, как робот будущего.
Пока феномен сознания остается для нас загадкой (и не исключено, что мы вообще никогда ее не разгадаем), нам вряд ли удастся «воссоздать» его. А потому остается единственный путь — делать таких роботов, которые будут притворяться, что испытывают те или иные эмоции, хотя на самом деле никакие чувства им не доступны. Философские зомби перестанут быть просто абстракцией, героями мысленного эксперимента — мы будем жить среди них.
С одной стороны, эта идея вызывает беспокойство. Перспектива встретить того, кто всего лишь делает вид, что смеется над нашей шуткой или грустит вместе с нами, а в действительности не испытывает ровным счетом ничего, пугает.
Этот феномен впервые описал японский ученый Масахиро Мори. Он показал, что человеку больше нравятся существа похожие на него. И роботы не исключение — но лишь до некоторой степени! Достигнув определенной точки «похожести», человекоподобные электронные устройства начинают нас пугать, ведь из-за обмана восприятия мы реагируем на них как на людей — и в то же время прекрасно осознаём, что к виду Homo sapiens они не относятся.
Мори назвал это «эффектом зловещей долины», продолжая идеи австрийского психоаналитика Зигмунда Фрейда, который говорил, что «жуткое» — это не что-то чужеродное и неизвестное, а, наоборот, хорошо нам знакомое, но одновременно содержащее в себе некие странные черты. Например, в своем эссе он доказывает, что привидения, зомби, восковые фигуры и куклы вызывают страх, поскольку они слишком на нас похожи, но вместе с тем есть в них и что-то такое, что выдает их «нечеловеческую» и даже «неживую» природу.
Несмотря на этот парадокс, нас непреодолимо влечет идея сотворить робота, неотличимого от человека. И хотя есть много самых разных форм, позволяющих умным устройствам эффективно двигаться или обучаться (похожих, например, на пауков или морских звезд), в топы новостей попадают именно андроиды.
Особенно заметно это стремление в секс-индустрии, где от роботов добиваются максимальной схожести с человеком как во внешних характеристиках (ощущение настоящей кожи, волос и т. д.), так и в поведении. Более того, мы склонны даже влюбляться в андроидов и относиться к ним как к людям. Поэтому они и стали еще одной широко обсуждаемой темой в философии роботов.
Любовь, секс и роботы
Сегодня уже мало кого удивишь секс-роботами: они заняли свою нишу в индустрии развлечений, их активно улучшают и дорабатывают. Возможно, в будущем каждый из нас обзаведется своим домашним механическим любовником или любовницей, и никому не придет в голову не только писать об этом научные статьи, но и вообще заострять внимание на таких обыденных явлениях. Однако сейчас в киберфилософии проблема секса с роботами входит в число самых обсуждаемых.
В основном она волнует этиков, считающих, что распространение подобных практик приведет к тому, что к старым дилеммам морального порядка добавятся новые.
Например, один из самых спорных вопросов — можно ли создавать секс-роботов для занятий проституцией?
Британский исследователь Дэвид Леви считает, что не только можно, но и нужно. Он уверен, что такая мера позволит решить ряд проблем «классической» проституции. Одни люди больше не будут покупать других, как товар, насилия станет меньше, снизится число инфекционных заболеваний, передающихся половым путем.
Более того, Леви призывает проще относиться к этим роботам — не окружать их флером загадочности, а рассматривать как своего рода усложненные секс-игрушки, и только.
Конечно, с ним многие спорят. Британская философиня Кэтлин Ричардсон полагает, что роботы не решат проблем, а лишь создадут новые: если их будут использовать в секс-индустрии повсеместно как своего рода игрушки — это не значит, что люди уйдут из проституции. Ведь даже сейчас, когда гаджеты доступны всем, мы предпочитаем заниматься любовью «по старинке», с партнером, а весь арсенал хитроумных устройств рассматриваем скорее как приятное дополнение.
Более вероятно, считает Ричардсон, что девушки и юноши по вызову в такой ситуации превратятся во что-то менее доступное и оттого эксклюзивное: цены вырастут, и традиционная проституция станет «люксовой» услугой.
Вызывает опасение у исследовательницы и внешний вид современных (и будущих) секс-роботов. Чаще всего их производители эксплуатируют тот же самый объективированный образ женщины, что и создатели массового порно. Феминистки активно борются за то, чтобы в медиапространстве были представлены разные, более реалистичные типы тела. В противном случае вряд ли будущее, в котором все формы хороши, наступит.
Кажется, нет ничего плохого в том, что секс-роботы создаются такими, какими мы представляем себе партнеров в наших самых смелых фантазиях, — но философы и этики пытаются нащупать моральную границу, пересечение которой делает воплощение грез аморальным.
Например, инженер-робототехник Рон Аркин и другие исследователи не видят ничего ужасного в том, чтобы наладить выпуск андроидов с детской внешностью и лечить таким образом педофилию. С другой стороны, ирландский философ Джон Данахер, а вместе с ним и Кэтлин Ричардсон убеждены, что само тестирование этой методики может вызвать много споров с точки зрения не только этики, но и закона.
Впрочем, многие ученые не считают использование секс-роботов в медицинских целях плохой идеей. Например, датский философ Эцио Ди Нуччи, который исследует половую жизнь людей с ограниченными возможностями, утверждает, что это отличное решение для таких пациентов, которым не приходится рассчитывать на традиционный секс.
Также философы спорят, этично ли, например, строить роботов, притворяющихся, что они нас любят, — и большинство дает отрицательный ответ на этот вопрос. Кроме того, существует опасность, что у нас появятся чувства к ним и мы не захотим строить отношения с реальными людьми, а значит, и рождаемость, которая сейчас и так низкая, упадет до критической отметки.
Возможно ли изнасиловать робота? И насколько этично допускать подобное? Большинство опять-таки призывает этому препятствовать, чтобы в обществе не складывалось представление об изнасиловании как о норме. Также философы обсуждают, как нам вообще строить любовные отношения с роботами и считать ли секс с ними изменой.
Сейчас подобные вопросы кажутся глупыми и надуманными, но мы вполне можем столкнуться с этими проблемами в обозримом будущем — и хорошо бы к тому времени определиться, как нам следует поступать и в каком направлении развивать робототехнику.
Война, смерть и роботы
Помимо секса, философов волнует война. Исследователи выясняют, может ли она быть справедливой (и когда к ней вообще приложимо такое определение), каков моральный статус солдат и т. д. Один из самых горячо обсуждаемых вопросов — вписывается ли в рамки морали создание боевых роботов-убийц?
На первый взгляд такое будущее выглядит радужным: вместо людей на войне теперь умирают машины! Кроме того, солдаты-роботы во многом лучше нас — не устают, способны вести бои в труднодоступных местах или следить за армией противника в режиме 24/7. Потому неудивительно, что государства активно развивают эту отрасль — что, однако, вызывает беспокойство у философов и этиков.
Дело в том, что нас вряд ли ждет будущее, где войной занимаются исключительно роботы, — в таком случае она теряет смысл и, скорее, будет напоминать компьютерную игру, просто очень дорогую и протекающую в реальности.
Более вероятно, что роботы станут воевать наравне с людьми. И если вас преследует не обычный человек, а кибер, запрограммированный на убийство, — это по-настоящему страшно. Сразу вспоминается десяток фильмов и книг о восстании машин.
Философы признают, что наш страх перед роботами, который находит воплощение в произведениях искусства, вполне оправдан: столь важное моральное решение — убить или пощадить другого — не должен принимать механизм.
Об этом пишут почти все исследователи, утверждая, что нравственное оправдание такого поступка возможно только с учетом того, что ты сам осознаёшь собственную смертность и всю серьезность своего намерения, — например, если есть реальная угроза нашей жизни или жизни близких. Мы даже можем понять отчаявшегося человека, который решил отомстить тем, кто убил его семью, разрушил дом или город и т. д. Лишать других жизни и не должно быть легко, тяжелые эмоциональные травмы в таком случае неизбежны — иначе мы рискуем утратить то человеческое, что в нас есть.
Многие философы сомневаются, что нам когда-либо удастся научить этому военных роботов: моральная ответственность за убийство другого и за выбор фильма в кинотеатре на вечер — неравнозначные этические величины. Первая включает в себя и наше прошлое, и осознание того, что нам жить с этим в будущем. А потому, может, пока не стоит отдавать на аутсорс роботам убийства?
Но как быть в таком случае с киберами-полицейскими — уж им-то надо разрешить открывать огонь на поражение? В конце концов, «белковые» стражи порядка часто рискуют своей жизнью ради того, чтобы поймать плохих людей — например, маньяков, которые убивают ради собственного удовольствия и совершенно не думают ни о какой морали. Быть может, поставить вместо них робота — это как раз-таки этично, ведь хорошие парни наконец перестанут рисковать своей жизнью и будут спасены?
За ответом обратимся к философам, занимающимся проблемами исправляющей справедливости. Они помогут определить, а можно ли вообще убивать правонарушителей на месте преступления или же когда они спасаются от погони. Ведь всегда есть вероятность ошибки: человек ничего не совершил и сбегает не потому, что виновен, — просто ему страшно оттого, что его преследует робот-палач, пусть и одобренный государством.
Не правильнее ли будет делать таких киберполицейских, которые просто обезвреживали бы преступников, чтобы затем передать их в суды? Тут есть о чём поразмыслить специалистам из разных областей знаний.
Бабушка, дедушка, смерть и снова роботы
Третья по популярности после секса и смерти тема научных статей о роботах — уход за пожилыми и больными. Казалось бы, тут всё банально: если киберы смогут заменить сиделок и медсестер, а также составить компанию моим бабушке и дедушке, когда я на работе, — от этого же только все выиграют, верно?
Многие компании, особенно в Японии, где население с каждым годом стремительно стареет (то есть малышей рождается всё меньше, а продолжительность жизни растет), вкладываются в развитие так называемых роботов по уходу. Они не только помогают с бытовыми действиями: искупать, подать, покормить, — но еще и развлекают и скрашивают одиночество, с которым часто сталкиваются люди преклонного возраста.
Но и тут всё сложнее, чем кажется на первый взгляд. К созданию таких роботов нужно подходить с умом и учитывать, как сами пожилые отнесутся к ним.
Например, философы сомневаются в том, что передавать эмоциональную работу киберам — этично. В конце концов, роботы ведь могут всего лишь притворяться, что действительно переживают за своего подопечного и испытывают все те эмоции, которые изображают, а потому с ними невозможно будет установить по-настоящему значимую связь.
Хотя нас легко обмануть, всё-таки перспектива провести последние месяцы жизни по большей части с псевдозаботливым роботом, а не с искренне любящим нас человеком, удручает.
Кроме того, в каждом из нас присутствует экзистенциальный страх смерти, и мы стремимся разделить его с теми, кто способен понять (в полном смысле этого слова), о чём мы беспокоимся. С бессмертными роботами, что бы они ни говорили и как бы ни пытались нам помочь, это будет попросту невозможно.
Также вызывает опасение то, что пожилым людям придется передавать киберпомощникам контроль над своей жизнью. И хотя, возможно, люди в будущем станут доверять роботам всё больше, особенно если они распространятся повсеместно, сама мысль, что ответственность за вашу жизнь несет машина, а не человек, вызывает тревогу. Кроме того, нужно постоянно думать не только о своем благополучии, но и о безопасности вашего электронного друга, о том, чтобы он не вышел из строя, ведь цена ошибки здесь — человеческая жизнь.
Впрочем, есть и те, кто настроен более оптимистично. Австрийский философ Марк Кокельберг полагает, что все эти аргументы актуальны сегодня, но в будущем мы сможем либо улучшить многие характеристики роботов (например, обеспечить их безопасность, сделать более глубокой эмоциональную связь и пр.), либо настолько привыкнем к андроидам-любовникам/солдатам/сиделкам, что они уже не будут казаться нам странными или ужасными. Как и идея провести с ними последние минуты жизни.
Конечно, философия роботов не ограничивается только этими тремя темами. Многих волнуют будущее, в котором умные механизмы заменят нас на большинстве работ, беспилотные автомобили и многое другое. Каждая сфера нашей жизни изменится, когда роботы придут в нее в промышленных масштабах, — и, безусловно, мы столкнемся с новыми моральными дилеммами.
Самое серьезное беспокойство у философов вызывает поведение киберов и принятие решений в ситуациях, когда нужно полагаться в первую очередь на чувства, а не на логику. Эта проблема касается не столько роботов как таковых, сколько искусственного интеллекта, который будет их неотъемлемой частью.