Проклятие интеллектуального превосходства, или Почему мы боимся роботов

Если будущее с искусственным интеллектом кажется мрачной антиутопией, возможно, нам пора разобраться со своими представлениями о природе власти и подчинения? Так считает Стивен Кейв, старший исследователь Центра Леверхульма по изучению будущего интеллекта в Кембриджском университете. В своем эссе он предлагает исследовать историю интеллектуального превосходства — и отказаться от этой ложной концепции.

Я вырос в Англии второй половины XX века. В то время мир был очарован концепцией интеллекта.

Об умственных способностях размышляли, их обсуждали, разрабатывали новые подходы к их измерению. Десятки тысяч одиннадцатилетних подростков — и я тоже — проходили тест на IQ за пыльными дубовыми партами. Результат теста определял наше будущее: продолжать ли нам образование в университете или идти получать низкоквалифицированную специальность, подходят нам технические навыки или гуманитарные и т. д.

Уже тогда самой идее о том, что интеллект можно измерить как артериальное давление или размер ноги, было сто лет в обед. Но еще старше наше представление о том, что уровень интеллекта может определить положение человека в жизни.

Это понимание красной нитью проходит через всю историю западной мысли — от философии Платона до убеждений современных политиков.

Почему интеллект политичен

Само определение «умный» или «человек с высоким уровнем интеллекта» относится вовсе не к оценке умственных способностей: гораздо больше оно говорит о возможностях, которые открыты перед индивидом. Иными словами, интеллект — понятие политическое.

На протяжении истории западный мир по уровню интеллекта определял, что человек может сделать для общества. Например, традиционно высокий уровень умственных способностей мы приписываем врачам, инженерам, первым лицам страны.

Всё бы ничего, но мы считали, что уровень интеллекта дает нам право распоряжаться судьбами других людей: мы колонизировали, обращали в рабство, лишали половых органов и уничтожали тех, кого считали менее умными и развитыми.

Наше отношение к интеллекту стало круто меняться с развитием технологий искусственного интеллекта. В последние десятилетия мы наблюдаем значительный прогресс в этой области и, кажется, стоим на пороге потрясающих научных прорывов. Судя по количеству интернет-мемов и шуток на тему искусственного интеллекта, мы одновременно восхищены происходящим и вместе с тем изрядно напуганы. А чтобы понять, что же конкретно нас так пугает и почему мы настолько неравнодушны к теме умственных способностей, необходимо рассмотреть его с историко-политической точки зрения и проследить, как философская мысль превратила интеллект в инструмент для оправдания бесконечных завоеваний.

Платон сделал ум необходимостью власть имущего

Первым о мышлении начал рассуждать Платон. В своих трудах он приписывает особую ценность процессу размышления, утверждая, что неосмысленная жизнь не стоит и гроша. Стоит помнить, что Платон жил в мире, где миф и мистическое сознание представляли собой естественную среду для человеческого разума. Поэтому его заявление о том, что познать мир можно через мышление — или, как бы сейчас сказали, через применение интеллекта, — по тем временам было чрезвычайно смелым и привлекательным.

Объявив в своем труде «Государство», что только философ может управлять государством, поскольку только он может прийти к правильному пониманию вещей, Платон зародил идею интеллектуальной меритократии — мысли о том, что только умнейшие могут управлять другими людьми.

Идея по тем временам была революционная: да, Афины уже экспериментировали с демократией как формой правления. Вот только требования к правителям были весьма расплывчаты: достаточно было быть гражданином мужского пола — об уровне умственных способностей и речи не шло. А в остальных регионах правительственные места распределялись либо по принадлежности к элите (аристократия), либо по назначению божественным провидением (теократия), либо просто по уровню силы (тирания).

Аристотель придумал власть мужчин

Новаторская идея Платона удачно легла на плодородную почву великих умов эпохи, и его ученик Аристотель не стал исключением. Он отличался от учителя более практичным и систематичным взглядом на мир, поэтому «рассудочный элемент души» он использовал для создания концепции естественной общественной иерархии. В своей «Политике» он заявляет:

«Ведь властвование и подчинение не только необходимы, но и полезны, и прямо от рождения некоторые существа различаются [в том отношении, что одни из них как бы предназначены] к подчинению, другие — к властвованию».

Исходя из этого, образованные мужчины вполне естественным образом доминируют над женщинами, мужчинами физического труда и рабами. Ниже в этой иерархии только животные, которые настолько лишены рассудка, что им просто необходимо, чтобы ими кто-то управлял.

Как видно, уже на рассвете западной мысли интеллект ассоциировался с образованным европейским мужчиной. Принадлежность к этому классу становится достаточным для оправдания власти над женщинами, низшими классами, варварскими цивилизациями и животными.

Мы даже не заметили, как перешли от платоновской идеи о первичности рассудочного элемента к аристотелевской концепции, предполагающей совершенно естественной власть мыслящих мужчин.

Этот поезд интеллектуальной несправедливости до сих пор работает на топливе, которым его заправили два бородача 2000 лет назад. Современный австралийский философ Вал Пламвуд утверждает, что два гиганта греческой философии, вооружившись серией сомнительных дуализмов, умудряются по сей день влиять на наши представления о разуме.

Вдумайтесь: такие категории, как «умный/глупый» или «рациональный/эмоциональный» незримо связаны с категориями вроде «мужской/женский», «цивилизованный/примитивный», «человеческий/животный». Эти дуальные категории несут оценочный характер и приводят к расширению смысла до «доминирования/подчинения» или «хозяина/раба».

За то, что мы воспринимаем отношения доминирования по праву умнейшего как совершенно естественные, нам стоит поблагодарить Аристотеля.

Декарт положил начало истреблению планеты

Своего пика западная философия достигла вместе с трудами великого дуалиста Рене Декарта.

Если Аристотель признавал за животными хоть какое-то право на минимальную и примитивную, но всё же умственную деятельность, то Декарт отказывал им в этом праве полностью. Сознание, считал он, — исключительное преимущество человека.

Философия Декарта отражала тысячелетие христианской идеологии: она отдала разум в собственность душе, божественной искре, доставшейся только тем счастливчикам, кто создан по образу и подобию божьему.

Декарт отказал природному в разумности и в какой-либо ценности и тем самым запустил колесо бездумного подавления других видов живого на планете.

Кант оправдал колониальную политику

Представление о том, что разум определяет человека, прошло и сквозь эпоху Просвещения. Иммануил Кант — пожалуй, самый влиятельный философ морали с античных времен — считал, что моральная воля свойственна только мыслящим существам: «лицам» и «вещам в себе». Немыслящие существа, по его мнению, имеют «только относительную ценность как средства и называются поэтому вещами». С ними можно делать то, что нам заблагорассудится.

Согласно Канту, разумное существо обладает достоинством, а неразумное, немыслящее к нему неспособно.

Конечно, цепочка его рассуждений значительно более сложна, но, в сущности, он приходит к тому же заключению, что и Аристотель: естественным образом существуют хозяева и рабы, и отличаются они уровнем интеллекта.

Такие умозаключения впоследствии превратились в краеугольный камень колониальной политики.

Логика такова: небелые люди менее умны; они не могут самостоятельно управлять собой и своими территориями. И это не только оправданный шаг, но и моральный долг любого белого человека — войти в их страну и уничтожить их культуру.

Кроме того, раз уж человека определяет его разум, а население других стран менее разумно, значит, жители этих стран — менее человечны. Им недоступны понятия морального долга и категорического императива, а значит, можно их убивать и порабощать.

Эта же логическая конструкция отлично срабатывала на женщинах, которые считались слишком легкомысленными и хрупкими, чтобы разделять привилегии человека разумного.

По свидетельствам историка Джоанны Бурк, закон Великобритании XIX века защищал права женщин меньше, чем права домашних животных. Неудивительно, что технологии измерения интеллекта развивались с большим энтузиазмом, чем борьба за права женщин.

Гальтон придумал интеллектуальную евгенику

Фрэнсис Гальтон — отец психометрики, псевдонауки по измерению разума, и двоюродный брат Чарлза Дарвина. Вдохновленный в свое время «Происхождением видов», Гальтон создал концепцию о том, что умственные способности передаются наследственным путем и их можно улучшить с помощью селекции. Для этого достаточно найти наиболее способных членов общества и убедить их создавать союзы друг с другом. Воспроизведение менее способных необходимо ограничить во имя процветания нашего вида.

Теоретическими выкладками Гальтон не ограничился: в последующие десятилетия более 20 000 женщин в одной только Калифорнии были стерилизованы после получения плохих результатов по тестам Гальтона.

Как мы видим, наука измерения интеллекта недалеко ушла от евгеники.

Кто против идеи интеллектуального превосходства

Итак, мы выяснили, что жесточайшие события в истории происходили под знаменами интеллектуального превосходства. Тем не менее концепция преимущественного права человека на разумность всегда имела не только апологетов, но и противников.

От Дэвида Юма до Фридриха Ницше, от Зигмунда Фрейда до плеяды постмодернистов — всегда находились мыслители, предполагающие, что мы не настолько разумны, насколько хотим в это верить, и что обладание сознанием — вовсе не высшая добродетель.

Интеллектуальные способности всё же представляют собой лишь один критерий, пусть и весьма влиятельный. Да, точкой входа в школу могут послужить тесты на определение IQ, но во многих сферах гораздо больше ценятся творческие или предпринимательские способности.

Вместо того чтобы уничтожать систему интеллектуального превосходства, стоит сфокусироваться на тех системах, которые дают дополнительные преимущества белым мужчинам хорошего происхождения.

Тот экзамен, который когда-то проходил я, был призван выявить талантливых детей из всех слоев общества. Но ирония в том, что у талантливых детей из обеспеченных белых семей было гораздо больше возможностей для учебы и развития, и совершенно неудивительно, что они сдавали тест лучше. Этот факт еще раз убеждал общество в превосходстве одних людей над другими, и еще раз оказывался замкнут порочный круг.

Так почему мы боимся умных роботов?

Вернемся к вопросу, заданному в начале статьи: почему же нас пугает возможность появления искусственного интеллекта? Не потому ли, что мы привыкли к тому, что более умный всегда доминирует, и мы точно не хотим оказаться по другую сторону баррикад?

Писатели и режиссеры уже давно строят догадки на тему восстания машин.

Если для нас естественна мысль о том, что сливки снимают умнейшие и что одна более развитая нация может колонизировать другую, мы вполне естественно боимся потенциального порабощения со стороны сверхумных машин. Искусственный интеллект представляет для нас экзистенциальную угрозу.

Для нас — это для белых европейских мужчин. Миллиарды других людей прошли через века подчинения, а многие продолжают сражаться с агрессорами и по сей день, поэтому для них угроза порабощения искусственным интеллектом остается фантастическим сюжетом.

Белые европейские мужчины же настолько привыкли находиться на вершине по праву принадлежности, что появление возможного соперника в нас отзывается хтоническим ужасом.

Искусственный интеллект или естественная глупость

Я не утверждаю, что страхи перед появлением сильного искусственного интеллекта беспочвенны. Существуют вполне реальные угрозы, но они не имеют ничего общего с колонизацией человеческой цивилизации роботами.

Вместо того чтобы думать, что нам делать с искусственным интеллектом, лучше думать о том, что нам делать с самими собой.

Если уж искусственный интеллект когда-нибудь сможет причинить нам вред, это почти наверняка произойдет не из-за стремления ИИ к завоеванию человечества, а по нашей собственной глупости, которая упустит ошибку в программе. Бояться стоит не искусственного интеллекта, а естественной глупости.

Платон был убежден, что философ добровольно не станет правителем, поскольку в нем отсутствует стремление управлять людьми. В восточной мысли укоренилось представление о том, что мудр тот, кто избегает власти и не склонен к тщеславию.

Если бы общество было убеждено в том, что мудрейший человек — это не тот, кто добился власти, а тот, кто стремится разрешить конфликты, — боялись бы мы умных роботов больше, чем самих себя?