Ужасы белкового шовинизма, или Почему компьютерная программа не может быть разумной
Начнем с онтологии — что вообще существует. Материя существует во времени и пространстве. Идеи (законы природы, литература) существуют вне времени и пространства. Сознание (восприятие) существует вне пространства, но во времени. Кроме этих трех называют бытие социальных институтов, несводимое к движению материи и сознаний; бытие общения, когда общий смысл слов не сводится к индивидуальным пониманиям и представлениям о понимании других; божественное, и другие.
«Срамит себя всякий плавильщик истуканом своим,
ибо истукан его есть ложь, и нет в нем духа».
(Иер. 51: 17)
«Что за польза от истукана, сделанного художником,
этого литого лжеучителя, хотя ваятель, делая немые кумиры,
полагается на свое произведение? Горе тому, кто говорит дереву: „встань!“ и бессловесному камню: „пробудись!“»
(Авв. 2:18-19)
Последние примеры уже довольно сомнительны, а ведь заблудиться можно уже в первых трех субстанциях. Платонисты возражают аристотелистам, что какой-то специальный материальный субстрат не нужен. Законов математики достаточно, из них выводятся законы физики и рождается время. Гегель доказывает, что сознание — это часть идеального, и сознание вместе с идеями — это «дух». Поэтому скажем сразу: если вы считаете, что восприятие — это такая идея, или что вечная идея — это вид материи, в общем, если вы не согласны с независимостью этих трех категорий бытия, то этот текст не для вас.
Желающий разобраться в том, как все это работает вместе, узнает про легкую и трудную проблему сознания, среди любительских рассуждений находит более-менее полезные обзоры состояния дел в философии сознания и искусственного разума. Из них интересующийся первым делом узнает, что Декарт был неплохим дуэлистом, легко выговаривает «натурализм», «физикализм», разминает язык «редукционизмом» и «панпсихизмом» и наконец переходит к «эмерджентому материализму», «эпифеноменализму» и «элиминативизму» (любой логопед скажет, что другой порядок приведет только к тому, что вы ничего не поймете и останетесь с кашей в голове). Время от времени читатель встречает упоминание чего-то, о чем хотелось бы услышать поподробнее — это разнообразный «шовинизм»: углеродный, млекопитающий. Но эти слова обычно брошены как не требующие пояснений и оставляют впечатление отговорки.
Изобретатель первого такого понятия — Айзек Азимов. Когда обсуждалась стратегия поиска внеземной жизни, было непонятно, где брать данные о наличии планет у других звезд. Тогда Азимов высказался в том духе, что идея искать жизнь на твердых планетах — следствие планетарного шовинизма. Лем упоминает млекопитающий шовинизм, больше всего из споров о жизни известен «углеродный шовинизм», в общем, этот прием приобрел некоторую популярность. Действительно, в этом есть что-то такое, что заставляет хихикнуть и постараться ввернуть в диалог. «Ты отказываешь неодушевленным предметам в человеческом достоинстве!» — на заре постмодерна это была осознанная допустимая степень иронии.
Итак, в первый раз против полимеров углерода пошли в вопросе о жизни. Есть пара более-менее пригодных признаков жизни: нарушенный баланс хиральности и изотопного состава. Общепринятого определения жизни не существует, хотя в школьном учебнике бодро перечисляются признаки, определяющие живой организм (их стараются сделать семь, но бывает больше или меньше). Причем если попытаться убрать из определения химию, то попадаешь в полный нью-эйдж. Техника адаптируется и эволюционирует. Огонь поглощает топливо и вырабатывает отходы. Компьютерная программа размножается. (И да, одним из общих для многих течений нью-эйджа является понятие о Гайе — едином живом организме Земли.)
Когда советские ученые хотели испытать прибор для определения следов жизни, они просто бросили его в степи. Он не нашел на нашей планете признаков жизни и был забракован. Протеинизм, или «белковый шовинизм», предлагает аналогичный подход: проверьте на Земле. У нас есть целая планета примеров живого и не живого. Да, есть спорные пограничные случаи с вирусами, прионами, рибозимами, раковинами, ногтями. И если хочется поспорить, то давайте говорить о них, давайте спорить об организмах из плазмы или нейтронного вещества. А не заставлять дружить, просто усадив на одну скамью, белковый организм и компьютерную программу — то, о чем мы знаем, что это не живое.
Позиция протеинизма заключается в следующем: живое — это то, что сейчас называется живым, разумное — то, что сейчас называется разумным. Все живое и разумное сделано из белков — полимеров углерода.
«Белковый шовинизм» — это пропагандистская кличка, но она больше говорит о тех, кто употребляет ее всерьез. До сих пор ни у кого из пустозвонов нет никакого, кроме избытка свободного времени, повода говорить об осознании объектом собственной речи, если вопрос закрыт масс-спектрометрией.
Трудная проблема сознания не решена, и белковые шовинисты не претендуют на ее решение. Протеинизм — метапозиция, с которой рассматриваются определения: новое определение не должно противоречить известным фактам. Мы не знаем решения ни трудной, ни легкой загадки сознания. Но мы должны проявить весь свой скептицизм и рационализм. Следить за руками, когда под порогом внимания в разумное или живое записывают перфокарты или транзисторы. Существует оригинальная установка, что скептицизм обращен на старое, устоявшееся. Это всего лишь один из многих примеров того, как злые насмешники ради забавы ставят что-то с ног на голову. Разумно и адекватно не принимать всерьез новое, дожидаясь, пока оно докажет свою состоятельность.
Вспомним, как устроен компьютер. Человек добился того, что может устанавливать ток и напряжение в микроскопическом кусочке полупроводника так же точно и предсказуемо, как он устанавливает стрелки часов. Положениям стрелок условно приписаны времена суток, напряжениям в процессоре — числа. По еще одному соглашению пользователей числам в компьютере соответствуют буквы, и отдельная конвенция сопоставляет буквам понятия.
Правда, есть, например, юристы, у которых в мире существуют временные права. Не как вечные идеи, рядом с репликами жадного дракона, а пристегнутые к течению времени реального мира. Такие философы могут согласиться, что активированная ячейка ферромагнетика вызывает к жизни какое-нибудь нематериальное явление вроде согласия на обработку персональных данных. Так же, как где-то рядом с подписью летает «уполномочивание». До тех пор пока не прозвучит стук молотка судьи, в котором ровно одно мгновение (что бы это ни значило) живет «разуполномочивание». Но в том-то и дело, что подчеркивается именно несводимость таких вещей к сознательным представлениям индивидуумов.
То, что прикреплено к буквам на бумаге (как мысли прикреплены к нейронам), и при этом не является вечной идеей, точно так же не является сознательным феноменом.
Любая компьютерная программа может быть выписана в достаточно длинную тетрадку и исполнена каким угодно способом — на гидравлических золотниках, на счётах, на бумаге, в уме. Есть мнение, что если связи в базе данных будут достаточно перемешаны и запутаны, так, чтобы человек не мог разобраться в клубке связей между карточками, то это как бы уже не будут математические операции. Потому что непонятные математические операции уже как бы не детерминированы. Однако это все тот же детерминизм. Если механизм достает по вашему запросу карточку из картотеки, и вы не успеваете уследить за шестеренками, это не означает автоматически, что машина приобрела свободу воли.
Есть мнение, что если ответ принципиально нов, если решена задача, не описанная в учебниках, то его дает искусственный разум, который, скорее всего, осознает себя. Способность решать задачи называется интеллектом, вполне корректно говорить, что машина обладает искусственным интеллектом. Искусственный интеллект — это уважаемая отрасль народного хозяйства: боты для компьютерных игр, машинный перевод. Но всё это нельзя назвать искусственным разумом. Математические методы не первую сотню лет дают человеку ответы, недоступные его пониманию и в то же время верные — какой ход сделать в карточной игре, какой дом прочнее. Никто не догадывается говорить, что бумага, исчерканная чернилами, или счёты решили задачу и приобрели разум. Кроме поэтов. Если поэт догадывается, так сказать, — он молодец и достоин похвалы.
Есть мнение, что если ответ устройства похож на ответ человека, то он осознается так же, как произнесенное осознается человеком. То есть где-то вне пространства раздаются слова, которые не слышит никто, кроме этого генератора ответов. Это называется функционализм. Некоторые считают, что достаточно хорошая имитация — это уже оригинал. Однако человек зря здесь судит по себе.
Прирастание маски к лицу — специфические проблемы высшей нервной деятельности органических. В остальном мире знак качества имитации — горечь разочарования и обмана. Когда маскировка больше не нужна, она отключается.
Формально, противоположность функционализму — эссенциализм. Кое для кого это слово — ругательное. Например, эссенциалист склонен говорить, что кислород окисляет, потому что такова его природа, он обладает окислительной сущностью. Однако нет ничего постыдного в том, что на стадии становления химии удалось разобраться во взаимодействии веществ для начала на таком уровне: одни окисляют, другие восстанавливают. Впоследствии, конечно, необходимо разобраться, как это происходит на уровне строения электронных оболочек атома. На этом этапе принимают в качестве посылки, что электрон — носитель электромагнитной сущности, и т. д. Сейчас, когда философия сознания спотыкается об «облака вычислений», нужно хотя бы установить, что окисляет, а что восстанавливает, то есть что мыслит, а что исполняет программу.
Крайний, открытый функционализм разбит еще в 1961 году в эссе Анатолия Днепрова (в западном мире — китайской комнатой Сёрла) и сейчас ассоциируется с туговатыми чат-ботами и секс-куклами. Причина того, что он не потонул окончательно, груба и материальна. Искусственный интеллект — это целая индустрия, люди получают в этой области дипломы и работают по специальности: программируют распознавалки лиц, переводчики, подбиралки рекламы. Так что «сильный искусственный интеллект» всегда найдет, чем прокормиться, и худо-бедно, гротескно-комично будет представлен в информационном пространстве. Японцы будут продолжать заниматься аниматроникой и рассуждать при этом о душе. Будем к ним снисходительны.
Менее радикальные уровни функционализма для многих всё еще выглядят привлекательно: в разумной машине должны быть сымитированы нейроны, разумная машина должна имитировать общий строй работы мозга, разумная машина должна имитировать поведение. При этом уровень абстрактнее своего относят к функционализму, менее абстрактный — к шовинизму. Зафиксированы выражения «кортикальный шовинизм», «нейронный шовинизм», вплоть до «белкового шовинизма».
И всё же все эти теории нужно как-то оторвать от цепочек атомов углерода. Для этого можно сказать, что сознательного восприятия вообще нет (элиминативизм), или что восприятие есть вообще у всего (панпсихизм). Оба этих ответа математик называл бы тривиальными, и даже математик (!) не станет на них останавливаться.
Тривиальное решение — это решение, которое подходит к любым начальным условиям. Всё равно, что вы покажете тривиалисту — разумный океан, говорящую рыбу, — ему нет нужды разбираться.
Но дело в том, что если тебя подозревают в измене и ты хочешь, чтобы тебе поверили, нельзя начинать оправдание со слов «а уверены ли мы вообще в том, что мы видим то, что происходит на самом деле» — это слишком сильное оружие. Ответ на все вопросы, а не на тот, который был задан.
Попытка отрицать существование сознательных наблюдателей автоматически саморазоблачается при попытке найти своего слушателя. Эту идею даже можно рекомендовать к изучению — то, что нужно, чтобы развлечь друзей на вечеринке. Ведь и сам Д. Деннет показывает свои фокусы и иллюзии не роботам и не мертвецам.
Проблема панпсихизма даже не в том, что нам открываются бесконечные возможности относиться с любовью или ненавистью ко всему, чему человек может дать название. Древние римляне чествовали бога первого плача ребенка, бога порога, бога ступеньки и бога крыльца. Древние корни только вызывают уважение: ни к чему бороться с анимизмом, если это такой глубокий механизм человеческой природы, лучше воспользоваться богатым запасом языческих метафор.
Основная проблема панпсихизма — дискретность. Если восприятие непрерывно разлито в пространстве, то почему мое восприятие отдельно от твоего? Лейбниц был честен сам с собой, и, предвидев этот аргумент, довел идею до логического конца. Его монады заняли место самой ненавидимой и уродливой конструкции в философии.
Такие влиятельные философы, как Деннет и Чалмерс, напрямую используют аргумент о шовинизме. Более развернуто его можно выразить так: «Ничто не заставляет думать, что разная материя при движении по одному закону, по-разному способна порождать сознательные явления». Но как только проговариваешь этот аргумент, то сразу можешь как минимум предположить, что кто-то посчитает различие в материальном субстрате важным. Многие люди — платоники от природы, в этом нет ничего страшного. Но философ рефлексирует свой платонизм, то есть знает, что он платоник, и знает, что есть и другое мнение. Он должен понимать, что его взгляд — это определенная позиция, требующая обоснования.
Чем объясняется популярность панпсихизма? Концептуальной изящностью — очевидно нет. Гламурные тед-талки, научно-фантастический ажиотаж, проходимцы из лекториев — больше похоже на то.
Вот уже больше ста лет людям показывают сказки о путешествиях к другим планетам. Реально за пределами земной атмосферы живут в плацкартных условиях трое-десятеро человек.
Но это неважно, когда хочется послушать историю о восстании против угнетения, или о зарождении любви, или о герое, проходящем испытания. Примерно то же происходит с искусственным разумом. Все теории, отбрасывающие белковый фундамент, ценны именно своим противоречием здравому смыслу. Они идут против обыденности, обещают неизведанное. Не обязательно отказывать себе в этом развлечении, подкармливать свою жажду волшебного даже необходимо. Оставим только одно предостережение: когда обманываешь себя, этим могут воспользоваться другие.
Больше интересного по теме читайте в паблике «Белковый шовинист».