Святая Троица искусственного интеллекта: Реза Негарестани — о переосмыслении разумных форм жизни
В недавно вышедшем сборнике «Синтез современности: руины ГАХН и постдисциплинарность» (Издательство Института Гайдара, 2021) философ Реза Негарестани исследует рабочие модели построения синтетических форм общего искусственного интеллекта. О том, что это такое и как этот интеллект может быть сконструирован, читайте во фрагменте из статьи иранского философа, а узнать подробнее об исследовании Негарестани можно будет из лекции, которая состоится 9 апреля в рамках проекта GAKhN displaced.
Как предположил Дэниел Деннет в «Опасной идее Дарвина», основная проблема создания общего искусственного интеллекта (Artificial General Intelligence, далее — AGI) состоит в построении правильного пространства замысла (design-space) для реализации общего интеллекта, естественного или искусственного, органического или нет. Это пространство замысла суть то, что можно назвать большой теорией либо моделью, «правильность» которой заключается в том, что она является настолько интегративной и обширной — при этом оставаясь управляемой, — насколько возможно.
Здесь идея обширности пространства замысла отличается от жадного редукционистского подхода Деннета, в котором каждый аспект замысла (design) может быть схвачен алгоритмическими процессами снизу, так что все качественные дистинкции между различными логико-когнитивными характеристиками общего интеллекта сводятся к восходящим и, что более важно, неисключительным количественным алгоритмическим процессам, повсеместным в природе.
Соответственно, то, что здесь понимается под обширностью пространства замысла, означает не жадную форму редукционизма, сводящего качественные различия к количественным различиям en masse, а включение и сохранение определенных (distinct) качественно различных аспектов или способностей общего интеллекта.
Таким образом, наличие обширного пространства замысла означает, что у нас есть многоуровневый учет общего интеллекта, где качественные дистинкции между различными компетенциями или способностями сохраняются (например, качественное различие между критической концептуальной деятельностью и локомоторным взаимодействием с окружающей средой), а не сглаживаются.
Однако многомасштабная качественная экспансивность пространства замысла не противоречит количественному подходу до тех пор, пока методологические составляющие для реализации общего интеллекта (будь он алгоритмическим по своей природе или нет) не переопределяют или не отбрасывают качественные отличия между разными необходимыми условиями или уровнями для реализации различных компетенций или способностей.
Это означает, что проблема методологического разнообразия мышления и конструирования пространства замысла неотделима от размера и масштаба того, что мы понимаем под проблемой общего интеллекта.
Если методологический подход к пространству замысла будет монадическим по своей природе — то есть если все методы в конечном счете сведутся к одному набору доминирующих методов, как это имеет место в случае Деннета, или если мы отдадим предпочтение одному методу среди прочих возможных методов, — то независимо от того, сколь широко мы мыслим общий интеллект, результат будет как с философской, так и с инженерной точки зрения беспомощным, теоретически и практически близоруким, если не плачевным.
Конкретизировав концепт пространства замысла в связи с общим интеллектом, следует также предпринять попытку краткой экспликации того, что мы подразумеваем под общим интеллектом.
Под общим интеллектом мы главным образом понимаем качественную форму интеллекта, в которой понятия «общего» и «интеллекта» переплетены: общий интеллект, достойный своего имени, должен быть несводим к понятиям интеллекта, связанным с ориентацией на конкретные задачи и решение проблем.
Что это значит? Это означает, что любой истинный индекс общего интеллекта должен быть достаточно общим, чтобы считать такой интеллект разумным в широком качественном смысле, о котором уже говорилось выше. Общность здесь означает несводимость к одному либо многим ныне специфицированным или обособленным наборам ориентированных на задачи операций или проблем.
Другими словами, основным аспектом общего интеллекта является его способность иметь общий набор схем — в терминологии Канта — для обращения не только к специфической задаче или проблеме, которая ныне является подручной, но и к будущей проблеме, немыслимой или неприступной исходя из тех ресурсов проблем и решений, что у нас есть на данный момент.
Следовательно, общность общего интеллекта суть сразу как общность схем для решения не только этой, но еще и возможных будущих проблем, так и экспансивный подход, который не ограничивается проблемой, стоящей на кону сейчас, но отвечает и на ту проблему, которая может возникнуть в будущем в силу недостаточности имеющихся решений.
Вот определение «общего» в общем интеллекте: темпорально обобщенный индекс интеллекта, то есть идея такого интеллекта, который не исходит из той или иной специфической проблемы — решаемой конкретным способом благодаря тому, что нам известно об этом индексе интеллекта в эпистемологическом или методологическом плане.
Скорее, интеллект здесь является самой моделью, с помощью которой мы можем идентифицировать ту или иную проблему как актуальную — такую, к которой нельзя всерьез подступиться до тех пор, пока мы не достигнем эпистемологической, логической и методологической зрелости.
Так что же означает разработать обширное пространство замысла для AGI, чтобы излишне самонадеянные исследовательские тенденции не только продемонстрировали, наконец, свои слабости, но и смогли работать в тандеме друг с другом, не выходя за свои границы?
Подумайте о символическом искусственном интеллекте, нейронных сетях, а теперь еще и об энактивистских моделях как о тенденциях, которые достигли больших успехов, но не сумели построить или хотя бы когерентно помыслить AGI, поскольку слишком сильно вложились в характерные для себя методы и парадигмы, забыв о прочих аспектах общего интеллекта, которые требуют других техник и моделей. В самом деле, как нам когерентно и формально помыслить максимально обширное и интегрированное пространство замысла («большую игрушечную модель») — пространство, где различные и даже конкурирующие модели, методы и техники могут работать в сопряжении друг с другом?
Модифицируя поздний взгляд Хилари Патнэма на функционализм: как сконструировать многоуровневую модель, в которой различные условия возможности наличия общего интеллекта требуют своих моделей и парадигм? Такая многоуровневая модель не является ни чисто восходящей, ни чисто нисходящей, базовых компетенций не достаточно для порождения высших способностей, а высших способностей не достаточно для реализации общего интеллекта — интеллекта, чья общность суть регистр множества количественных и качественных перцептивных и когнитивных компетенций и способностей, работающих синхронно или асинхронно в тандеме друг с другом.
Вместо этого она представляет собой то, что часто называют моделью со смешанными уровнями (mixed-level model), в том смысле, что взаимодействия между различными условиями возможности и соответствующими им моделями могут иметь место на среднем, верхнем или нижнем уровнях.
Эпистемологическое значение такого плюралистического пространства замысла, или большой модельной конструкции, уже было отмечено в беседах двух философов науки, Адольфа Грюнбаума и Йегошуа Бар-Хиллела. Однако это не обычная форма плюрализма, поскольку методы и парадигмы должны быть ранжированы и различены согласно определенным количественным и качественным уровням общего интеллекта (перцептивно-ноэтической агентности), которым они соответствуют.
Такие модусы ранжирования должны отвечать требованиям (1) сенсорной обработки, (2) восприятия (например, структуры памяти как внутренней модели окружающей среды) и (3) концептуализации (например, задействованных логико-лингвистических способностей, таких как материальный вывод, разработка гипотез и использование контрфактуалов).
Мы можем назвать эти три широких уровня, по которым распределены условия возможности построения общего интеллекта, Святой Троицей AGI. Святая Троица AGI — это, вкратце, синтетическая философия приближения к общему разуму, построение его широкого поля средствами изменчивой и многообразной методологии.
Читайте также
Живая нефть исламских пустынь: как «Циклонопедия» Резы Негарестани превращает миры друг в друга
Как читать «странные» тексты? Объясняем на примере «Розы Мира» Даниила Андреева
AGI нельзя помыслить когерентно, если сенсорная обработка, перцепция и концептуализация не воспринимаются как три отдельные манифестации единой системы. В этом смысле кантовскую максиму «мысли без содержания пусты, созерцания без понятий слепы» можно рассматривать как общий тезис о нераздельности-и-неслиянности этих трех уровней.
Исследование AGI не может поступиться вышеупомянутой Святой Троицей без риска инфляционных моделей и чрезмерно самонадеянных методов, которые и по сей день несут ответственность за затянувшиеся зимы искусственного интеллекта. Теперь давайте кратко опишем и критически оценим эти уровни, опираясь на философскую традицию и современные исследования в области искусственного интеллекта:
1. Ощущение, или то, что Кант называет способностью испытывать воздействие объектов (предметов в окружающей среде) таким-то образом, состоит из двух измерений, внешнего чувства и внутреннего чувства, которые грубо переводятся в то, как предметы феноменалистически регистрируются и как они феноменологически представляются упорядоченными в пространстве и времени. В то время как внешнее чувство — это пространственное упорядочение, внутреннее чувство — феноменальное (а не феноменологическое) временнóе упорядочение.
Последнее (то есть внутреннее чувство) суть способность, посредством коей предметы сообщаются разуму в форме созерцаемых — то есть синхронно и диахронно упорядоченных — объектов.
В современном понимании под чувственно созерцаемым объектом подразумевается метастабильная модель-образ предмета в окружающей среде, динамически порождаемая взаимодействием между чувствами (достаточной причинной структурой) и окружающей средой.
Эта метастабильная модель-образ является прогностической по природе, что означает: впечатление от предмета X в прошлом (распознанный паттерн) может быть соотнесено или противопоставлено измененному или воспроизведенному впечатлению или паттерну X в настоящем. Благодаря этому противопоставлению или сопоставлению паттернов между впечатлением и его воспроизведением, распознанными паттернами в моменты времени t1 и t2, можно предсказать третье метастабильное впечатление от предмета X.
Это называется антиципацией — предсказанием, связанным с рудиментарными признаками предмета. Поскольку в нервной системе регистрируются те или иные признаки дерева (признаки, которые являются непосредственными для моей нервной системы), постольку в нервной системе формируется антиципация некоторых инвариантных признаков дерева — предвосхищение общих признаков, необходимое для того, чтобы взаимодействовать со средой эффективно и в пределах допустимого порога ошибок.
Имеющееся впечатление от X в момент t1 и впоследствии возобновленное впечатление от него в момент t2 являются вероятностными элементами, с помощью которых можно предсказать впечатление от X в момент t3. Без последнего агент не может эффективно действовать в условиях постоянно меняющейся среды.
По сути, функция антиципации является энактивной. Агент должен действовать и реагировать на переменные параметры среды, а для этого он должен обладать энактивной, то есть динамической и метастабильной, сенсорной системой обработки, динамически синхронизированной со средой.
Среди современных мощных моделей динамической проактивной — а не пассивной — сенсорной обработки выделяется РРР (акроним от predictive processing paradigm, «парадигмы предиктивного процессинга»).
РР-модели основаны на априорных вероятностных и статистических оценках, которые действуют как репрезентации, используемые для предсказания текущего и будущего сенсорного ввода, а также источника такого ввода.
Обнаружение источника возможно постольку, поскольку оценки иерархически организованы для отслеживания признаков в различных временных и пространственных масштабах, и это иерархическое распределение, в свою очередь, позволяет оценкам на разных уровнях предвосхищать друг друга.
Оценки, однако, должны быть вероятностно ограничены, иначе предсказания будут невозможны для любого сенсорно-нейронного состояния. Без ограничений как основы для предсказаний и оценок вероятности агент не сумел бы просеять сенсорно-нейронные возможности и сойтись на наборе прогностических гипотез или антиципаций.
Такие вероятностные ограничения суть встроенные индуктивные предубеждения (biases), которые необходимы для любой формы прогностической системы обработки и определяются в терминах априорных вероятностей (priors).
Иерархическая система априорных вероятностей — переходя от более фундаментальных или абстрактных к менее фундаментальным и абстрактным [вероятностям] — обусловливает развитие продвинутых систем репрезентации, которые не только эффективно выделяют гипотезы из набора возможных, но еще и прорабатывают различные уровни или типы гипотез для объяснения данных.
Эта иерархическая архитектура позволяет различать базовые репрезентации, например круглого и кубического блоков Lego, поскольку априорная вероятность того, что эти два блока ко-локализованы в пространстве и времени, ничтожно мала.
Глубокое укоренение более фундаментальных априорных вероятностей или ограничений канализирует и направляет оценки верхнего уровня и менее абстрактные априорные вероятности.
Такие априорные вероятности на основе априорных вероятностей (priors upon priors) называются гипераприорными вероятностями (hyperpriors).
Энди Кларк и Линк Свонсон отождествили гипераприорные вероятности с грубыми ограничениями, накладываемыми пространством и временем, эксплицитно напоминающим кантовские формы созерцания и явленности. Эти рамки могут ранжироваться от жестких ограничений на пространственно-временную билокализацию или колокализацию чувственных предметов до ограничений, связанных с телесными действиями (например, поворачиваясь влево или вправо, одна вещь не может находиться в двух разных местах одновременно). По словам Свонсона:
Считается, что абстрактное внутреннее знание о пространстве и времени — пространственные и временные гипераприорные вероятности — сужают и ограничивают большие ряды пространств возможных гипотез, тем самым способствуя формированию решающих перцептивных предсказаний относительно внешних объектов, являющихся причиной поступающих стимулов. Это сужение возможных гипотез играет ключевую роль во всем процессе вероятностного вывода — без него необходимые байесовские вычисления становятся трудноосуществимыми. Таким образом, пространственные и временные гипераприорные вероятности было бы полезно рассматривать как необходимые условия возможности вероятностного восприятия внешних объектов. <…> Кантовское предположение о том, что пространство и время являются характеристиками познания, которые формируют, определяют и ограничивают возможность восприятия внешних объектов, перекликается с объяснениями роли гипераприорных вероятностей в РР-подходах к перцепции. Без пространственных и временных гипераприорных вероятностей объекты восприятия, которые предположительно являются результатом РР, были бы невозможны.
Может быть интересно
Слизь, призрак и гриб. Зачем современная философия обращается к хоррору
В системах предиктивного процессинга поступающие сенсорные сигналы не воспринимаются пассивно, а контрастируют с существующим репрезентативным репертуаром, то есть они влияют на репрезентативные или образные обновления.
Именно эта функция обновления, а не сенсорный ввод, приводит к минимизации ошибки предсказания так, что обновления придерживаются норм байесовского вывода.
Таким образом, сфера применения РРР не может быть чрезмерно расширена. Заявление Кларка о том, что РРР учитывает не только рудиментарные репрезентативные системы, но и научный метод, основано на грубом взгляде на научные теории.
Ни один предиктивно-индуктивный метод или модель не могут сами по себе репрезентировать научные теории, поскольку построение научных теорий требует как ранжированного множества методов, так и сложного семантического измерения, без которого ни один индуктивный метод не способен приблизиться к одной гипотезе или набору гипотез, которые можно назвать истинными.
Без семантического измерения теорий РР-парадигма построения научной теории или, если уж на то пошло, общего интеллекта — не более чем расширение наших индуктивных предубеждений.
Научная теория, основанная исключительно на форме предиктивно-индуктивного процессинга, может предложить лишь такую версию объективной реальности, которая полностью согласуется с локальными и контингентно конституированными индуктивными предубеждениями субъекта и его глубоко укоренившимися созерцаниями. Но тот факт, что наука постепенно отрывается от наших общих созерцаний, следует считать доказательством того, что научные теории не могут быть истолкованы как раздутая версия предиктивного мозга.
Наконец, индуктивные предубеждения и гипераприорные вероятности — в частности, как ограничения пространства и времени — следует понимать в качестве ограничений порядка явлений, то есть как характеристики опыта субъекта, или сознательного организма. Их отождествление с признаками объективной реальности является неоправданным метафизическим обязательством, имплицитно допускающим существование заданной либо предустановленной гармонии, или взаимнооднозначного соответствия между реальностью и перцептивными механизмами мозга.
Защитнику такого взгляда пришлось бы объяснить ряд вопиющих проблем, которые с ним связаны, в том числе — почему современная физика продолжает разбивать вдребезги наши самые драгоценные индуктивно-обусловленные или попросту основанные на наблюдении интуиции касательно вселенной, или почему современному homo sapiens потребовалось почти двести тысяч лет, чтобы развить евклидову геометрию, а затем почти две тысячи лет, чтобы открыть неевклидову геометрию или современную логику.
Те, кого можно обвинить в подобных взглядах — и кто, очевидно, в ответе за уплощенное видение общего разума из пространства замысла (даже если не считает себя таковым), — могли бы сказать, что суть такой революции всегда была здесь, с самого начала. То, с чем мы столкнулись позднее, являлось формализацией того, что уже происходило.
Явное историческое манипулирование подобными взглядами никого не должно ввести в заблуждение: если бы у нас были все реальные/ восходящие/натуралистические компоненты создания логики, и все же нам потребовались тысячелетия, чтобы прийти к такой логике и пониманию, тогда мы должны спросить: почему?
Кто-нибудь скажет, что это был всего лишь вопрос формализации — нам не хватало надлежащей формализации того, что уже имело место. У нас не было систематического отчета о нашем взаимодействии с миром как о сути логики. Но разве это серьезная проблема?
Ограничиваются ли наши попытки улучшить логику спецификой нашего взаимодействия с миром? Нет.
Формализация современной концепции логики — это не какой-то запоздалый комментарий к логике, это ее фактическая сущность. Те, кто не видит формальной сущности современной логики и того, что стало возможным благодаря такому формализму, не имеют ни малейшего представления о том, что такое логика и на что она способна.
Если структура и динамика наших научных теорий и естественных языков могут быть с легкостью проанализированы или объяснены в терминах индуктивных предубеждений и РРР, тогда как мы вообще можем распознать или описать такие встроенные предубеждения?
Это означало бы, что мы можем прибегать к нашим встроенным индуктивным предубеждениям лишь для того, чтобы оправдать или объяснить индуктивные предубеждения — те, что образуют порочный круг, пример petitio principii.
Более скромное утверждение состояло бы в том, что встроенные индуктивные предубеждения являются стимулирующими ограничениями, которые укоренились в ходе естественной эволюции.
Строго говоря, индуктивные предубеждения являются локальными и контингентными особенностями сознательного организма. Некоторые из таких особенностей даже могут быть чисто психологическими. Эти врожденные индуктивные предубеждения поспособствовали разработке в иных аспектах более сложных репрезентативных систем, которые не являются сугубо индуктивными, вероятностными или статистическими.
В этом смысле стимулирующая роль индуктивных предубеждений не означает, что они конституировали теоретическую деятельность или играют в ней центральную роль.