Кому принадлежит будущее науки — человеку или алгоритмам?

Кризис в науке: получаем ошеломительные результаты — но не знаем как

До недавнего времени понимание и прогнозирование шли рука об руку. Одним из первых их синтез обеспечил Фрэнсис Бэкон на заре научной революции, заявив, что ученые должны заниматься исследованием окружающего мира, работая в поле, дабы избежать догматизма схоластической логики. В «Новом Органоне» (1620) он пишет:

«Наш же путь открытия наук таков, что он немногое оставляет остроте и силе дарований, но почти уравнивает их. Подобно тому как для проведения прямой линии или описания совершенного круга много значат твердость, умелость и испытанность руки, если действовать только рукой, — мало или совсем ничего не значит, если пользоваться циркулем и линейкой. Так обстоит и с нашим методом».

По мнению Бэкона, ум и чувства человека нуждаются в помощи инструментов, чтобы преодолеть замкнутый круг размышлений.

Эмпирический метод Бэкона принял на вооружение Исаак Ньютон. Он создавал не только физические инструменты (линзы и телескопы), но и логические методы и математические описания (называемые формализмами), которые ускорили развитие науки.

Однако возросшая роль инструментов также посеяла зерна будущего разрыва, создав пропасть между тем, что доступно нашему разуму, и тем, что могут измерить наши инструменты. Сегодня этот разрыв угрожает дальнейшему научному процессу. Мы достигли точки, в которой пути понимания и прогнозирования расходятся.

Во времена Бэкона и Ньютона то, что можно было постичь умом, также можно было проверить экспериментальным путем. Подкрепленные наблюдениями теории помогли человечеству продвинуться в понимании самых разных областей — от небесной механики до электромагнетизма и генетики. Интуитивные открытия, выраженные в форме законов, таких как дарвиновская теория эволюции или менделевский закон независимого наследования признаков, стали нормой в научном мире.

Но в эпоху больших данных понимание и прогнозирование больше не образуют единое целое. Современная наука достигла внушительных успехов в понимании строения атомов, природы света и силы. Теперь нас интересуют более сложные вещи: клетки и ткани, структура мозга и когнитивные искажения, рынки и климат.

Новейшие алгоритмы позволяют нам спрогнозировать поведение адаптивных систем, а современное оборудование — собрать беспрецедентное количество данных. И хотя наши статистические модели, как правило, делают верные выводы, почти невозможно установить, как они к ним пришли. Искусственный интеллект зачастую враждебен человеческому разуму.

Если бы поведение человека можно было предсказать с помощью ньютоновской или квантовой модели, мы бы пользовались ими. Но это невозможно. Столкновение науки со сложностью реального мира ведет к расколу.

Парадоксы и иллюзии: почему наше мышление ненадежно

Некоторые критики утверждают, что наш настойчивый антропоцентризм — главное препятствие на пути дальнейшего развития науки.

Искусственный интеллект не обязательно должен имитировать структуру нервной системы человека, равно как телескоп — строение глаза; неоптический механизм может оказаться намного более эффективным. И действительно, радиотелескопы могут обнаруживать другие галактики, лежащие далеко за пределами Млечного Пути.

Спиноза говорил: «Расколы возникают не от великого рвения к истине <…>, но от великого желания господствовать». В ближайшем будущем нас ожидает битва между умами людей и алгоритмами за господство в царстве науки.

Парадоксы и иллюзии иллюстрируют сложные взаимоотношения между пониманием и прогнозированием.

Иллюзии

В основе самых популярных оптических иллюзий (профиль-ваза, кролик-утка, куб Неккера) лежит «переключение» между двумя разными интерпретациями одного и того же изображения. Людвиг Витгенштейн, придумавший иллюзию утки-кролика, считал, что мы сначала интерпретируем объект, а уже потом видим его, а не наоборот. Другими словами, мы видим то, что ожидаем увидеть.

Нейропсихолог Ричард Грегори в своей книге «Сквозь иллюзии» (2009) говорит, что оптические иллюзии — это «удивительные явления, которые заставляют нас усомниться в нашем восприятии реальности». В случае с кубом Неккера из-за отсутствия глубины мы не можем определить, какой из двух ракурсов правильный, и в результате переключаемся от одного варианта к другому.

Парадоксы

Как и иллюзии, парадоксы обнажают противоречие между мышлением и фактами. Они часто появляются в естественных науках, особенно в физике. Парадокс близнецов, парадокс Эйнштейна — Подольского — Розена и кот Шрёдингера — это всё примеры парадоксов, возникающих из теории относительности и квантовой механики. Они отличаются от парадоксов наблюдателя, например корпускулярно-волнового дуализма, который обнаруживается в ходе двухщелевого опыта. Однако объединяет их то, что все они демонстрируют ненадежность каузального мышления.

Даже машины не застрахованы от парадоксов. Парадокс Симпсона описывает явление в статистике, когда при объединении двух групп данных, в каждой из которых наблюдается одинаково направленная зависимость, направление зависимости меняется на противоположное.

Это означает, что один и тот же набор данных может указывать на два противоположных вывода. Это часто случается в спорте, когда определенные игроки в отдельно взятом сезоне показывают лучшую статистику, чем все остальные. Однако, если взять несколько сезонов вместе, эти игроки больше не кажутся лидерами из-за разницы в количестве сыгранных матчей, ударов и т. д.

Возможно, самое детальное исследование парадоксов предпринял Курт Гёдель в своем труде «О принципиально неразрешимых положениях в системе Principia Mathematica и родственных ей системах». Гёдель обнаружил, что в любой формальной математической системе есть положения, которые невозможно подтвердить или опровергнуть, несмотря на то, что они были выведены из аксиом данной системы. Аксиомы формальной системы оставляют пространство для противоречий, и именно эти противоречия обусловливают возникновение парадоксов. Гёдель пришел к выводу, что любая система законов имеет свою сферу применения, и если применить эти законы к другой сфере, то результаты могут оказаться непредсказуемыми.

Именно так происходит с генеративно-состязательной сетью, в которой два алгоритма соревнуются друг с другом. Одна нейросеть программируется на распознавание определенного набора объектов — скажем, знаков «Стоп». Нейросеть-оппонент затем слегка модифицирует объекты в новом наборе данных — например, меняет местами несколько пикселей на изображении знака «Стоп», тем самым вынуждая первую нейросеть классифицировать их как знаки другого типа. Состязательные атаки кажутся глупостью с точки зрения человека. Но с точки зрения законов, которыми руководствуется нейросеть, они могут иллюстрировать естественные погрешности.

Парадоксы и иллюзии показывают, что наша способность к пониманию и прогнозированию ограничена, причем ограничения в понимании существенно отличаются от ограничений в прогнозировании. Точно так же, как прогнозирование зависит от точности измерений и вычислений, понимание зависит от правила вывода.

Выход из кризиса: не пытаться понять ИИ?

Технологии позволяют преодолеть ограничения языка и мышления.

Отношение между пониманием и прогнозированием такое же, как между онтологией (знанием об истинной природе мира) и эпистемологией (приобретением знаний о мире).

Знание, полученное экспериментальным путем, помогает открыть новые фундаментальные законы мира; открытие этих фундаментальных законов позволяет ученым сформулировать и проверить новые гипотезы.

Когда оказалось, что теория множеств связана с возникновением парадоксов, была разработана теория категорий, в которой удалось частично преодолеть эту проблему. Когда стало ясно, что геоцентрическая система мира и ньютонова механика делают ошибочные астрономические прогнозы, был разработан принцип относительности, призванный объяснить аномальное поведение быстро движущихся крупных тел. Онтология породила эпистемологию.

Но на определенном этапе научного прогресса онтология и эпистемология становятся враждебны друг другу. Согласно принципу неопределенности в квантовой механике, чем точнее измеряется одна характеристика частицы (например, координаты), тем менее точно можно измерить вторую (например, импульс). Это означает, что: 1) точность измерений (эпистемология) ограничена и 2) координаты и импульс на квантовой шкале неразделимы (онтология). Квантовая механика помогает спрогнозировать результат, а не определить то, как он был получен. Другими словами, эпистемология преобладает над онтологией.

Одно из простых решений проблемы взаимоотношений между онтологией и эпистемологией — утверждение, что в определенный момент онтология должна исчезнуть.

Именно такую позицию занимают авторы копенгагенской интерпретации квантовой механики, чьим девизом стали знаменитые слова Дэвида Мермина: «Заткнись и считай!» Другими словами, не нужно впустую тратить время, пытаясь объяснить квантовую запутанность. Именно этому принципу следуют компьютеры: они просто тихо считают.

Немногие ученые смирились бы с такой ролью. В науке принято считать, что хорошая теория должна быть простой и элегантной. Некоторые теории применимы, как к микрокосму, так и к макрокосму. Например, траектории, по которым следуют и яблоки, и целые планеты описывают одни и те же уравнения.

Физик Марри Гелл-Ман, ныне покойный, говорил:

«По мере того, как мы чистим луковицу, мы замечаем, что каждый слой имеет что-то общее с предыдущим и со следующим. Мы записываем их в виде формул и замечаем, что они математически похожи: математика, описывающая предыдущий слой, почти такая же, как требуется для следующего».

Но иногда наш собственный ум становится препятствием для дальнейшего прогресса. Красноречивый пример — использование компьютеров для перевода, классификации и изучения языков. HAL 9000 из фильма «Космическая одиссея 2001 года» и робот Робби из фильма «Запретная планета» привлекали своей способностью понимать человеческий язык и отвечать своим собеседникам с сарказмом. Но эволюция машинного перевода и механизма распознавания речи привела к совсем другому результату.

Самые успешные методы распознавания речи в 1980-х и 1990-х годах использовали математические модели, имитирующие структуру человеческой речи, и основывались на синтаксических и семантических связях внутри предложения. Затем в конце 1990-х появились алгоритмы глубокого обучения. Их целью было не понимание речи, а генерирование правильного перевода. Этот подход оказался невероятно эффективным.

Нейросети олицетворяют проблему, стоящую перед современной наукой. Они демонстрируют, что сложные модели, содержащие минимум данных о системе, могут быть более продуктивными, чем теории, основанные на многолетних исследованиях.

Распознавание речи и компьютерные шахматы доказывают: представления и методы, которым отдают предпочтение машины, не обязательно должны совпадать с теми, которым отдают предпочтение люди.

Возможна ли передача знаний без понимания?

Но означает ли это, что потребность человека понимать природу явлений препятствует дальнейшему прогрессу науки?

История философии предоставляет несколько ответов на этот вопрос.

Платон одним из первых поднял проблему понимания. В его диалоге «Теэтет» Сократ и Теэтет обсуждают три определения знания:

— знание как чувственное восприятие,
— знание как «правильное мнение»,
— знание как «правильное мнение с объяснением».

В качестве примеров знания третьего рода Сократ приводит геометрию, арифметику и астрономию.

Тему понимания позже развил в своей «Критике чистого разума» (1781) Иммануил Кант. Кант разделяет мир на материальный и интеллигибельный (и снова — онтология и эпистемология) и говорит, что наше восприятие лишь приблизительно отражает реальность.

Теория Канта не помогает нам установить различие между знанием и пониманием, но меняет определение понимания: вместо убеждения, которое можно обосновать, понимание становится представлением, истинность которого невозможно проверить.

Философ Джон Сёрль обращается к различию между знанием и пониманием в своей книге «Сознание, мозг и наука» (1984). Сёрль просит нас представить человека, не владеющего китайским языком, но вооруженного словарями и пособиями по грамматике. Получая предложение на китайском, он при помощи доступных ему ресурсов может перевести его на свой родной язык. Другими словами, говорит Сёрль, нет необходимости понимать язык, с которого выполняется перевод, — достаточно лишь выполнить точный перевод.

То же самое верно в отношении инструментов, которые так рьяно пропагандировал Бэкон, например: логарифмической линейки, позволяющей выполнять умножение и деление крупных чисел; геометрических построений с помощью компаса и транспортира для доказательства теорем; или правил вычисления интегралов в математическом анализе для операций с большими величинами.

Все эти методы эффективны именно потому, что не требуют понимания. Чтобы получить желаемый результат, достаточно просто следовать предписанным шагам.

Получение данных не требует понимания и объяснения. Но это похоже на плохое образование: зазубривание сухих фактов и дат. Настоящее понимание подразумевает объяснение того, как и почему определенные методы работают. Это требование также распространяется на машины. Они должны уметь объяснить, что они сделали и как.

Объяснение обеспечивает связь понимания с обучением. «Обучение» — слово, которые мы используем для описания эффективной передачи каузальных механизмов. Понимание — это основа передачи и накопления знаний, а следовательно, и прогнозирования.

---

Возможно, именно об этом размышлял Хорхе Луис Борхес, когда писал в своем эссе «Отголоски одного имени» (1955):

«В разное время и в разных местах Бог, греза и безумец, сознающий, что он безумец, единодушно твердят что-то непонятное; разобраться в этом утверждении, а заодно и в том, как оно отозвалось в веках, — такова цель этих заметок».

Предположим, что Бог — это вселенная, греза — это наше желание понять, а безумец — это машины. Их слова, а также отзвуки их слов, вместе образуют наш метод научного познания.

Главный вызов XXI века — совместить сложные системы с машинным обучением и искусственным интеллектом. Самыми эффективными будут те формы знания, в которых удастся примирить стремление человека к пониманию с непонятными отзвуками машин.