Почему нейросети победили искусственный интеллект старой школы и какую роль в этом сыграли шахматы

11 мая 1997 года Гарри Каспаров ерзал на своем шикарном кожаном кресле в Equitable Center на Манхэттене, тревожно водя руками по волосам. Это была последняя игра в его матче с суперкомпьютером Deep Blue от IBM — решающий тай-брейк в битве между человеком и кремнием, — и дела шли плохо. После грубой ошибки в начале партии Каспаров был загнан в угол.

Шахматные партии высокого уровня могут длится около четырех часов, но Каспаров понял, что обречен, еще на первом часу. Он сдался и наклонился над шахматной доской, чтобы пожать руку Джозефу Хоану, инженеру IBM, который помогал разрабатывать Deep Blue и перемещал фигуры компьютера по доске.

Затем Каспаров вскочил со стула и направился к зрителям. Он лишь растерянно пожал плечами. Позже он скажет, что компьютер «играл как бог».

Для всех, кто интересуется искусственным интеллектом, поражение великого мастера стало сенсацией. Newsweek назвал матч «последней битвой мозга»; в другом заголовке Каспарова окрестили «защитником человечества».

Казалось, что компьютеры скоро превзойдут людей во всём, раз ИИ смог победить самый острый шахматный ум в мире.

Конечно, этого не произошло. Спустя 25 лет мы видим, что победа Deep Blue была не столько триумфом ИИ, сколько его лебединой песнью. Это было наивысшее достижение компьютерного интеллекта старой школы — кропотливую ручную обработку бесконечных строк кода вскоре затмит нейронная сеть. Deep Blue был неуклюжим динозавром, которого вот-вот убьет астероид, а нейронные сети — маленькими млекопитающими, которые выживут и изменят планету. Тем не менее даже сегодня ученые-компьютерщики всё еще спорят, смогут ли машины когда-нибудь «думать» по-настоящему. И когда дело доходит до ответа на этот вопрос, Deep Blue смеется последним.

Когда в 1989 году IBM начала работу над Deep Blue, отрасль ИИ находилась в упадке. Эта научная дисциплина прошла через несколько циклов головокружительной шумихи и унизительного краха. В 1950-х годах пионеры в области ИИ утверждали, что искусственный разум скоро добьется огромных успехов; математик Клод Шеннон предсказал, что «через 10–15 лет в лабораториях появится нечто, не слишком далекое от робота из научной фантастики». Этого не случилось. И каждый раз, когда изобретатели терпели неудачу, инвесторы прекращали финансирование новых проектов.

Теперь мы знаем, что причина неудач состояла в том, что создатели ИИ пытались справиться с хаосом повседневности, используя чистую логику. Именно так инженеры представляли жизнь человека и поэтому терпеливо писали правила для каждого решения, которое должен был принять их ИИ.

Проблема в том, что реальный мир слишком многогранен, чтобы управлять им с помощью экспертных систем.

Инженеры скрупулезно создавали свои экспертные системы, и они работали довольно хорошо, пока реальность не подкидывала им свинью. Скажем, компания, выпускающая кредитные карты, могла разработать систему для автоматического одобрения заявок, а затем обнаружить, что они выдали карты собакам или тринадцатилетним детям. Программисты не предполагали, что несовершеннолетние или домашние животные будут претендовать на получение карты, поэтому не писали правила для таких случаев. Подобные системы не могли выучить новое правило самостоятельно.

ИИ, работающий по правилам, созданным вручную, был «хрупким»: когда он сталкивался со странной ситуацией, он ломался. К началу 1990-х никто ничего не ждал от ИИ. На этом фоне и выстрелил Deep Blue.

Проект вырос из работы над Deep Thought, компьютером для игры в шахматы, созданным в Университете Карнеги — Меллона Мюрреем Кэмпбеллом, Сюй Фэнсюном и другими учеными. Deep Thought был ужасно хорош: в 1988 году он стал первым шахматным ИИ, победившим гроссмейстера Бента Ларсена. Команда Карнеги — Меллона разработала лучшие алгоритмы для оценки шахматных ходов, а также создала специальное оборудование, которое быстро их обрабатывало.

IBM пронюхала о Deep Thought и решила, что бросит «грандиозный вызов» и создаст настолько хороший компьютер, что он сможет победить любого человека. В 1989 году она наняла Сюй и Кэмпбелла и поставила перед ними задачу победить лучшего гроссмейстера мира. Если бы им удалось победить Каспарова, это бы произвело фурор.

Чтобы создать Deep Blue, Кэмпбеллу и его команде пришлось изготовить новые микросхемы, которые могли еще быстрее производить расчеты шахматных позиций, и нанять гроссмейстеров, которые должны были помочь улучшить алгоритмы для оценки следующих ходов. Возможных шахматных партий больше, чем атомов во Вселенной, и даже суперкомпьютер не может обдумать их за короткий срок. Чтобы играть в шахматы, Deep Blue заглядывал на ход вперед, вычислял возможные ходы, «обрезал» те, которые казались бесперспективными, подробно рассматривал многообещающие варианты и повторял процесс несколько раз.

«Мы думали, что это займет пять лет, но на самом деле потребовалось чуть больше шести», — говорит Кэмпбелл.

К 1996 году в IBM решили, что наконец-то готовы встретиться с Каспаровым, и назначили матч на февраль. Тем временем Кэмпбелл и его команда лихорадочно заканчивали разработку Deep Blue: до выхода на сцену система работала всего несколько недель.

В чем компьютеры традиционно были плохи, так это в стратегии — в умении думать на много-много ходов вперед. Вот где у человека всё еще было преимущество.

По крайней мере, так думал Каспаров, пока его не напугал ход Deep Blue во второй партии. Каспаров забеспокоился: может быть, машина гораздо лучше, чем он думал! Убежденный в невозможности одержать победу чемпион мира сдался.

Но это было зря. Deep Blue, как оказалось, на самом деле был не так уж и хорош. Каспаров не нашел хода, который позволил бы партии закончиться вничью. Он нервничал: предполагая, что машина может быть намного мощнее, чем она есть на самом деле, он начал видеть человеческое мышление там, где его не было.

Сбившись с ритма, Каспаров играл всё хуже и хуже. В начале шестой партии он сделал настолько паршивый ход, что зрители вскрикнули от ужаса.

«Я вообще был не в настроении играть», — сказал он позже на пресс-конференции.

IBM извлекла выгоду из своего успеха. Победа Deep Blue вызвала ажиотаж в прессе, и рыночная капитализация компании выросла на 11,4 млрд долларов за одну неделю. Однако еще более важным было то, что триумф IBM ощущался как оттепель в изучении ИИ. Если ИИ победил в шахматы, что будет дальше?

По правде говоря, неудивительно, что компьютер победил Каспарова. Большинство людей, которые следили за развитием ИИ, ожидали, что рано или поздно это произойдет.

Шахматы могут показаться вершиной человеческой мысли, однако это задача, вполне поддающаяся вычислению: правила понятны, нет скрытой информации, и компьютеру даже не нужно отслеживать, что произошло в предыдущих ходах. ИИ просто оценивает положение фигур в данный момент.

Все понимали, что, как только компьютеры станут достаточно быстрыми, они превзойдут человека. Это был просто вопрос времени.

Победа Deep Blue показала, насколько ограниченными могут быть системы с ручным кодированием.

IBM потратила годы и миллионы долларов на разработку компьютера для игры в шахматы. Но ничего другого он делать не мог.

«Это не привело к прорывам, которые позволили бы ИИ [Deep Blue] оказать огромное влияние на мир, — говорит Кэмпбелл. — Существует очень мало задач, где, как в шахматах, у вас есть вся необходимая информация для принятия решения».

Тем временем были те, кто возились с более многообещающей формой ИИ — нейронной сетью.

Идея нейронных сетей заключалась не в том, чтобы, как в случае с экспертными системами, терпеливо писать правила для каждого решения, которое будет принимать ИИ, — обучение алгоритма должно было представлять собой грубую имитацию того, как обучается человеческий мозг.

Эта идея существовала с 1950-х годов, но для ее осуществления требовались молниеносные компьютеры, тонны памяти и множество данных. Ничего из этого тогда не было. Даже в 1990-е нейронные сети считались пустой тратой времени.

«В то время большинство людей, занимающихся ИИ, считали нейронные сети просто чушью», — говорит Джефф Хинтон, почетный профессор компьютерных наук в Университете Торонто и пионер в этой области.

К 2000-м годам компьютерная индустрия вышла на новый виток развития. Запрос геймеров на постоянное улучшение графики в играх породил огромную индустрию сверхбыстрых графических процессоров, которые идеально подходили для математических расчетов нейронных сетей. В свою очередь бурно развивался интернет, производя поток изображений и текстов, которые можно было использовать для обучения систем.

К началу 2010-х развитие технологий позволило Хинтону и его команде вывести нейронные сети на новую высоту. Теперь они могли создавать сети с множеством слоев нейронов. В 2012 году его команда ловко выиграла ежегодный конкурс Imagenet, где ИИ соревнуются в распознавании элементов изображений. Это ошеломило мир: самообучающиеся машины наконец-то стали жизнеспособными.

За 10 лет после революции глубокого обучения нейронные сети с их способностью распознавать образы колонизировали буквально каждый уголок повседневной жизни.

Они помогают Gmail автоматически достраивать ваши предложения, банкам — выявлять случаи мошенничества, позволяют приложениям для работы с фотографиями автоматически распознавать лица и т. д. Они даже меняют науку. В 2020 году компания DeepMind представила AlphaFold2, искусственный интеллект, который может предсказывать, как будут сворачиваться белки. Этот сверхчеловеческий навык поможет исследователям разрабатывать новые лекарства и методы лечения.

Deep Blue исчез, не оставив после себя никаких полезных изобретений. Как оказалось, игра в шахматы не была компьютерным навыком, который был бы необходим в повседневной жизни.

«В конце концов Deep Blue продемонстрировал недостатки попыток создать ИИ вручную», — говорит основатель DeepMind Демис Хассабис.

IBM попыталась исправить ситуацию с помощью Watson, еще одной системы, предназначенной для решения практической задачи — заставить машину отвечать на вопросы. Watson использовал статистический анализ огромного количества текста для достижения понимания языка. Это было нечто большее, чем простая система «если — то». Но всего несколько лет спустя достижения Watson затмила революция в глубоком обучении, которая привела к появлению поколения языковых моделей гораздо более тонких, чем статистические методы суперкомпьютера IBM.

В течение десятилетий люди считали, что овладение ИИ шахматами важно, потому что человеку сложно играть в шахматы на высоком уровне. Но оказалось, что шахматы довольно легко освоить компьютеру, потому что они такие логичные.

Чему компьютеру было действительно трудно научиться, так это выполнять случайную, бессознательную умственную работу, которую делают люди: например, вести оживленную беседу, управлять автомобилем в пробке или считывать эмоциональное состояние друга. Мы так привыкли к этим действиям, что редко осознаем, насколько они сложны. Уникальность глубокого обучения заключается в том, что оно может улавливать тонкости человеческого интеллекта.

До окончательной победы искусственного интеллекта еще далеко. Хотя глубокое обучение сейчас на пике популярности, оно вызывает и резкую критику.

«Очень долгое время был этот техношовинистический энтузиазм, якобы ИИ решит все проблемы», — говорит Мередит Бруссард, программистка, ставшая профессором журналистики в Нью-Йоркском университете, автор книги «Искусственный интеллект».

Однако системы глубокого обучения часто обучаются на необъективных данных. Ученые-компьютерщики Джой Буоламвини и Тимнит Гебру обнаружили, что визуальные системы искусственного интеллекта плохо распознают лица темнокожих женщин. Тогда как Amazon обучил ИИ проверять резюме только для того, чтобы обнаружить, что он занижает рейтинги женщин.

Хотя ученые и многие инженеры искусственного интеллекта теперь знают об этих проблемах предвзятости, у них не всегда есть представление, как с ними бороться. Вдобавок ко всему, нейронные сети — это еще и «огромные черные ящики», говорит Даниэла Рус, ветеран ИИ, которая в настоящее время руководит Лабораторией компьютерных наук и искусственного интеллекта Массачусетского технологического института. После того как нейронную сеть обучили, ее механику нелегко понять даже ее создателю.

Здесь у Deep Blue было преимущество. Старомодный стиль ручного обучения, возможно, был хрупким, но его можно было понять. Машина была сложной, но не была загадкой. По иронии судьбы этот старый стиль программирования может вновь стать актуальным.

Визуальный ИИ может совершать ужасные ошибки. Беспилотные автомобили врезались в пожарные машины, припаркованные на шоссе, потому что за все миллионы часов видео, на которых их обучали, они ни разу не сталкивались с такой ситуацией.

Многие ученые теперь считают, что для того, чтобы ИИ продвинулся вперед, ему необходимо знать факты о мире и уметь рассуждать о них. Беспилотный автомобиль не может полагаться только на сопоставление с образцом. Он должен следовать здравому смыслу — понимать, что такое пожарная машина и почему ее появление на шоссе может означать опасность.

Проблема в том, что никто не знает, как создавать нейронные сети, которые могут рассуждать и действовать в соответствии со здравым смыслом. Гэри Маркус, ученый-когнитивист и соавтор книги «Перезагрузка ИИ», предполагает, что ИИ будущего потребует «гибридного» подхода — нейронных сетей для изучения шаблонов, руководствующихся какой-то старомодной, закодированной вручную логикой. В некотором смысле это объединило бы преимущества Deep Blue с преимуществами глубокого обучения.

Закоренелые поклонники глубокого обучения с этим не согласны. Они считают, что нейронные сети будут обладать способностью к рассуждениям. В конце концов, сам мозг человека — это нейронная сеть. Использование закодированной вручную логики кажется им помешательством. По мнению Хинтона, развитие ИИ состоит в том, чтобы продолжать вводить новшества в области нейронных сетей — исследовать новые алгоритмы обучения, которые более точно имитируют работу человеческого мозга.

Будущее ИИ — это не абсолютная победа Deep Blue или нейронных сетей, а их совмещение.

Учитывая, что ИИ, скорее всего, никуда не денется, как мы, люди, будем с ним жить? Не проиграем ли мы в конечном счете, как Гарри Каспаров Deep Blue, если не сможем конкурировать с ИИ, мыслящим лучше нас?

Сам Каспаров так не считает. Вскоре после поражения в игре с Deep Blue он решил, что сражаться с ИИ бессмысленно. Машина «думала» не как человек, используя грубую математику. У человека тактика всегда будет лучше.

Так зачем соревноваться? Почему бы не сотрудничать?

После матча с Deep Blue Каспаров изобрел «продвинутые шахматы», в которых люди и ИИ работают вместе. Человек играет против другого человека, но у каждого также есть ноутбук с установленным шахматным программным обеспечением, которое может помочь просчитать возможные ходы.

Когда в 1998 году Каспаров начал проводить «продвинутые» шахматные матчи, он быстро обнаружил удивительные различия в игре любителей и профессионалов. Первые могли победить гроссмейстеров.

Как им удавалось превзойти великие шахматные умы? Любители лучше понимали, как сотрудничать с машиной. Они знали, когда принять предложение ИИ, а когда проигнорировать его.

Именно так, утверждает Каспаров, мы должны подходить к зарождающемуся миру нейронных сетей.

«Будущее, — написал он мне в электронном письме, — заключается в поиске способов объединить человеческий и машинный интеллект, чтобы достичь новых высот и делать то, что люди не могут сделать в одиночку».

Конечно, нейронные сети ведут себя иначе, чем шахматные движки. Но многие ученые полностью солидарны с таким видением сотрудничества человека и ИИ.

Сможем ли мы создать ИИ настолько похожим на человека в своих рассуждениях, что людям действительно будет нечего предложить — и ИИ возьмет на себя всю мыслительную деятельность? Возможно. Однако пока никто не может предсказать, когда это произойдет, да и произойдет ли вообще.

Так что считайте это последним подарком Deep Blue спустя 25 лет после знаменитого матча с его участием. В своем поражении Каспаров увидел настоящий эндшпиль для ИИ и людей.

«Мы всё чаще будем управлять алгоритмами, — сказал он мне, — и использовать их для повышения нашего творческого потенциала — в угоду нашим авантюрным душам».