Чего достигнет ИИ через 20 лет?

Гарделс: Своей книгой «ИИ 2041», написанной совместно с известным китайским фантастом Чэнь Цюфанем, вы создали новый жанр, совмещающий в себе спекулятивную фантастику и анализ существующих технологий. Творчество Цюфаня также называют «научно-фантастическим реализмом». Ваш же подход — оптимистический и практическо-утопический. Это отличает вас, например, от Илона Маска, который исповедует антиутопический взгляд на ИИ и считает, что сверхразумные машины в будущем захватят власть над нами.

В книге вы изложили десять сценариев развития событий. Какой из них наиболее вероятен?

Ли: Область, в которой следует в ближайшее время ожидать прорыва, — это использование ИИ в здравоохранении. Разработка новых препаратов, а в дальнейшем также новой системы диагностики и новых методов лечения трансформирует систему здравоохранения и улучшит качество жизни людей.

Но это произойдет нескоро, так как речь идет об обучении алгоритмов на персональных данных пациентов. Кроме того, использование ПО во врачебной практике сопряжено с юридическими и нравственными трудностями, например, с вопросом об ответственности за неправильно выбранное лечение. Поэтому ИИ должен быть не более чем помощником. Окончательное решение останется за врачом.

В течение следующих 20–25 лет медики убедятся в том, что ИИ достиг существенного прогресса, и их работа сведется к одобрению решений, предложенных нейросетями. Возможно, врачи даже будут бояться подвергать сомнению решения ИИ. Когда это произойдет, людям придется задуматься о том, готовы ли они доверить свои жизни компьютеру.

— Как вы считаете, поможет ли ИИ разрабатывать вакцины и останавливать новые пандемии?

— Возможно, но об этом пока рано говорить. На сегодняшний день у нас нет достаточного количества данных о COVID-19 для обучения ИИ. Вспышка SARS-CoV в 2002 году имела слишком маленькую выборку. Испанка была слишком давно.

Но в ближайшее время ИИ будет помогать ученым. К примеру, уже готовую вакцину можно тестировать с помощью специального ПО.

— Другими словами, проблема только в отсутствии данных, а технологии уже существуют?

— Именно так. Взять, к примеру, AlphaFold от DeepMind, глубокую нейросеть, прогнозирующую структуру белка. Прогнозирование структуры белка — это один из этапов разработки вакцины. Подобные инструменты ускоряют процесс создания итогового продукта. Сейчас они играют второстепенную роль, но всё может измениться.

— Анализируя рассказ Чэнь Цюфаня «Мечты об изобилии», вы пишете о дематериализации, то есть о том, что всё меньшие по размеру устройства способны осуществлять сложные расчеты.

Материаловед Вацлав Смил недавно отметил, что хоть мобильные телефоны и стали легче, чем раньше, их стало намного больше. «Общий объем материалов, использованных в производстве мобильных телефонов, вырос, а не сократился. Люди часто путают относительную и абсолютную дематериализацию. Важно учитывать абсолютный расход энергии и материалов», — сказал он.

Помимо расхода энергии и ресурсов на производство устройств, Смил обратил внимание и на обслуживание серверов — это тоже энергоемкая отрасль. Многие серверы находятся в странах вроде Казахстана и снабжаются энергией, полученной благодаря сжиганию ископаемого топлива.

Учитывая всё это, не зависит ли развитие ИИ от перехода на возобновляемые источники энергии?

— Зависит. Если мы хотим и дальше разрабатывать передовые формы ИИ, нам нужно существенно повысить вычислительную мощность. Однако обучение алгоритма или создание модели глубокого обучения сильно нагружает серверы и обходится иногда в миллионы долларов.

На данный момент мы немного застряли, так как на нынешнем этапе развития ИИ необходимо проводить очень сложные расчеты. По мере того, как всё больше компаний пойдут путем Microsoft, Google и OpenAI, нужда в вычислительных мощностях будет расти. Вот почему нужно вкладывать средства в эффективное ПО, которое позволит сделать передовые технологии более доступными, пускай и ценой снижения производительности.

Кроме этого, мы, конечно же, должны переходить на более экологичные и дешевые источники энергии. В книге я писал о распределенной энергетике, одновременном использовании солнечных батарей и новейших, нелитиевых батарей. Согласно оптимистическому сценарию, через несколько десятилетий нам удастся снизить стоимость энергии на 10%. Хотя и этого может оказаться недостаточно.

— Другими словами, нам нужно двигаться в двух направлениях: и повышать вычислительную мощность, и переходить на зеленую энергетику?

— Именно так. И здесь нам очень поможет то, что модели глубокого обучения улучшаются по мере увеличения количества данных и вычислительной мощности. Это первая в истории технология такого рода. Электричество и интернет, например, почти не изменились с момента своего появления. Во всяком случае, они не развиваются в геометрической прогрессии, как ИИ.

Но есть и обратная сторона. Нам нужно понять, как усовершенствовать ИИ другими способами. Иначе мы никогда не сможем создать общий искусственный интеллект.

— Каковы ограничения ИИ? Некоторые критики утверждают, что хоть умные машины и выполняют многие задачи эффективнее людей, они «не понимают» того, что делают. Понимание рождается из контекста и требует уникального человеческого умения заполнять бреши между фрагментами данных.

Также есть мнение, что чем больше наш ум учится мыслить как алгоритмы в процессе ежедневного взаимодействия с цифровыми технологиями, тем менее разумными и более искусственными становимся мы сами.

— Мы имели возможность убедиться в том, что ИИ в определенной степени понимает контекст, хоть и не так глубоко, как человек. Например, GPT-3 и некоторые другие технологии способны обучаться без вмешательства человека, извлекая контекст из имеющихся в их распоряжении данных. Другими словами, вам не нужно говорить роботу: «Это кот, это собака, а это человек». Вы даете ему данные, а он извлекает из них то, что может.

Допустим, вы читаете последнюю главу книги. Уже сейчас существуют алгоритмы глубокого обучения, способные предугадать следующее предложение или ответить на вопрос о том, что происходило ранее. Это невозможно без определенной доли понимания контекста. Недостаточно просто запомнить миллионы слов. Важно понимать, какие из них имеют наибольшее значение. ИИ в прохождении теста Stanford Question Answering Dataset, разработанного Microsoft и Alibaba, показал лучший результат, чем человек. Это говорит о том, что ИИ способен понимать контекст.

Вместе с тем, я не утверждаю, что ИИ обладает душой или самосознанием, отдает себе отчет в собственных действиях или имеет убеждения. Но, учитывая прогресс, который мы наблюдали последние годы, можно представить себе, чего мы достигнем через 20–30 лет.

Обучение без учителя снимает необходимость в разметке данных. Однако то, что ИИ способен использовать контекст, не означает, что он заменит собой человека или приобретет способность мыслить и осознавать себя.

Может ли ИИ делать всё то же, что и мы? На каждой стадии развития ИИ мы формулируем вопросы с учетом того, на что способны мы, люди: может ли он играть в шахматы? Раз он может играть в шахматы, может ли он играть в го? Если он может понимать написанное, может ли он достичь нашего уровня самосознания?

Люди меряют по себе. Это довольно самовлюбленно с нашей стороны, но мы не можем ничего с этим поделать. Вот почему в научной фантастике пришельцы, домашние любимцы и роботы имеют хорошо знакомые черты. Мы хотим, чтобы всё было сделано по нашему подобию. Но нам следует понимать, что человеческое сознание и ИИ — это совершенно разные сущности.

Развитие ИИ не обязательно будет идти по пути совершенствования человеческих способностей. Мы такие, какие есть — в силу устройства нашего восприятия и нашей физиологии. Это не значит, что не могут существовать другие организмы. Нас должно больше интересовать, способен ли ИИ на что-то такое, на что никогда не будет способен человек, и как это использовать. Это намного более конструктивный подход.

— В своей последней книге «Суперспособности ИИ» вы выразили надежду на сотрудничество между двумя ведущими странами в этой области, США и Китаем. Но соперничество между ними становится всё более ожесточенным. Что могло бы послужить толчком к переменам, которые, по вашему мнению, произойдут к 2041 году?

— Соперничество на геополитическом уровне — это проблема, оно приводит к разделению на два вида технологий и стандартов, а это совершенно неэффективно. С другой стороны, такая динамика способствует финансированию технологий в обеих странах, а это хорошо. Я уверен, что в свое время «Спутник» дал импульс развитию космической отрасли как в СССР, так и в США.

Когда я писал «Суперспособности ИИ», то не ожидал, что соперничество приобретет такую окраску. Я наделся, что развитие ИИ в странах Запада заставит Китай зашевелиться — и наоборот. Я также надеялся, что конкуренция поспособствует новым формам сотрудничества.

Взять, к примеру, сферу здравоохранения. У Китая есть больше данных, а у США — более современные медицинские технологии. Объединение усилий в данной сфере сыграло бы на руку всем.

Но произошло иначе. Мы можем лишь надеяться, что страны всё же будут сотрудничать по таким важным вопросам, как климат и здравоохранение.

Обнадеживает, что, несмотря на все геополитические проблемы, ученые по-прежнему работают вместе. На крупных конференциях по ИИ американские, европейские и китайские ученые делятся своими открытиями и передают опыт другим. Хочется верить, что однажды мы придем к тому, что Китай и США будут соперничать в одних сферах и сотрудничать в других.

«Людям придется задуматься о том, готовы ли они доверить свои жизни компьютеру». Чего достигнет ИИ через 20 лет

Читайте также