Нейроморфные компьютеры: спасут ли они искусственный интеллект?

«Там, внизу, полно места!», — провозгласил в 1959 году выдающийся физик Ричард Фейнман в лекции, посвященной удивительным возможностям нанотехнологий и микроэлектроники. С тех пор электроника штурмует микромир. Первые полупроводниковые транзисторы были размером с ластик на конце карандаша, сегодня их и глазом не разглядеть.

На протяжении полувека примерно каждые два года плотность транзисторов в микросхемах удваивалась, — и в результате мощность процессоров удваивалась каждые пару лет. За это время производительность компьютеров выросла в миллионы раз, — и почти во столько же раз упала цена транзистора. Результат — стремительный прогресс в тех областях, где используется микроэлектроника, — то есть, везде.

Началась цифровая революция, — глобальное переустройство технологий и жизни, которое сравнивают по значимости с индустриальной революцией. Вот только транзисторы не могут уменьшаться до бесконечности, — их размер уже близок к физическому пределу. Место внизу стало заканчиваться.

А недавно выяснилось, у прогресса интеллектуальных технологий есть еще одна проблема — энергия. Для перехода от аграрного мира к индустриальному обществу понадобилось на порядок увеличить энергопотребление. А хватит ли у цивилизации энергии сейчас, — для перехода к «информационному обществу», в котором повсюду работают продвинутые системы искусственного интеллекта?

Ненасытные нейросети

Использование энергии центрами обработки данных тоже удваивается каждые несколько лет.

«Снижение потребления энергии является ключевым фактором развития искусственного интеллекта — в противном случае мы увидим остановку его разработки», — говорят научные сотрудники Intel Labs.

Главные затраты связаны с обучением быстро множащихся языковых моделей — для этого уже требуются гигаватты энергии.

«Энергетика — это стена, в которую очень скоро упрутся разработчики ИИ, если подход к искусственному интеллекту будет основан просто на масштабировании современных моделей. Уже в ближайшие годы для центров обработки данных нужно будет строить кластеры, которые будут потреблять десятки гигаватт энергии. Всей энергии самой большой в мире ГЭС едва хватит на обучение одной большой языковой модели», — говорит Станислав Страупе, руководитель сектора квантовых вычислений Центра квантовых технологий физического факультета МГУ и руководитель научной группы Российского квантового центра.

Недаром Google и Amazon срочно пытаются обеспечить свои центры обработки данных ядерной энергией. Это, вероятно, станет одной из причин возвращения спроса на атомные электростанции (CNN уже заявляет о «ядерном ренессансе»). И мы еще даже не вспомнили про парниковые газы и углеродный след…

Машины, подражающие мозгу

Резко увеличить добычу энергии мы вряд ли сможем в краткосрочной перспективе. Но есть другой путь — создавать новые типы компьютеров, суперэнергоэффективные. В природе есть образцы таких устройств: например, человеческий мозг.

«Нейроны мозга в сравнении с компьютерами очень редко генерируют импульсы, зато они передаются по огромному количеству связей между нейронами. Это совсем другая модель обработки информации, чем в компьютерах, — объясняет Сусанна Гордлеева, профессор Института Лобачевского в Нижнем Новгороде, директор НИИ нейроморфного интеллекта IT Кампуса „Неймарк“. — И второе принципиальное отличие: в нашем мозге вычисление и хранение информации организовано в одном месте, а в компьютерах это разные блоки. Миллиарды раз в секунду между блоком хранения и блоком обработки информации передаются данные или инструкции, что с этими данными делать. На это тратится огромное количество времени и энергии. А в живых нейросетях нашего мозга все происходит в одном месте, в нейронах. Это тоже очень добавляет к энергоэффективности».

Системы, которые подражают мозгу, называются нейроморфными. Они потребляют удивительно мало энергии, особенно хорошо показывая себя в мобильных устройствах, — там, где требуется потоковая обработка информации в реальном времени.

«Я занимаюсь разработкой нейроморфных систем и процессоров, — это следующее поколение аппаратного обеспечения для искусственного интеллекта. С нашей точки зрения, следующий шаг, способный дать большой толчок развитию технологий искусственного интеллекта — это аппаратное обеспечение, построенное на принципах работы мозга, — нейроморфное, то есть подобное мозгу» — рассказывает Вячеслав Демин из Курчатовского института, один из разработчиков нейроморфного процессора Altai.

Системы, которые построены на принципах работы мозга, — это аппаратно исполненные нейроны и связи между ними. Эти связи могут быть цифровыми, а могут быть, как в мозге, аналоговыми, основанными на мемристорах, — элементах микроэлектроники, способных изменять свое сопротивление в зависимости от протекшего через них электрического заряда. Мемристоры выполняют роль синаптических контактов между нейронами.

Что могут нейроморфные компьютеры

«Нейроморфные системы способны в реальном времени, в потоковом режиме очень эффективно и быстро анализировать огромный объем информации, — продолжает Демин. — При этом энергоэффективность таких систем на два-пять порядков выше, чем у современных систем, — за счет того, что нейроны общаются импульсами, а они редки. Частоты, на которых они работают, — это десятки герц. Современные нейроморфные компьютеры — это килогерцы, но все равно это ниже в тысячи и в миллионы раз, чем гигагерцы, на которых синхронизируются сегодня такты традиционных вычислительных систем.

Второе ключевое свойство нейроморфных систем в том, что память и процессор объединены. Блоки хранения и обработки информации, — это одни и те же структуры, процессоры обретают память. Прототипы таких процессорных систем уже работают и показывают потрясающие характеристики. Это аппаратное обеспечение даст толчок развитию всех нейротехнологий и нейроэлектроники. Особенно тем, которым требуется сверхнизкое потребление энергии — нейроинтерфейсам, нейрочипам, нейроимплантам. А в перспективе эта сверхэнергоэффективность очень важна для любых систем».

А вот как оценивает перспективы нейроморфных процессоров Сусанна Гордлеева:

«Они уже сейчас по-настоящему энергоэффективны, — если сравнивать их энергопотребление в решении стандартной задачи машинного обучения, их производительность выше на два-три порядка. … Думаю, что нейроморфные вычислительные системы будут особенно актуальны в портативных мобильных устройствах, где нужно выполнять огромное количество вычислений в режиме реального времени. Такие устройства будут окружать нас в любых областях жизни — от медицины до беспилотных транспортных систем».

А если не сработает?

Мир стоит на пороге создания нейроморфных систем, но на пороге можно и полвека простоять.

«Научное сообщество находится в поиске материала для мемристоров, потому что сейчас они неустойчивы. Когда по мемристору проходит электрический ток, мы не можем предсказать точно, как себя поведет. И сейчас масса усилий направлено на то, что искать устойчивый материал для этих систем электроники», — говорит Сусанна Гордлеева.

Похожая ситуация сейчас сложилась с квантовыми компьютерами, с которыми связывают даже больше надежд и ожиданий. Обе технологии находятся на стадии испытания лабораторных образцов, которые показывают очень хорошие результаты в экспериментах, но для очень ограниченного круга задач. Какая из них сыграет большую роль в будущем — неизвестно.

Вполне может оказаться, что и квантовые, и нейроморфные компьютеры еще долго будут оставаться лабораторными технологиями. Но есть и другие возможные альтернативы на роль главных вычислителей будущего. Например, компьютеры из сверхпроводников, или оптические компьютеры, в которых вместо электронов, бегущих по проводникам и полупроводникам, будут фотоны, сгенерированные лазером и летящие по оптическим проводникам, — стеклянным микротрубочкам, подобным современным оптоволоконным кабелям, только сверхтонким. По оптоволокну информация передается гораздо быстрее и почти без потерь тепла и энергии.

Предсказать результат эволюции невозможно, — но важно, чтобы ей было из чего выбирать.