искусственный интеллект

Учёные заметили, что у нейросетей случаются «провалы в памяти», похожие на человеческие

Представьте, что вы постоянно просите ИИ генерировать картинки с котами. Если вы вдруг попросить нейросеть «нарисовать» стаю волков, то вскоре кошки станут более неказистыми. Учёные из Гронингенского университета (Нидерланды) и Лёвенского католического университета (Бельгия) предложили проверить, похожа ли память ИИ на память человека.

ИИ, искусственный интеллект, нейросети, память ИИ, работа ИИ
Изображение сгенерировано при помощи ИИ

Специалисты в области ИИ давно заметили одну проблему: если модель переключить на новую задачу и больше не показывать ей старые примеры, она может надолго утратить прежний навык. По словам авторов, этот эффект называют «катастрофическим забыванием». Чтобы всё не было так фатально, эксперты рекомендуют чередовать новые и старые примеры, и к концу обучения модель может хорошо справляться с обеими задачами.

Однако даже чередование данных — не панацея. Так, «провалы в памяти» происходили сразу после того, как специалисты добавляли новую задачу: результаты по старым запросам резко ухудшались, даже если ИИ продолжал отрабатывать былые навыки. Шаг за шагом точность восстанавливалась, и этот особый временный спад получил отдельное название stability gap («провал стабильности»). Если оценивать модель по результатам до и после обучения, его легко пропустить.

Авторы новой статьи изучили работы о человеческой памяти и выделили шесть видов временного забывания. Скажем, оно может возникать при попытке вспомнить другую информацию, при переключении между задачами или при выполнении нескольких дел одновременно. Точного аналога провала, замеченного у нейросетей, в этих работах не нашлось. Авторы предложили искать его в экспериментах, отслеживая, как люди справляются с привычной задачей по мере того, как к ней добавляют новую.

У нейросетей этот провал связан с градиентным спуском — способом постепенно менять параметры модели, чтобы она меньше ошибалась. Если похожий спад обнаружат у людей, у исследователей появится основание проверить, есть ли в работе мозга что-то похожее на этот алгоритм. На данный момент это лишь гипотеза, которую ещё предстоит проверить.

Тем временем учёные из Китая и Таиланда рассказали, когда ИИ побуждает людей мыслить более креативно.