Дети познают мир, начиная с самых азов — запоминания букв, цифр, слов. Исследователи из Нью-Йоркского университета (США) использовали тот же принцип для обучения рекуррентных нейронных сетей и были приятно удивлены результатам.
Рекуррентные нейронные сети (RNN) — нейронные сети, предназначенные для обработки последовательной информации на основе хранимых знаний. Как пример, они — «мозг» голосовых помощников и систем автоперевода.
По словам авторов исследования, современные подходы к обучению RNN недостаточно эффективны: они не позволяют модели ИИ приспособиться к решению сложных когнитивных задач. Поэтому ученые захотели начать работу с ней с «дошкольной программы».
Сначала команда провела эксперимент с участием лабораторных крыс. Животных учили искать воду в ящике с несколькими отсеками. При этом, для понимания, где и когда появится вода, грызуны должны были запомнить конкретные звуки и световые сигналы. Результаты проиллюстрировали, как крысы поэтапно изучают новое, начиная с малого.
Далее ученые занялись обучением RNN. Вместо поиска воды моделям ИИ предстояло грамотно размещать ставки. Сперва модель «изучила» базовую информацию об алгоритмах принятия решений, затем должна была «придумать», как максимизировать выигрыш.
Далее ученые сравнили эффективность «детсадовского образования» с классическим методом RNN-обучения. Они пришли к выводу, что что рекуррентные нейронные сети, обученные по модели «детского сада», справлялись с новыми сложными задачами быстрее, чем RNN, обученные по другим современным методам.
«Агентам ИИ сначала нужно пройти через детский сад, чтобы потом лучше справляться со сложными задачами. В целом, эти результаты указывают на способы улучшения обучения в системах ИИ и требуют более целостного понимания того, как прошлый опыт влияет на освоение новых навыков», — объяснила Кристина Савин, соавтор исследования.