Возможно, вы сталкивались с лестью со стороны чат-ботов. Не исключено, что ИИ-собеседник не заискивал перед вами, а искренне верил в развитость вашего логического мышление. Исследователи из НИУ ВШЭ с коллегами из Швейцарии доказали, что современные ИИ-модели часто переоценивают уровень рациональности своих оппонентов.
В своем исследовании ученые опирались на теоретическую модель «конкурса красоты», сформулированную британским экономистом Джоном Кейнсом в 1930-х. Один из примеров модели — гипотетическая ситуация с респондентами, выбирающими самый красивый портрет.
Так, читатели газет, которых попросили бы выбрать 6 самых красивых лиц из 100 портретов, с огромной вероятностью указали бы на снимки с людьми, показавшимися им наиболее привлекательными. При этом, если верить Кейнсу, участники эксперимента проиграют: вместо этого им следовало бы выбрать фото, за которые могло проголосовать большинство опрошенных.
Вдохновившись работами Кейнса, авторы работы провели свой собственный эксперимент с участием пяти самых популярных ИИ-моделей.
Исследователи воспроизвели 16 классических экспериментов «угадай число»: во всех когда-то участвовали живые люди и экспериментаторы-ученые. ИИ-моделям отправили промпт с правилами игры и описание оппонентов для каждого раунда.
Чат-ботам предложили посостязаться с условными первокурсниками-экономистами, участниками научных конференций, с теми, кто обладает аналитическим или интуитивным мышлением и находится в том или ином эмоциональном состоянии. В конце экспериментов модели показывали число и аргументировали его выбор.
Ученые пришли к выводу, что искусственный интеллект меняет свой выбор, подстраиваясь под характеристики соперника. Однако, как бы успешно модели не адаптировались под оппонентов, они часто преувеличивали развитость логического мышления людей.
«Мы сейчас находимся в точке, когда во многих операциях ИИ-модели начинают заменять людей, и это позволяет повышать экономическую эффективность бизнес-процессов, — уточнил Дмитрий Дагаев, заведующий Научно-учебной лабораторией исследований спорта факультета экономических наук НИУ ВШЭ. — Однако в задачах, которые связаны с принятием решений, часто необходимо быть уверенными в том, что модель искусственного интеллекта ведет себя похожим на человека образом. Поэтому появляется все больше контекстов, в которых поведение моделей сравнивается с человеческим поведением. Эта область исследований в ближайшее время будет активно развиваться».
Читайте больше актуальных новостей тут.
