Научные работы наводнили ссылки, выдуманные нейросетями
ИИ придумывает названия научных работ и помещает в существующие издания под именами реальных авторов и даже с указанием страниц — выглядит все предельно убедительно. На проблему обратил внимание журнал Nature.
Сотрудники журнала проанализировали более 4000 случайно выбранных научных публикаций 2025 года, а затем с помощью AI-инструмента выделили самые подозрительные по части цитирования тексты.
После ручной проверки 100 таких статей выяснилось, что в 65 из них есть как минимум одна ссылка, которая не ведет к реальной публикации и, вероятно, была сгенерирована нейросетью.
В другом эксперименте эксперты попросили модель GPT-4 написать шесть обзоров литературы по трем психическим расстройствам, а затем разобрали все ссылки, которые модель вставила в эти тексты. Из 176 ссылок. почти 20% оказались полностью вымышленными, еще 45% оставшихся, которые вели к реальным работам, содержали ошибки.
Ранее эксперты обнаружили, что в коллективах ИИ-агентов процветают конформизм и бюрократия.