Исследование: научные статьи о вымышленной болезни молниеносно распространились в сети
Возможно, где-то на конференциях и симпозиумах прямо сейчас обсуждают новые подходы к диагностике биксомании. При этом никакой биксомании не существует. Команда ученых под руководством Альмиры Османович Тунстрем из Гетеборгского университета (Швеция) придумала эту болезнь, чтобы продемонстрировать скорость распространения фейков в научной среде.
По задумке Тунстрем, вымышленным заболеванием страдают те, кто слишком много времени проводит перед монитором или экраном смартфона. К его симптомам относится зуд кожи у глаз и изменение цвета век при трении.
Исследователи загрузили в сеть фейковую научную статью о биксомании, написанную несуществующим автором. Далее они стали наблюдать за тем, как ложная информация начинает «разлетаться» по разным авторитетным источникам.
Довольно скоро, менее чем через месяц, в академической соцсети появились первые препринты, посвященные биксомании. Кроме того, поддельную научную статью стали цитировать в рецензируемых научных журналах.
По мнению авторов спорного эксперимента, его результаты доказывают, что большие языковые модели крайне быстро «поглощают» ошибочную информацию. Кроме того, некоторые недобросовестные исследователи не изучают источники, предложенные ИИ, и ссылаются на статьи-мистификации.
«Если сам научный процесс и системы, поддерживающие этот процесс, несовершенны и не улавливают и не фильтруют подобные моменты, то мы обречены, — утверждает Алекс Руани, аспирант, изучающий дезинформацию в сфере здравоохранения в Университетском колледже Лондона. — Это "мастер-класс", показывающий, как распространяется недостоверная информация».
Возможно, еще не все потеряно. Авторы другого свежего исследования доказали, что правдивые сообщения обычно звучат убедительнее ложных.