Теория мертвого интернета. Что, если все незнакомцы в соцсетях на самом деле — боты?

Чаще всего теории заговора настолько притянуты за уши, что не вызывают ничего, кроме смеха. При этом в споре с их твердолобыми адептами их практически невозможно опровергнуть. В этом смысле выгодно отличается теория мертвого интернета, которая обоснована лучше, чем другие — и особенно убедительной она стала с развитием чат-ботов на основе искусственного интеллекта.

Эта теория впервые появилась на форуме Agora Road’s Macintosh Cafe в 2021 году, где пользователь под ником IlluminatiPirate запустил тему под названием «Теория мертвого интернета: Большая часть интернета — фейк». Ссылаясь на сообщения с крупных онлайн-форумов, таких как 4Chan, автор теории утверждает, что большую часть активности и контента в сети производят не люди, а боты.

В чем заключается теория мертвого интернета?

Эта теория опирается на тот факт, что боты автоматически создают в социальных сетях публикации, которые настроены в соответствии с алгоритмами выдачи — такой контент привлекает больше пользователей, собирает больше кликов, комментариев и лайков в социальных сетях. Это делается для того, чтобы, продемонстрировав высокую вовлеченность пользователей, увеличить свои доходы от рекламы.

Теория мертвого интернета, однако, идет дальше и предполагает, что аккаунты, взаимодействующие с подобным контентом, также являются ботами на основе искусственного интеллекта. Это означает, что соцсети, по сути, заполнены машинами, общающимися с другими машинами, и человек в этой схеме вовсе не нужен.

Кроме того, эта теория утверждает, что правительственные организации используют ботов для манипулирования общественным мнением.

Сторонники теории считают, что интернет «умер» около 2016-го или 2017-го года. Теория получила более широкое распространение благодаря статье под названием «Возможно, вы это пропустили, но Интернет „умер“ пять лет назад» в The Atlantic.

Сколько правды в теории мертвого интернета?

Трудно точно определить, какая доля интернет-контента принадлежит ИИ, и разные замеры дали разные результаты. Исследование, проведенное компанией по кибербезопасности Imperva, показало, что на ботов приходится около половины всего интернет-трафика. Этот трафик, как правило, исходит от ботов, которые используются для накрутки вовлеченности и получения доходов с рекламы. С этим столкнулся YouTube, где боты для накрутки тоже используются.

В другом исследовании, опубликованном AWS 5 июня 2024 года, сообщается, что 57,1% всех текстов в Интернете являются машинными переводами. Согласно текущему исследованию компании Originality.ai, на 13,1% сайтах есть контент, созданный искусственным интеллектом.

Мы уже много лет знаем о том, что боты и другие инструменты на основе ИИ, например переводчики, вносят свой вклад в интернет-активность, однако это вовсе не означает, что интернет «мертв». Хотя генеративный ИИ — от больших языковых моделей, таких как ChatGPT и Gemini от Google, до специализированных инструментов создания изображений — может автоматизировать создание контента, на нынешнем уровне его развития люди легко отличают «настоящий» контент от сгенерированного. Контент, созданный искусственным интеллектом, часто содержит дезинформацию, вроде пункта в рецепте «добавьте клей в соус для пиццы», или полон грамматических и синтаксических ошибок, которые сигнализируют о его искусственной природе.

Но есть повод для беспокойства, поскольку технологии быстро развиваются. По мере развития искусственного интеллекта для создания агентов, которые могут действовать независимо от конкретных инструкций человека, можно предвидеть, что поведение ботов изменится. Возможно агенты ИИ будут взаимодействовать преимущественно друг с другом и отдавать предпочтение контенту, созданному другими агентами ИИ, а не людьми.

Это может привести к тому, что контент в интернете будет заточен под привлечение ботов, а не людей.

Мы уже увидели признаки этой новой экономики после первой криптовалютной транзакции между агентами искусственного интеллекта — без участия человека.

Однако пока остается загадкой, к чему это может привести. Более серьезную озабоченность вызывает ситуация, когда людьми используют ИИ, чтобы быстро сгенерировать некачественный контент для заполнения платформ и поисковых систем. Учитывая ограниченные способности многих моделей генеративного ИИ и их слепоту к нюансам человеческого восприятия, использование ИИ для создания контента может способствовать наводнению интернета низкокачественными статьями, произведениями искусства и другими материалами, предназначенными исключительно для метрик вовлеченности.

Является ли интернет кладбищем? Вовсе нет

Теория мертвого интернета, которая может показаться тревожной, в настоящее время не имеет убедительных доказательств. Природа обмена «вирусным» контентом такова, что и одни те же посты всплывают в ленте на протяжении долгого времени вполне естественным образом. То же самое можно сказать о песнях, которые стали популярными десять лет назад и которые все еще появляются в рекламе, несмотря на то, что они далеки от духа времени.

В равной степени, поскольку правила поисковой оптимизации (SEO) вынуждают людей создавать контент очень методично и порой схематично, может показаться, что его создал робот.

Например, из-под пера некоторых молодых авторов статей и копирайтеров выходят тексты, похожие на сгенерированные нейросетью — потому что они пытаются ввести туда как можно больше ключевых фраз, ссылок и других неестественных элементов, призванных повысить страницу в алгоритмах выдачи Google.

Это не означает, что большая часть Интернета сейчас заражена ботами. Даже эта статья в некоторой степени оптимизирована под поисковые запросы. У редакции этого сайта, как и у многих других, есть подразделение, которое исправляет и настраивает контент так, чтобы он занимал более высокие позиции в выдаче поисковых систем.

Однако Google — ведущая поисковая система — категорично относится к статьям, которые пытаются обмануть ее алгоритм поиска. Более того, в публикациях, содержащих статьи с советами, особенно о покупках, Google ищет контент, доказывающий, что человек действительно пользовался рекомендованной услугой или продуктом. Это может варьироваться от приведения реальных примеров, скажем, времени автономной работы телефона, до наличия оригинальных фотографий, на которых видно, как устройство используется. Таким образом, на данный момент контент оптимизируется под запросы людей, а не роботов.

Будьте осторожны с тем, что вы читаете, особенно в социальных сетях

Когда дело доходит до социальных сетей, вода вокруг теории мертвого интернета становится мутной. Хотя нет сомнений в том, что миллионы людей используют соцсети, возможность настраивать ботов для публикации сообщений на основе ключевых слов придает вес идее о том, что интернет кишит агентами ИИ, а не людьми.

Множество созданных ИИ моделей и инфлюенсеров действительно действуют в интернете.

Конечно, рост числа инфлюенсеров и звезд социальных сетей, а также идея о том, что чья-то жизнь не совсем правдиво представлена в социальных сетях, уже придает некоторую фальшь присутствию в интернете.

Несмотря на эволюцию социальных сетей, которые временами воспринимаются как инструмент рекламы, они по-прежнему оказывают огромное влияние на миллионы людей. Считается, что в ходе революций Арабской весны 2011 года большую роль сыграла активность пользователей соцсетей. Недавние беспорядки в Великобритании, спровоцированные праворадикальными активистами, были во многом инспирированы дезинформацией в социальных сетях.

Имея это в виду, агенты искусственного интеллекта могут распространять ложную информацию и взаимодействовать друг с другом для повышения вовлеченности, тем самым раздувая пламя и провоцируя агрессию.

В Nature было опубликовано исследование, где проанализированы 14 миллионов твитов, в которых содержатся ссылки на статьи. Как выяснили ученые, «социальные боты» сыграли непропорционально большую роль в распространении статей из «источников с низким уровнем доверия». Это привело к распространению определенного контента — такого, который мы бы назвали «вирусным».

Это действительно повод для беспокойства. Отчет Института изучения журналистики Reuters о цифровых новостях за 2024 год показал, что социальные сети были источником новостей для 48% американцев. Эти люди часто могут стать уязвимыми для дезинформации, распространяемой ботами.

Теория мертвого интернета не утверждает, что в сети вы взаимодействуете только с ботами, написали исследователи искусственного интеллекта Джейк Ренцелла и Влада Розова в блоге Университета Нового Южного Уэльса в Сиднее. Однако нам действительно следует скептически относиться к публичным взаимодействиям в социальных сетях. Более того, само предположение о том, что интернет по умолчанию содержит созданный человеком контент, а потребляют его другие люди, мы больше не можем принимать за чистую монету.

Люди и боты вместе работают в интернете

Стремление привлечь внимание людей через алгоритмы поиска уже привело к тому, что почти одинаковые статьи заполняют результаты поиска, хотя некоторые из этих текстов более полезны, чем другие. Эта ситуация также послужила источником вдохновения для сатирической статьи о «лучшем принтере 2024 года». Искусственный интеллект действительно потихоньку превращает интернет в хранилище контента, созданного без участия человека, будь то посты с мнениями по острому вопросу, шутки или сообщения на форумах, где люди обычно делятся своим опытом.

Тем временем Google и другие онлайн-гиганты обещают принять меры по ограничению использования ботов. Им и в самом деле придется это сделать, потому что рекламодатели могут сами научиться отличать накрученные просмотры от настоящих.

И как человек, сделавший карьеру в онлайн-журналистике и издательском деле, я прекрасно понимаю, что Google предпочитает статьи, которые были написаны человеком и которых виден опыт, авторитет и надежность. Добавим к этому, что Meta, материнская компания Facebook, использует искусственный интеллект для обнаружения дезинформации, а не для ее распространения. Впрочем, есть мнение, что новостные алгоритмы Facebook, по иронии судьбы, в итоге только разжигают ненависть. Один из примеров: согласно выводам Amnesty, платформа использовалась для подстрекательства к геноциду рохинджа в Мьянме, и алгоритмы выдачи только ускоряли распространение немодерируемого вредоносного контента, направленного против этого народа.

Вместе с тем, все больше людей присоединяются к частным онлайн-сообществам и веб-сайтам, доступ на которые предоставляется по подписке и которые предлагают эксклюзивный контент — потому что на непостижимые поисковые системы полагаться уже трудно. Онлайн-платформы, такие как Discord и WhatsApp, где данные не обрабатываются третьей стороной, а боты еще не успели наводнить общие пространства.

Итак, нет, интернет не мертв. По крайней мере, пока. Но мы должны признать, что люди делят онлайн-пространства с ботами и агентами искусственного интеллекта, которых становится все больше. Поскольку информация распространяется по цифровым платформам быстрее, чем когда-либо, рекомендуется соблюдать осторожность: не стоит принимать как данность, что когда вы спорите в комментариях, по ту сторону экрана находится реальный человек.