Цензура, скандализация, ложь: как крупные технокорпорации меняют общественную дискуссию к худшему
За последние годы изменилось не только то, где мы общаемся (коммуникация в значительной мере перешла в онлайн), но и то, как мы это делаем (невербальные средства письменного общения — эмодзи, эмотиконы, мемы, ASCII-графика — играют всё большую роль). На общественный дискурс повлиял и тот факт, что крупные платформы манипулируют нами, чтобы повысить вовлеченность (и прибыль от рекламы), навязать ненужный нам продукт или принудить нас к поддержке политика, который нам не симпатичен. Разбираемся, по каким законам работает цифровая среда и как технокорпорации влияют на наше общение в интернете.
Собирая о нас огромное количество информации и применяя алгоритмы машинного обучения на основе самомодифицирующегося кода, техногиганты бомбардируют нас сообщениями, которые производят месмерический эффект.
И технологические компании этого не скрывают. Совсем наоборот, они обещают потенциальным клиентам, что, купив таргетированную рекламу, те смогут эффективно воздействовать на свою целевую аудиторию и заставить людей покупать те или иные продукты или поддерживать те или иные идеи.
Дискурс меняется, и это очевидно. Некоторые идеи, которые раньше были маргинальными, теперь стали мейнстримом. Причем это относится как к идеям, которые нам нравятся (гендерная инклюзивность, расовое равенство, неприятие монополий), так и к тем, которые мы считаем предосудительными (ксенофобия, теории заговора, отрицание изменений климата и антивакцинаторство).
Нашим миром управляют технологии, и никакие перемены в нем не обходятся без их участия. Влияние технологий на дискурс — непростой, но очень важный вопрос.
Быть может, техногигантам удалось изобрести высокотехнологичный аналог месмеризма. Но даже если вы не верите в эту теорию, есть предостаточно доказательств того, что крупные технокомпании искажают общественный дискурс.
Таргетинг
Точный таргетинг, который предлагают технокомпании, — чрезвычайно полезная функция для рекламодателей.
Но таргетинг может использоваться не только для демонстрации рекламы потенциальным покупателям. Активисты с его помощью могут мобилизовать единомышленников, представители ЛГБТ — найти безопасное онлайн-пространство, страдающие хроническими заболеваниями — поговорить о своих проблемах с теми, кто их понимает.
Точность поиска целевой аудитории особенно важна для тех, чьи взгляды выходят за рамки мейнстрима (это касается в том числе и экстремистских взглядов). Например, при помощи таргетинга можно найти единомышленников для проведения расистских и сексистских кампаний или для разжигания политической вражды.
Дискурс требует участников. Существенно упростив задачу поиска собеседников для обсуждения непопулярных тем, технологические компании сделали возможными диалоги, которые бы прежде не состоялись. Иногда это хорошо, а иногда плохо.
Конфиденциальность
Некоторые темы опасны. Например, упоминание о своей нетрадиционной ориентации в нетерпимом обществе сопряжено с риском подвергнуться насилию и преследованиям. Упоминание о своем пристрастии к марихуане в стране, где она запрещена, может закончиться увольнением или даже тюремным сроком.
Благодаря тому, что большинство онлайн-бесед конфиденциальны, люди могут говорить вещи, которые никогда не стали бы говорить в иных обстоятельствах.
Последствия могут быть двоякими. Размещение вводящей в заблуждение политической рекламы может привести как к проблемам с законом и потере избирателей, так и к обретению новых сторонников. Публичное признание в дискриминационной политике вашего бизнеса может обернуться как бойкотом и судебным иском, так и завоеванием новых клиентов среди тех, кто разделяет эти взгляды.
Конфиденциальность в сочетании с точностью таргетинга позволяет говорить незаконные и социально неприемлемые вещи тем, кто с ними согласен, и тем самым избежать ответственности за свои слова. Вот почему конфиденциальность на руку тем, кто стремится разжечь вражду.
Ложь и заблуждения
Влияние техноиндустрии приобрело такие масштабы, что в глазах многих людей Google стал оракулом, а первые результаты поиска — безоговорочной истиной.
И действительно, Google почти всегда прав. Просто забейте в строку поиска «длина Бруклинского моста» — и вы получите ответ, который согласуется с данными «Википедии» и ее источника, отчета Комиссии по охране достопримечательностей Нью-Йорка от 1967 года.
Но иногда люди, которые стремятся навязать другим ложь, обманом заставляют Google выдавать неправдивые результаты. Эксплуатируя недостатки методов ранжирования поисковой информации (обнаруживаемые специалистами по поисковой оптимизации), недобросовестные пользователи могут менять первые поисковые результаты, заставляя систему показывать ложную информацию (а иногда это просто результат глупой ошибки).
Это может быть очень эффективным способом влияния на общественное мнение. Надежному источнику, как правило, доверяют без лишних вопросов, особенно если информация звучит правдоподобно (например, если длина Бруклинского моста больше или меньше всего на несколько метров) или спрашивающий понятия не имеет о том, каким должен быть правильный ответ (например, если скорость света отличается на несколько десятков тысяч километров в секунду).
Но иногда Google может выдавать ложную информацию, даже когда никто не манипулирует его механизмами. Например, если определенная цитата часто приписывается не тому человеку, даже после исправления ошибки Google продолжает месяцами выдавать неверные результаты. А если люди, получив от Google неправильную информацию, затем повторяют ее в своих постах, тем самым увеличивая количество источников, в которых Google ищет ответ, ошибка вообще не исправляется.
Словом, то, о чем мы говорим и как, сильно зависит от информации, которую предоставляет нам Google. Но это не значит, что Google меняет мнение человека: если вы точно знаете скорость света или длину Бруклинского моста, поисковый результат не собьет вас с толку, а скорее заполнит пробелы в знаниях.
Еще одна проблема связана с зависимостью результатов поиска от формулировки поискового запроса. Поиск по ключевым словам «климатический лохотрон», «климатический кризис» и «изменения климата» дает разные результаты, несмотря на то, что все три словосочетания на самом деле относятся к одному и тому же явлению.
Сортировка «по скандальности»
Сайты, размещающие рекламу, получают деньги за количество просмотров. Чем больше страниц вы откроете, тем больше рекламы увидите, и тем больше вероятность, что вы кликните на один из баннеров. Но реклама не очень эффективна даже при точном таргетинге, и количество просмотров, необходимое для обеспечения стабильной прибыли, постоянно растет.
Повысить количество просмотров страниц нелегко, ведь люди располагают ограниченным количеством свободного времени. Платформы часто пытаются повысить вовлеченность пользователей, предлагая то, что им может понравиться, но это не всегда работает (пример: рекомендации на Netflix).
Но вовлеченность также можно повысить, играя на негативных эмоциях людей: тревоге и негодовании. В долгосрочной перспективе провокационные комментарии и шокирующие изображения могут оттолкнуть пользователей, но «здесь и сейчас» они гарантированно приносят несколько дополнительных кликов.
Платформы, которые используют эту тактику, эксплуатируют естественное желание людей спорить на горячие темы и тем самым влияют на общественный дискурс.
Читайте также
Тоннель реальности: как соцсети вызывают «ожирение» мозга и продают нас корпорациям
Цифровая гигиена: как пользоваться соцсетями, не давая им использовать вас
Намеренная цензура
Модерирование контента — непростая задача. Правила о том, что можно и чего нельзя говорить онлайн, несовершенны. Ситуация еще больше усугубляется, когда тот или иной сервис обслуживает большое количество пользователей, представляющих разные культуры. Определить, когда кто-то переступает черту дозволенного, бывает трудно, даже когда люди говорят на одном с вами языке, а наличие культурного и языкового барьера многократно усложняет задачу.
Тот факт, что популярные платформы насчитывают сотни миллионов (а иногда и миллиарды) пользователей, означает, что существенная часть общественного дискурса подвергается сомнительной модерации.
Хоть вероятность ошибки и крайне мала — всего один из тысячи комментариев удаляется по ошибке, — необходимо учитывать, что на популярных платформах счет постов за день идет на сотни миллиардов, а это означает миллионы актов цензуры ежедневно.
Иногда сомнительная политика модерации усугубляется плохими законами. Например, закон SESTA/FOSTA (закон о борьбе с торговлей людьми онлайн) слишком расплывчатый — он привел к запрету определенных дискуссий о сексуальности на открытых форумах, включая те из них, которые посвящены обеспечению безопасности секс-работниц (например, на площадках, где секс-работницы публиковали списки опасных клиентов).
Точно так же прописанное в законе «О соблюдении приличий в средствах коммуникации» требование к провайдерам, предоставляющим интернет для школ и библиотек, вносить в черный список порнографические сайты, привело к ограничению доступа к огромному количеству ресурсов, посвященных сексуальному здоровью и борьбе с домогательствами.
Случайная цензура
Вдобавок к плохой политике модерации случаются и ошибки при контроле за соблюдением правил. Когда Tumblr запустил свой фильтр для блокировки порнографических материалов, это привело к блокировке огромного количества безобидных изображений — от «двусмысленных» фотографий овощей до эротических фотографий, которые Tumblr ранее приводил в качестве примеров изображений, которые не подпадают под блокировку. Ошибаются не только люди, но и машины.
Некоторые темы чаще других подвергаются цензуре по ошибке: обсуждения вопросов сексуальности, свидетельства жертв сексуального насилия, а также имена и географические названия, схожие со словами, которые блокируются фильтрами (например, вьетнамское имя Фук и британский город Сканторп).
Из-за систематического характера случайной цензуры определенные виды дискурса на онлайн-платформах становятся невозможными.
Цензура со стороны третьих лиц
С первых дней существования интернета правительства стран мира пытаются решить, можно ли привлекать сайты к ответственности за действия пользователей. В разных странах от провайдеров требуют удалять или не допускать публикацию материалов, которые содержат порнографию, клевету, проявления домогательств, ересь и богохульство, нарушают авторские права, оскорбляют королевскую семью, разжигают вражду или призывают к идеологическому насилию.
Модераторам крайне сложно обеспечить соблюдение подобных законов, но еще сильнее усложняют их работу попытки третьих лиц заставить своих оппонентов замолчать, сообщая о них заведомую ложь.
Как правило, самопровозглашенные цензоры подают жалобы в надежде попасть на ленивого, уставшего или непонятливого модератора и добиться блокировки пользователя или удаления его поста.
Причем детальные правила о том, что может служить основанием для удаления поста, предоставляют новое оружие троллям, которые заучивают эти правила вдоль и поперек.
В итоге люди, использующие платформы для цивилизованного диалога, оказываются в проигрыше по сравнению с «надзирателями», единственная цель которых — препятствовать обсуждению.
Чем сложнее становятся правила, тем проще недобросовестным пользователям найти в них повод для жалоб на оппонентов, и тем труднее обычным пользователям избежать нарушения какого-либо из миллионов правил.
Важно помнить, что вера в то, что техногиганты способны формировать дискурс, собирая о нас информацию и затем забрасывая нас сообщениями, играет им на руку, помогая продавать еще больше рекламы.
Тем не менее то, что техногиганты искажают общественный дискурс, — это факт. Масштаб технологических компаний обуславливает непрозрачность их деятельности и повышает риск ошибок, делая цивилизованный диалог невозможным. А монопольный статус освобождает их от ответственности, которая проистекает из страха, что недовольные пользователи могут перейти к конкурентам.
Парадоксальным образом меры, направленные на ограничение манипулятивных практик технокорпораций, оборачиваются дополнительными трудностями для потенциальных конкурентов. Огромные штрафы за нарушение правил лишь упрочивают монополию в цифровом пространстве, так как маленькие технокомпании просто не в состоянии их платить.
Может быть интересно
Масштаб и монопольный статус техногигантов приводят к тому, что общественный дискурс становится токсичным. Для борьбы с этим есть несколько средств: разделение компаний, тщательный контроль за сделками слияния и поглощения, ограничения вертикальной интеграции.
Само собой, после уменьшения техногигантов до приемлемых размеров надо будет еще разобраться с их машинным месмеризмом, но эта задача станет намного проще, как только техногиганты лишатся сверхприбыли, которая сейчас позволяет им игнорировать попытки законодательного регулирования их деятельности.