Цензура цифровой эпохи: от китайской 50-центовой партии до запрета Докинза и редполитики «вы слишком мало пишете о трансгендерах»

Цензура на территории Facebook

Количество активных пользователей фейсбука на начало 2018 года составило 2,19 млрд человек — больше, чем граждан в любой стране мира. Сеть используют представители большинства мировых культур, религий и национальностей — часто с крайне противоречащими друг другу взглядами. Долгое время IT-гигант предоставлял слово всем людям вне зависимости от их взглядов и никак не регулировал их самовыражение. Политика модерирования контента в фейсбуке началась в конце нулевых с худенького списка запрещенных тем (в которые входили изображения обнаженной натуры и отрицание холокоста) на одну страницу. В 2018-м уже действует 27-страничный гид, регулирующий и запрещающего целые пласты контента и высказываний.

Особо выдающимся в новых гайдлайнах оказался раздел про хейтспич, который определяется как прямая атака на людей с так называемыми защищенными характеристиками: раса, этничность, национальное происхождение, религиозные убеждения, сексуальная ориентация, пол, гендер, гендерная идентичность, инвалидность и заболевания.

Под «атакой» Facebook подразумевает любую насильственную речь, сравнение людей с грязью, бактериями, заболеваниями и экскрементами, а также с животными, которые культурно воспринимаются интеллектуально и физически низшими по отношению к человеку. Facebook описывает проблемы фильтрации и цензурирования хейтспич на следующих примерах.

«Как разобраться, что имеют в виду люди, запостившие сообщение “burn flags not fags”?» — спрашивают модераторы социальной сети. Это атака на геев (“fag” — одно из названий гомосексуалов на английском языке) или, наоборот, — попытка защитить их? Или это призыв сжечь флаг?

Или это способ отговорить людей от курения (“fag” — также одно из сленговых названий сигарет)?

Со сленгом вообще возникает много проблем, в пример чего Facebook приводит пару «москаль» и «хохол». До определенного момента эти слова были нейтральными, а после 2014 года и конфликта двух стран в Facebook начали поступать массовые жалобы на публикации с этими словами и в итоге из соцсети стали удалять посты с обоими словами.

Антитеррористическая цензура

Цензура в тоталитарных и в демократических правовых режимах — различные явления. В демократиях цензура (по крайней мере, декларативно) служит стабильности, внутренней и внешней безопасности страны с максимальным соблюдением прав и свобод своих граждан. Тоталитарная цензура носит более репрессивный характер, проникает в работу, творчество и личные отношения граждан. Особая статья — антитеррористическая цензура: она работает по одинаковым принципам и в тоталитарных, и в демократических обществах и сводится к запрету любых экстремистских высказываний, пропаганды насилия, разжиганию вражды и ненависти. Разница только в том, что понимают под экстремизмом разные политические режимы.

Одно и то же общественное явление в одних странах может считаться социальным активизмом, а в других — экстремизмом. В Германии строго запрещено использовать нацистскую символику, а в Америке вполне законно проходят факельные шествия неонацистов, хотя, на самом деле, значительная часть экстремистов в США — white supremacists.

Тоталитарная цензура

Самый радикальный способ цензурирования интернета — полное его отключение. В Северной Корее доступ в мировую Сеть получают только чиновники по личному разрешению Ким Чен Ына, большинство граждан имеет только доступ к национальному интранету Кванмён. Когда в 2010-м в Тунисе началась волна политических протестов, тогдашний президент Бен Али позволил американскому фейсбуку продолжить свою работу на территории страны. В результате он был свергнут, и многие считают, что координация протестующих через фейсбук сыграла в этих событиях не последнюю роль. В 2011 году египетский президент Хосни Мубарак, столкнувшись с волной политических протестов, решил полностью перекрыть своим гражданам доступ в интернет, чтобы уменьшить силу протестного движения. Однако это только увеличило количество протестующих на улицах, в результате чего Мубараку пришлось уйти с поста.

Большая часть интернет-доступа в Китае обеспечивается государственными корпорациями, крупнейшие из которых — China Telecom и China Netcom, а все частные компании могут только арендовать доступ в интернет у государственных структур. Это позволяет правительству эффективно цензурировать и при необходимости блокировать интернет-сервисы, которые отказываются выполнять требования партии. Китай занимает первое место в мире по количеству посаженных в тюрьму журналистов и интернет-диссидентов. Нарушителей чаще всего обвиняют в связях с политическими группами за рубежом, в том, что они подписывают незаконные онлайн-петиции, призывают к реформам и разоблачают коррупцию.

Однако центральное правительство время от времени позволяет населению выпустить пар и покритиковать неугодных партии чиновников, после чего чиновники покидают свои посты или даже попадают в тюрьму, а у народа создается ощущение причастности к управлению делами страны.

В 2011 году в Вэньчжоу столкнулись два высокоскоростных поезда. В аварии погибли 40 человек, и чиновники из Министерства транспорта хотели быстро замять эту историю. Но за следующую неделю в китайских соцсетях появилось больше 10 млн критических публикаций в адрес правительства. Это был первый в истории Китая случай публичного осуждения политиков, не зацензуренный и явно одобренный руководством компартии, после которого министр путей сообщения был снят с поста и осужден на 10 лет.

Блокировка «великим китайским файерволом» самых популярных западных сервисов дала возможность китайским компаниям создать собственные аналоги. Вместо Google — Baidu, вместо Twitter — Weibo, вместо Facebook — RenRen, вместо Facebook Messenger — Wechat, вместо YouTube — Youko и Tudou. Эти сервисы насчитывают сотни миллионов пользователей в Китае, а Weibo уже превосходит своего прародителя Twitter по численности пользователей. На первый взгляд, это кажется просто проявлением политики протекционизма, однако это не только вопрос экономической выгоды: собственные интернет-сервисы позволяют китайскому правительству реализовывать эффективную цензуру.

Вскоре после того, как китайские власти отменили ограничения на срок правления президента Си Цзиньпина, сервис микроблогов Weibo значительно расширил список запрещенных слов и терминов. Забаненными оказались не только слова вроде «мой император» или «пожизненный контроль», которые могли бы использоваться в критике правителя, но и менее очевидные — например, фраза «посадить самолет», которая на китайском звучит похоже на «взойти на трон».

Запрещенными стали упоминания антиутопий Оруэлла «Скотный двор» и «1984» и даже само слово «не согласен», а у производителя презервативов Durex начались проблемы из-за рекламы со слоганом «Два раза недостаточно», как бы намекающим на третий срок Си Цзиньпина.

Еще один мощный инструмент цензурирования китайского интернета носит скорее утвердительный, чем запретительный характер. «Умаодан», также известное как 50-центовая партия, — это сообщество проправительственных блогеров и комментаторов, которые, по легенде, получают по 50 центов за каждый прославляющий партию пост. «Позитивные» блогеры наводняют социальные сети сообщениями о славе Китая, о величии его истории, о позитивных и выдающихся достижениях коммунистической партии. Эта лавина оптимистических сообщений численно вытесняет любые попытки критиковать правительство или сомневаться в его действиях: даже не приходится ничего удалять. При желании такие комментарии могут трактовать как проявление свободы слова — конечно, если не будет доказано, что эти сообщения проплачены и сфабрикованы «центральным мозгом». Российский аналог «Умаодан» известен под названием «Ольгино».

Как и Китай, Россия создала собственные аналоги Facebook: «ВКонтакте» и «Одноклассники» — однако пока не стала блокировать американский сервис. Тем не менее до конца 2018 года Facebook должен будет перенести серверы с данными российских пользователей на территорию страны, удалить запрещенный в России контент и в целом настроиться на слаженную работу в «пакете Яровой». В противном случае социальную сеть могут заблокировать и на территории России.

В России заводят дела на граждан за «оскорбительные» картинки, в то время как в Китае вы просто не сможете запостить слова, которые могут потенциально использоваться в критике Си Цзиньпина. Кроме того, для более эффективного цензурирования интернет-контента в реальном времени необходимы производственные мощности и специальная аппаратура. В России ее производством занимаются семь компаний, Китай ушел в производстве подобных технологий дальше: он экспортирует оборудование для интернет-слежки и цензурирования контента. К примеру, ZTE и Huawei поставляют такие технологии в Россию, Вьетнам, Таиланд, Шри-Ланку, Замбию, Зимбабве, Эфиопию и ряд других стран.

Либеральная цензура в Европе

Свобода слова в демократических странах основывается на двух документах: Декларации прав человека и гражданина, принятой во Франции в 1789 году, и на Первой поправке к Конституции США, принятой в 1791 году. Они сходятся в том, что правительства не должны посягать на свободу слова, прессы и собраний и не должны запрещать свободу вероисповеданий. Однако понимание границ свободы разнится от страны к стране, и европейские страны чаще прибегают к законодательному регулированию свободы слова и самовыражения.

Так, в Германии, чтобы отмежеваться от наследия Третьего рейха, на госуровне запрещено отрицание холокоста и использование нацистской символики, а во Франции запрещено печатать антисемитские памфлеты выдающегося французского писателя Луи-Фердинанда Селина, которые он написал во времена Второй мировой войны, — однако разрешено печатать “Mein Kampf”.

С 2004 года во французских государственных школах детям запрещено носить любые религиозные символы (и христианские кресты, и еврейские кипы, и мусульманские платки), а с 2011-го вслед за Бельгией запретила мусульманкам носить никаб в общественных местах. В 2018 году любые религиозные символы запретили носить французским парламентариям (а также запретили появляться в парламенте в футбольной форме), а в 2016-м суд постановил убрать статую Девы Марии из общественного парка в городке на востоке Франции. На выборах президента в 2017 году Марин Ле Пен, второй по популярности кандидат, предложила тотальный бан всех религиозных символов в любых публичных местах.

Запрет всяких религиозных проявлений — логичный результат последовательной борьбы толерантности за примирение групп с очень разными, а часто противоречащими друг другу интересами. Оказалось, что проще устранить из общественного пространства религиозный дискурс, чем примирить разные религиозные группы в общей дискуссии.

Регулирование интернета в демократических странах балансирует между двумя фундаментальными правами граждан: правом на свободу слова с одной стороны — и желанием быть защищенными государством от вредоносного контента с другой. Французский президент Эммануэль Макрон в начале 2018 года предложил на законодательном уровне обязать интернет-компании удалять фейковые новости, а также банить пользователей и сайты, которые их распространяют.

Германия вырвалась в лидеры цензурирования интернета по вопросам ограничений хейтспича.

Недавно был введен свод правил, в Германии известный как NetzDG, требующий от социальных медиа удалять потенциально нелегальный материал по требованию властей в течение 24 часов. Если материалы не будут удалены в течение указанного срока, компании будут вынуждены заплатить штраф в 50 млн евро.

В 2017 году, до принятия этого закона, Facebook удалось удалить 39 % нелегального материала в течение первых 24 часов после жалобы, Twitter — 1 %, а лидером оказался YouTube, удаливший 90 % отмеченного материала в течение суток.

Студенческая либеральная цензура в США и Европе

Обеспечение свободы слова граждан, в отличие от обеспечения безопасности, образования и здравоохранения, требует от государства невмешательства в деятельность и высказывания людей. Благодаря развитию общественных движений и социального активизма цензура часто переходит в руки обычных граждан.

В более чем 100 колледжах США действует организация под названием Bias Response Team, состоящая из студентов-активистов, которые должны обеспечивать инклюзивную среду для учащихся и помогать жертвам предвзятостей и дискриминации. Со временем членов организации стали обвинять в превышении полномочий и в активном цензурировании всех аспектов жизни колледжей. Фактически волна борьбы с предвзятостью и дискриминацией породила новые неформальные органы цензуры на университетских кампусах.

BTA вмешивается в дела университетских газет, потому что они недостаточно полно освещают жизнь трансгендеров, запрещают носить на вечеринках костюмы «трех слепых мышек» (насмешка над ограниченной дееспособностью) или купальные лифы в виде половинок кокосов (апроприация чужой культуры).

Сама по себе интенция защищать меньшинства, безусловно, заслуживает уважения, однако критики подобной добровольческой активности чрезмерно рьяных политкорректных общественников замечают, что их необдуманные и назойливые действия приводят к поляризации социума и нарушают сами основы свободного общества.

Исследование 2017 года показало, что 54 % американских студентов отказывались делиться своими мыслями во время учебы, а 30 % приходилось «цензурировать себя» на занятиях, чтобы не подвергнуться критике и нападкам со стороны других студентов.

В среде американских и европейских либералов стало выделяться неформальное движение, которое называют illiberal liberals («нетерпимые либералы»): их нападкам подвергаются люди, высказывающие взгляды, оскорбительные для маргинализированных групп.

Парадоксальным образом нетерпимость этой группы людей проявляется в борьбе за терпимость. С 2000-го по 2017 год в США было зафиксировано 342 случая, когда протесты студентов приводили к отмене запланированных лекций и выступлений в кампусах университетов. Некоторые из таких протестов выливались в ожесточенные протестные демонстрации и даже физические атаки на приглашенных спикеров, а 151 раз недовольства части студентов приводили к тому, что руководство университетов отзывало свои приглашения. Протесты студентов распространяются и на политиков: в 2014 году бывшая госсекретарь США Кондолиза Райс была вынуждена отменить свое выступление в университете из-за претензий студентов к ее действиям в администрации Буша, а директор Международного валютного фонда Кристин Лагард в том же 2014-м отменила свое выступление из-за претензий к работе МВФ.

В Англии и США существует аналогичное Bias Response Team движение под названием No Platform, которое старается лишить платформ для выступления спикеров, представляющих противоречащие либеральному дискурсу взгляды.

В первую очередь это касается спикеров с расистскими или нацистскими взглядами, однако и это движение время от времени перегибает палку. Так, в июле 2017 года усилиями активистов из этого движения эволюционному биологу, известному либералу и последовательному и непримиримому атеисту Ричарду Докинзу запретили выступать на радиостанции в штате Калифорния из-за того, что его комментарии об исламе «оскорбляют и ранят» многих людей.

Технологии и будущее цензуры

При попытке запостить в китайский твиттер Weibo одно из запрещенных слов, он выдает сообщение о нарушении правил пользования сервисом и в итоге просто не постит такое сообщение. Инженеры из американской компании IBM недавно создали ИИ-алгоритм, который должен помочь пользователям отфильтровывать оскорбительные слова из набираемых сообщений. Вместо того чтобы автоматически заменять запретные слова (хотя такая опция у этой технологии тоже есть), алгоритм вежливо предлагает заменить ваши слова на более приличные.

Опробовавшие механизм пользователи утверждают, что пока алгоритм работает не очень стройно и, например, фразу “bros before hoes” («братва важнее шлюх») заменяет на нерелевантную “bros before money”, а вот восклицание “what a fucking circus!” более удачно заменяет на “what a big circus!”.

Однако пока что этот алгоритм работает на самом базовом уровне и не может распознать оскорбительное предложение, если в нем нет очевидных ругательств.

Но разработчики из технологического инкубатора Jigsaw (раньше назывался Google Ideas) пошли дальше и недавно запустили проект Perspective API. «API использует модели машинного обучения для того, чтобы оценить предполагаемое воздействие, которое комментарий возымеет на беседу», — говорится в описании этого приложения. Оно должно помочь более эффективно модерировать дискуссии и комментарии пользователей благодаря определению уровня «токсичности» беседы и отдельных высказываний. Алгоритмы Perspective обучаются на онлайн-комментариях к изданиям The Guardian, The Economist и The New York Times. Также этот алгоритм используется и обучается в редакторских форумах «Википедии», где добровольцы помогают определять степень токсичности разных утверждений.

Очевидцы, тестировавшие работу этого алгоритма, сообщают, что пока весь проект выглядит достаточно сырым. К примеру, предложение «я люблю фюрера» оно считает на 3 % схожим с токсичными комментариями, а одно слово «арабы» отмечает как токсичное на 63 %.

Цензура в современном мире не только возможна — она более чем реальна, и будущее скрывает диковинные, невиданные пока виды цензуры с использованием новых технологий. Но главная цель — вызвать в людях стойкую привычку к самоцензуре, то есть сделать нас самих цензорами наших мыслей. Джордж Оруэлл писал в XX веке: «В наш век само понятие свободы мысли подвергается нападкам с двух сторон: с одной — его врагов в теории, апологетов тоталитаризма; с другой — его непосредственных врагов на практике, монополий и бюрократии». Тоталитарные режимы и корпорации, конечно, заинтересованы в том, чтобы мы думали — и потому действовали — в угодном им русле. С другой стороны, буддисты и мистики всех времен и народов учат, что тот, кто научится контролировать (в каком-то смысле — цензурировать) свои собственные мысли, сможет управлять миром.