Великий надзиратель: на место большому брату пришел надзорный капитализм — разбираемся, как нам при нем жить

Что такое «надзорный капитализм»?

В одном из интервью Шошана Зубофф определила надзорный капитализм (НК) как «одностороннее присвоение частного человеческого опыта в качестве сырья для поведенческих данных». Более поэтически она называла его «вампиром, питающимся человеческим опытом». При надзорном капитализме интернет-компании собирают данные о нашем поведении в Сети, затем используя их для получения прибыли. Например, продают маркетинговым агентствам свои прогнозы о поведении онлайн-пользователя.

Зубофф защитила докторскую диссертацию по социальной психологии в Гарварде и большую часть карьеры посвятила изучению эволюции труда, цифровой революции и капитализма. Помимо «Эпохи надзорного капитализма», она написала «Век умных машин» про информационные технологии на рабочих местах, а также работу о «распределенном капитализме». Сама Зубофф придерживается если не левых взглядов, то по меньшей мере левой оптики, регулярно отсылая к таким авторам, как Маркс и Ханна Арендт.

Поведенческие излишки есть? А если найду?

Надзорными капиталистами Зубофф называет компании, которые собирают «поведенческие излишки» пользователей интернета, строя на основе этих данных прогностические модели, которые затем продают для настройки таргетированной рекламы. Поведенческие излишки — это все те следы, которые мы оставляем в интернете, сами того не замечая. Базовая контекстная реклама действует так: вы ищите в поисковике, скажем, миксер, поисковик берет это ключевое слово и затем показывает вам рекламу миксеров.

Но Google, Meta и Microsoft производят гораздо более масштабный сбор данных. Автор объяснила разницу через метафору библиотеки. Идеальным вариантом было бы, если бы интернет представлял собой просто электронное книгохранилище с сайтами. Контекстная реклама в таком случае запоминала бы, кто какую книгу брал, чтобы затем предложить что-то с той же полки. При надзорном же капитализме собирается все: во сколько вы пришли за книгой, что за день был на дворе, какая погода, во что вы были одеты, оцифровываются все отпечатки, анализируется интонация, с которой вы общались с библиотекарем…

Все это позволяет Google и прочим строить прогнозные модели.

Если вы, например, вы заказываете доставку еды, когда читаете на спортивном сайте материалы о пляжном волейболе, причем во временном интервале с 19 до 20 часов, то именно на таком сайте и в такое время вам будут показывать рекламу агрегатора доставок.

По Зубофф, проблема не в том, что реклама становится настолько точной, а в том, что надзорные капиталисты, научившись предсказывать будущее, сами начнут его создавать. Быть может, сегодня вы читали про пляжный волейбол, уже подумывая о жареной курице в холодильнике, но вовремя показанная реклама изменит ваши планы. Так надзорный капитализм уже не только предсказывает, когда и что вы закажете, но и провоцирует вас на такие заказы.

В примере с едой Зубофф беспокоит не увеличение прогнозной силы и успешности рекламных объявлений, а возможность компаний заставить вас истекать слюной в точно заданное время по заранее спланированному поводу.

Аппетит — это базовая физиологическая реакция. Но что, если надзорные капиталисты возьмутся за более тонкие материи? Зубофф приводит пример сотрудничества между Google и предвыборным штабом Барака Обамы. Благодаря сбору и анализу поведенческого излишка компания знала очень многое об интересах неопределившихся избирателей. И если ей известно, что условные 57% жителей округа Каламазу в штате Мичиган в возрасте от 45 до 60 лет очень любят шоу «Мастер Шеф» по 14 каналу и активнее всего переходят по внешним ссылкам в своей ленте соцсетей с 7:30 до 8:15 утра во время завтрака, то именно в это шоу нужно вставить рекламу вашего кандидата, а на следующее утро наполнить их ленты объявлениями, которые тем или иным образом консолидировали бы их вокруг него. Ведь люди любят считать себя последовательными. Если вчера они увидели Обаму посреди любимого шоу, а сегодня прошли тест на политическую ориентацию, вопросы в котором построены так, чтобы с наибольшей вероятностью назвать участника сторонником Демократической партии, то завтра они с большей вероятностью проголосует именно за Обаму.

Этот пример мы сейчас взяли из головы, но именно такого рода вещей боится Зубофф.

С ее точки зрения, надзорные капиталисты крадут наше будущее, подменяя свободу волю индивида заранее запрограммированными решениями.

При этом Зубофф писала книгу еще до бума нейросетей. Надо полагать, сейчас ее прогнозы были бы еще мрачнее, ведь продвинутый искусственный интеллект увидит в поведении интернет-пользователей еще больше паттернов, чем мы можем представить.

Манипулируй, властвуй, оцифровывай

Вторая претензия Зубофф к надзорному капитализму связана с превращением людей в источник сырья — того самого поведенческого излишка — для собственного обогащения:

«Мы больше не являемся субъектами реализации стоимости. Не являемся мы, как настаивают некоторые, и „продуктами“ продаж Google. На самом деле, мы — объекты, из которых извлекается и экспроприируется сырье для ‍фабрик прогнозирования Google. Прогнозы относительно нашего поведения — вот продукты Google, и они продаются его подлинным покупателям, а не нам. Мы — средства для достижения целей других людей».

Конечно, здесь можно было бы возразить с точки зрения здравого смысла: Google и другие бигтех-компании ничего у нас не изымают. Цифровой излишек не достают у нас из карманов, его потеря никак не ощущается. Это как говорить о потере своего запаха, которые кто-то учуял, пока вы проходили мимо. Но Зубофф больше волнует этическая, а не материальная сторона вопроса:

«Суть эксплуатации здесь — представление наших жизней в виде поведенческих данных ради усовершенствования контроля над нами со стороны посторонних».

По Зубофф, надзорный капитализм сросся с государством (под которым в первую очередь имеется в виду государство американское). Google тратил по $18 млн в год на лоббистскую деятельность, чтобы производимая им «экспроприация» данных оставалась законной. Власти закрыли глаза на притязания компании, получив от нее ответные услуги. Зарождение надзорного капитализма пришлось на годы после трагедии 11 сентября, когда в Агентстве национальной безопасности США были зациклены на контроле всего. В какой-то момент власти отдали сбор данных на аутсорс, чтобы затем получать их и обрабатывать для своих целей.

В самом Google не очень-то любят давление со стороны государства и считают, что пользователи должны доверять скорее компании, чем властям. Но сотрудничество с чиновниками помогает бигтеху отстаивать, например, законность «договоров по клику». Тех самых, где вы даете согласие на использование своих куки-файлов, то есть на сбор, хранение, обработку и передачу информации о вас третьим лицам. Причем эти самые куки-файлы могут рассказать сборщику не только о том, что вы делаете на конкретном сайте, но и о предыдущих сессиях на других ресурсах.

По Зубофф, такой договор не может считаться настоящим, так как никто из пользователей в реальности не читает все эти многостраничные соглашения, а просто нажимает «согласен» и начинает пользоваться сайтом. Правда, автор тут не предлагает никакой альтернативы. В конце концов, никто не помешает вам просто подписать договор на кредит или покупку машины, не прочитав его.

Полностью конфиденциально (нет)

С точки зрения Зубофф, надзорный капитализм лишает людей права на конфиденциальность, то есть на право раскрывать свои мысли и чувства лишь при желании. Бигтех может проследить, какие сайты вы открываете, что там смотрите, на чем дольше задерживаете взгляд (а значит интересуетесь), в какой момент резко закрываете страницу (что-то вызвало ваше несогласие?).

Все это исследовательница считает грубым нарушением нашей конфиденциальности.

Есть у этого и материальные последствия. Зубофф приводит в качестве примера страховые компании, увеличивающие стоимость страховки людям, за которыми замечены паттерны избыточных рисков и неблагоразумного поведения. Работодатель может изучать поведенческие профили соискателей и принимать решение о найме на основе этого. Компания hiQ уже продает прогнозы о склонности сотрудников к увольнениям, анализируя их поведение в сети.

Тело политики

Зубофф уделяет большое внимание тому, что среди инструментов надзорного капитализма — далеко не только ваш браузер или компьютер. Отдельные главы она посвятила умным домам и носимым устройствам — умным часам, фитнес-браслетам, VR-очкам. Подобные устройства часто продают под предлогом создания «единой экосистемы», то есть соединения их всех при помощи беспроводной связи и специальных программ. В идеале это обеспечивает комфортное будущее, где чайник самостоятельно включается, как только трекер сна обнаружит, что вы вскоре проснетесь, а температура дома автоматически регулируется в зависимости от температуры вашего тела.

Конечно, такие технологии позволяют собрать целое море поведенческих излишков, оцифровать все привычки и особенности, сделать на их основе выводы и прогнозы, предположить, какой товар или услуга для вас наиболее привлекательны, или сделать привлекательным какой-то конкретный товар. Продавая другим компаниям прогнозы по тому, в какой момент избыточное потоотделение заставит вас купить новую сплит-систему, бигтех буквально капитализирует наше тело, заключает Зубофф. Об этом еще в 1970-х предупреждал Мишель Фуко. Так, в лекционном курсе «Рождение биополитики» он говорил:

«Контроль общества над индивидами осуществляется не только через сознание или идеологию, но и в теле и вместе с телом. Для капиталистического общества важнее всего биополитическое, биологическое, телесное измерения. Тело — биополитическая реальность; медицина — биополитическая стратегия».

Фуко перечислил основные черты биовласти, основывающейся на управлении человеческим телом:

«Капитализм производит массу. <…> Капитализм и буржуазное общество лишили индивидов прямого и непосредственного общения друг с другом и заставили их общаться лишь при посредстве административного и централизованного аппарата. <…> Кроме того, капиталистическое общество принуждает индивидов к массовому потреблению, чьи функции — унификация и нормализация. Наконец, буржуазная и капиталистическая экономика, по сути, обрекает индивидов на общение друг с другом посредством игры знаков и видимостей».

Согласно Фуко, государство начало превращать человеческое тело в политический ресурс еще в XVIII веке. А значит, его превращение в капитал было лишь вопросом времени. По существу, этот процесс начался довольно давно: вначале из-за отчуждения труда, затем посредством продажи товаров для тела, наконец — через продажу информации о теле.

Зубофф следует за Фуко в своем определении власти, утверждая, что надзорные капиталисты, собирая «поведенческие излишки», получают над нами власть, будучи способны повлиять на наше поведение, например, показом рекламного баннера в определенный момент и в определенном контексте.

Кроме того, она опирается на социолога Эмиля Дюркгейма, исследовавшего разделение труда. По Дюркгейму, разделение труда было результатом индустриализации и развития капитализма. В таком случае надзорный капитализм — это просто следующий шаг, когда мы делегируем другим не только выпечку хлеба и пошив рубахи, но также поиск информации, когнитивные процессы и организацию досуга.

Человеческий автомат

Зубофф также часто отсылает к психологу-бихевиористу Берресу Скиннеру, автору теории оперантного обусловливания, согласно которой поведение человека меняет условия среды, а среда, в свою очередь, определяет дальнейшее поведение. Бихевиоризм рассматривает человеческие действия как рефлексы, то есть реакции на какие-то стимулы, настоящие или прошлые. Если упрощать, то бихевиоризм и теория оперантного поведения отменяют идею свободы воли, так как с их точки зрения каждый поступок обусловлен стечением факторов: внешними стимулами и нашими предыдущими действиями.

Исходя из таких посылок, что делать с человеческим сознанием? Скиннер его, конечно, не отрицал. Но так как наблюдение за чужим сознанием третьему лицу недоступно, его выводили за скобки научного познания, сосредотачиваясь в первую очередь на поведении. Это привело к когнитивному искажению: если рассматривать только внешние реакции субъекта на такие же же внешние стимулы, начинает казаться, что у всех реакций есть внешние стимулы. Это одна из причин, по которой аргументы Зубофф далеко не всегда выглядят убедительными. Она полагает, что бигтех способен лишить людей «свободного будущего», то есть управлять их выбором посредством внешних стимулов.

При этом словно исключаются такие человеческие способности, как принятие независимых решений и различение манипуляций.

Далеко не всегда наши решения логичны и рациональны. Сложные ассоциативные цепочки могут заставить нас при виде рекламы велосипедов заказать копченую рыбу, так как на похожем велосипеде мы в детстве ездили на рыбалку. В другом настроении вид велосипеда может напомнить нам о каком-то другом эпизоде из детства — и вызвать другие желания. Один и тот же внешний стимул влияет по-разному исходя не только из внешних факторов, которые искусственный интеллект может просчитать, но также в зависимости от настроения, приснившегося накануне сна, встреченной по дороге в магазин приметы и так далее. Изучение такой сложной совокупности условий потребовало бы многих лет сбора данных, постоянной адаптации к новым факторам, сотен расчетных процессов в секунду — и все ради того, чтобы продать рекламу или получить ваш голос на выборах. Пока что это не выглядит ни реализуемым, ни осмысленным.

Если мы сводим человека к сумме реакций на внешние стимулы, конечно, мы должны заключить, что он заведомо подвержен манипуляциям. В таком случае концепция Зубофф превращается в порочный круг: ее восприятие людей делает их зависимыми от внешних источников информации, которыми всегда кто-то да будет манипулирвать.

Не всякое наблюдение — надзор?

Профессор Петер Кенигс выступил с критикой аргументов Зубофф, начиная с ее основного термина — надзорного капитализма. Кенигс утверждает, что далеко не всякое наблюдение является «надзором». В пример он приводит футбольного тренера, который изучает своих игроков, чтобы сделать их лучше. Он тоже собирает множество разной информации — от скорости бега до того, что игрок ел на завтрак. И тоже делает из этого выводы и прогнозы. Например, увидев, что кто-то из футболистов не доедает свою порцию, может предположить у него стресс и не включить в состав на матч во избежание ошибок. Будет ли это считаться «надзором»?

Сам термин surveillance в английском языке в основном относится к камерам наблюдения, которые направлены на предотвращение преступлений и поиск преступников. У бигтеха же цель совершенно другая, однако слово surveillance заставляет нас проводить тревожные параллели между бигтехом и большим братом.

Также Кенигс считает, что каждый из нас может легко вырваться из пут надзорного капитализма. Например, купить платную подписку на ютуб и избежать контекстной рекламы, пользоваться браузерами, не собирающими информацию о пользователях, и отказаться от сервисов определенных компаний.

Правда, отсутствие контекстной рекламы еще не означает, что данные про вас не собирают, а манипулировать пользователем можно и иными методами.

Например, подсвечивая определенные места на электронных картах или структурируя поисковую выдачу. Как защититься от этого? Вероятно, вернуться к бумажным картам и библиотекам. Или найти сервисы, работающие без сбора пользовательских данных, вероятность чего все меньше и меньше: Google, Apple и другие корпорации агрессивно скупают любые успешные стартапы, чтобы охватить как можно больше сфер человеческой жизни.

Наконец, Кенигс оспаривает тезис Зубофф о том, что надзорный капитализм нарушает человеческую приватность. Если верить Google и другим компаниям, сбор, обработка и хранение всей персональной информации осуществляется машиной. Сотрудники якобы не имеют доступа ни к каким личным данным. Поскольку машина не может осмыслить полученную информацию, а лишь обрабатывает ее, приватность сохраняется. Кто может дать гарантию этого, учитывая, что вся сфера сбора данных в том же Google хорошо засекречена? Вдобавок нельзя недооценивать возможности ИИ — уверены ли мы, что доверяя ему указанные процессы, мы сохраняем свою приватность в человеческом смысле?

Свобода воли против бигтеха

Критике можно подвергнуть и основную мысль Зубофф о том, что сбором поведенческого излишка и основанными на нем манипуляциями нас лишают свободного будущего. Кажется, что это механизм не одного только надзорного капитализма. Например, договариваясь с любимым человеком о поездке в далекий парк на выходных, мы учитываем, что по пути будет кофейня с его любимыми пирожными, что может придать ему мотивации отправляться в долгую поездку. Давал ли нам любимый человек право на сбор информации? Другой пример: можно воспользоваться любовью начальника получать отчеты в какое-то определенное время, и следуя этой привычке добиться его благосклонности. Не является ли манипуляцией продажа новогодних елок возле детского сада, чтобы детишки точно их увидели и попросили у родителей? Где грань между осведомленностью о привычках людей и манипулированием?

Когда умер мой дедушка, одними из первых, кто нам позвонил, были представители ритуальных агентств. Они получают информацию из моргов, и никто даже не предлагает вам согласиться с использованием «кукис» перед этим. Никакие цифровые излишки для этой манипуляции ритуальщикам не нужны.

Возможно, дело не в злонамеренном умысле цифровых гигантов, а в стремлении людей извлекать прибыль из всего?

Иными словами, не является ли так называемый «надзорный капитализм» просто новым способом увеличивать прибыль? По Зубофф, мы находимся сейчас на принципиально новом этапе, потому что бигтех заполучил доселе невиданные возможности для манипуляции. Пользователи интернета у Зубофф выходят практически философскими зомби, внешне не отличимыми от людей, но лишенными сознательного опыта. Если довести аргументы Зубофф до предела, придется признать, что свободы воли нет — есть лишь алгоритмизируемое стечение обстоятельств, как в сериале The Devs Алекса Гарленда. Но можно ли, собрав информацию, запрограммировать определенные поступки и выстроить алгоритм для каждого из нас?

Получается одно из двух. Либо вся эта работа с поведенческими излишками отличается от обычного маркетинга лишь масштабами, а значит, надзорный капитализм — лишь новая личина старого доброго капитализма. Либо же все мы — биомашины, которыми надзорные капиталисты пользуются по назначению. Попытку обращаться с людьми как с машинами действительно следовало бы поставить бигтеху в упрек. Что до бесконтрольного сбора данных, пора привыкнуть: интернет — это общественное место, а поведение человека в общественных местах всегда привлекает внимание других. Хотите его избежать? Tor, DuckDuckGo, small web помогут в этом.

Конечно, было бы правильно, если бы Google сообщал при скачивании браузера: «Это не бесплатная программа, вы платите за нее своими данными». А дальше пусть каждый сам решает, что ему важнее — комфорт или приватность.