Словарь цифровой осознанности: живая лаборатория, поведенческий излишек и еще 5 важных понятий новой высокотехнологичной реальности
Стремительное развитие высоких технологий меняет не только скорость интернета и вес наших ноутбуков, но и устройство общества, и наш взгляд на человека. Экономист, эксперт по цифровым технологиям и ведущий канала «Чорт ногу сломит» Сергей Жданов объясняет 7 фундаментальных понятий нового мира, которые постепенно становятся нашей всеобщей реальностью. Вас ждут надзорный капитализм, социальная физика, эпистемное неравенство и другие невероятные явления.
Надзорный капитализм — это экономическая система, возникшая в начале XXI века и основанная на сборе, обработке и торговле персональными данными. Во многом она появилась благодаря тому, что технологии сбора данных стремительно развиваются, а законы, регулирующие эти процессы, нет.
Надзорными капиталистами называют международные цифровые корпорации с миллиардами пользователей и самой высокой рыночной стоимостью, например Google, Facebook или Amazon.
С помощью слежки надзорные капиталисты собирают большие данные о деятельности людей, обрабатывают их мощностями искусственного интеллекта и получают точную картину поведения пользователей — в том числе возможность предсказывать его. Владение этой информацией превратило интернет-компании в самые эффективные рекламные агентства, а цифровую рекламу — в инструмент политической борьбы. В результате в руках надзорных капиталистов скопилось беспрецедентно большое количество денег и власти.
Человеческий опыт — основное сырье в системе надзорного капитализма. Его в промышленных масштабах добывают из жизней миллиардов людей с помощью средств цифровой слежки в виртуальной и реальной среде.
Любые данные, которые человек производит в жизни — от режима сна и графика сердечной активности до истории покупок и передвижений, — оцифровываются, хранятся и обрабатываются в самых крупных data-центрах и системах ИИ, принадлежащих надзорным капиталистам.
Сотни миллионов людей делятся с ними своими данными и позволяют за собой следить, получая в обмен бесплатные услуги вроде почты на Gmail, ютуба и аккаунтов в фейсбуке и твиттере. С развитием интернета вещей возможности слежки и сбора данных значительно расширились: теперь это делают и умные колонки Google, и виртуальные помощники Apple, и камеры наблюдения, и дроны от Amazon.
Надзорные капиталисты владеют не только самыми продвинутыми средствами слежки и мощными инструментами медиа и рекламы, но и самыми совершенными системами ИИ. Их компании — крупнейшие научные лаборатории, в которых работают лучшие ученые из всех областей науки и со всего мира.
Со временем стало очевидно, что такие компании, как Google и Facebook, не только успешно предсказывают поведение людей, но и могут его менять, то есть перешли от наблюдения к управлению.
Основные опасности надзорного капитализма — исчезновение приватности людей, усугубление экономического неравенства, угроза свободному рынку.
Средства цифрового контроля, сконцентрированные в руках надзорных капиталистов, могут с одинаковой вероятностью привести и к развитию цифровой демократии, и к установлению цифрового тоталитаризма. Не говоря уже о том, что детерминизм, исповедуемый надзорными капиталистами, подрывает саму идею свободы воли.
Поведенческий излишек (behavioral surplus) — это данные о поведении пользователей, которые компании, предоставляющие услуги, собирают и обрабатывают, но используют не по заявленному назначению.
Этот излишек появляется потому, что приложения собирают о своих пользователях больше информации, чем нужно для непосредственного улучшения сервиса или предоставления услуги. Например, программа-калькулятор может запрашивать доступ к камере и геолокации смартфона, а программа для обработки фотографий — к контактам и почтовому адресу.
Чтобы основные функции программ хорошо работали, эти данные не нужны. Зато компании, которым мы разрешили сбор этой информации, смогут затем монетизировать ее в других ситуациях или даже продать кому-то другому.
Вот что американский философ Шошана Зубофф пишет о поведенческом излишке:
«Надзорные капиталисты относятся к человеческому опыту как к бесплатному сырью, которое они перерабатывают в данные. Хотя некоторые из собранных данных идут на улучшение продукта или сервиса, значительная их часть объявляется „поведенческим излишком“ и уходит в собственность надзорных капиталистов. Затем эта информация обрабатываются „машинным интеллектом“ и превращается в предсказания о вашем поведении, которыми можно торговать».
Впервые масштабно монетизировать поведенческий излишек получилось у Google. Поисковик развивался, и они собирали всё больше данных о пользователях сервиса. Часть этой информации они использовали для улучшения поиска, а другую часть поначалу считали бесполезной. Однако когда реклама легла в основу финансовой модели Google, избыточные данные о поведении пользователей стали использовать в интересах рекламодателей.
Чем больше данных о пользователях собирал и обрабатывал Google, тем более релевантную рекламу он им показывал. Рекламодатели, у которых не было доступа к такой полной информации о потенциальных покупателях, смогли получить доступ к уже готовым выводам о будущем поведении покупателей: Google доносил рекламу до нужного пользователя максимально эффективно.
За счет такой монополии на поведенческий излишек рекламные гонорары Google быстро и стабильно росли.
Государства, корпорации и мелкие компании стараются максимально расширить перечень собираемой информации. Google начинал со слов, которые пользователи вводили в поисковик, а сейчас компании фиксируют их голоса, фото и видео, эмоции, изменения личности и т. д. Другими словами, о пользователях собирают как можно больше информации, но не объясняют, зачем именно.
Социальная физика
Социальная физика — это молодая социальная наука, которая на языке математики описывает связи между информацией, потоками идей и человеческим поведением.
Она начала бурно развиваться только в XXI веке вместе с интернет-технологиями, соцсетями и носимыми компьютерами.
Социальная физика изучает, как идеи перетекают от человека к человеку через механизмы социального обучения и как этот поток идей создает нормы, влияет на продуктивность и творческие результаты компаний, городов и обществ.
Ученые исследуют паттерны телефонных звонков и переписок в соцсетях, оценивают время, которое люди проводят друг с другом, места, где они это делают, их общие переживания (так называемый майнинг реальности).
Если традиционная физика изучает превращение энергии в движение, то социальная — как потоки идей и информации меняют поведение людей.
Майнинг реальности возможен благодаря целому арсеналу сенсоров от камер наблюдения до смартфонов и умных браслетов. Собранная информация позволяет социальным физикам видеть и предсказывать паттерны в поведении людей и социальных групп.
Живая лаборатория — инструмент социальной физики, который позволяет собирать и анализировать данные о поведении человеческих масс и социальных организмов.
Термин придумал и разработал Алекс Пентланд — профессор Массачусетского технологического института, один из самых цитируемых и влиятельных data-ученых в мире. Пентланд консультирует правительства США, Китая, Индии и других стран по вопросам социальной физики и использования больших данных. Кроме того, он один из главных идейных вдохновителей GDPR — европейского закона о защите персональных данных.
«Представьте, что вы можете поместить под микроскоп целое сообщество, а потом записывать и отображать каждый аспект поведения, коммуникации и социальных взаимодействий между его членами. И такое наблюдение длится несколько лет, на протяжении которых члены сообщества живут своими обычными жизнями. Вот это и есть живая лаборатория».
Алекс Пентланд
Пентланд и его ученики начали эксперименты с живыми лабораториями в начале 2000-х. Они наблюдали за сообществами вроде компаний, городов и даже целых стран. Тогда основными источниками данных о «социальных организмах» были мобильники, позволявшие круглосуточно отслеживать передвижения их хозяев и их телефонные разговоры. С появлением смартфонов количество ежесекундно собираемых Пентландом данных увеличилось в разы, а главным источником данных стали «цифровые крошки» — данные с сенсоров мобильных телефонов, посты в социальных сетях, покупки по кредитным карточкам и т. д.
Философы, ученые и правители столетиями пытались осознать законы, которые управляют человеческим обществом, но у них не было инструментов, чтобы выйти за пределы догадок и теорий. Социальные опросы и эксперименты XX века проводились на очень маленькой выборке, в небольших лабораториях и кампусах университетов.
В XXI веке ИИ, большие данные, мобильный интернет и смартфоны создали условия, когда нам больше не нужно гадать о социальных процессах. Теперь мы можем понять и выразить их с помощью цифр и законов.
Живые лаборатории Пентланда с миллионами подопытных больше напоминают ящики Скиннера, с помощью которых тот наблюдал за целыми поколениями мышей, чем тюремный эксперимент Зимбардо, в котором принимали участие меньше 100 человек.
Искусственный интеллект, анализирующий собранные в живых лабораториях данные, Пентланд называет социоскопом. Это изобретение он сравнивает с изобретением голландскими инженерами продвинутых линз, благодаря которым появились микроскопы и телескопы.
Модификация поведения
Цифровая модификация поведения — это система методов воздействия на поведение людей с помощью цифровых технологий.
Модификация поведения основывается на принципах бихевиоризма, разработанных в середине XX века упомянутым выше профессором психологии Берресом Фредериком Скиннером. Один из его методов — оперантное обусловливание, когда объект модификации награждают за желаемое поведение или наказывают за нежелательное.
В наше время этот подход широко применяют создатели мобильных устройств, приложений, интернет-сервисов и в особенности соцсетей. На этом поприще сильно преуспели ведущие представители надзорного капитализма — Google и Facebook.
Цифровой философ Джарон Ланье называет социальные сети империями по модификации поведения:
«Бихевиористы дают организмам — будь то собака, кошка или человек — небольшие награды, изредка чередуя их с небольшими наказаниями. Если речь идет о животных в клетке, наградой может быть конфета, а наказанием — электрошок. Но если перед нами человек со смартфоном, то награды перемещаются в плоскость символического. Ранний бихевиорист профессор Иван Павлов продемонстрировал этот принцип, натренировав собак пускать слюну при звонке — только символе вознаграждения. Так же и в соцсетях: общественное одобрение и неодобрение работают как символические награды и наказания».
Механизм лайков в социальных сетях — наглядный пример символической награды. Лайк контенту пользователя — это награда (а его отсутствие, с точки зрения бихевиоризма, один из видов наказания). При этом количество лайков публикации человека определяется не только и не столько качеством произведенного им контента, но во многом алгоритмами — именно они выбирают, кому, когда и что показывать.
В итоге алгоритмы умной ленты могут увеличивать или уменьшать количество лайков публикации пользователя — а значит, решают, кого вознаградить, а кого наказать.
Сами пользователи оказываются вовлечены в модификацию поведения друг друга, ставя лайки и распределяя награды и наказания.
Чаще всего цифровые механизмы модификации поведения используются в рекламе продуктов и сервисов, а также в политике: в первом случае от пользователей добиваются совершения покупок, а во втором — голосов в поддержку кандидатов и партий.
Эпистемное неравенство
Эпистемное неравенство, в отличие от экономического, — это разница в доступе к информации, разрыв между тем, что известно нам, и тем, что знают о нас власть имущие.
И этот разрыв постоянно растет. Шошана Зубофф пишет:
«Тот, у кого больше знаний о нас, получает и больше власти над нами. Поэтому усугубление эпистемного неравенства приводит к увеличению разницы между тем, что можем сделать мы, и тем, что можно сделать с нами».
В основе эпистемного неравенства лежит неравный доступ не только к данным, но и к вычислительным мощностям, которые обрабатывают эти данные. В более широком смысле такое неравенство возникает на основе технологического неравенства, которое, в свою очередь, связано с экономическим, так что круг замыкается.
«Никто до конца не осознает, кто, какие и о ком данные собрал. У некоторых организаций, таких как Агентство национальной безопасности США, информации больше, чем у всех остальных. Но даже они не осознают весь спектр алгоритмов, которые коммерческие и правительственные структуры применяют к личным данным, и что из этого получается», — пишет компьютерный ученый Джарон Ланье.
Обладание властью (финансовой, экономической или политической) в современном мире неразрывно связано с информационным превосходством: у кого больше данных, тот принимает самые верные решения и получает лучшие результаты.
Ясно одно: людям — источникам собираемой информации — принадлежит наименьшее количество данных и они извлекают из них наименьшую выгоду.
Тем не менее современные технологии и доступ к знаниям позволяют каждому из нас поучаствовать в изменении этого баланса сил. Чем лучше человек знает самого себя и мир вокруг, тем более высокое место в информационной иерархии он занимает.
Пока что алгоритмы не настолько хороши, чтобы понимать осознанного человека лучше, чем он понимает себя сам. Поэтому познание самого себя может стать реальным вкладом в борьбе против эпистемного неравенства.
Радикальная прозрачность
Радикальная прозрачность — это такое устройство цифрового общества, при котором личные, корпоративные и государственные данные открыты и доступны для максимально широкого круга людей.
Радикальная прозрачность стала возможной с появлением интернета. Скандалы последних лет, связанные с утечками пользовательских данных, вмешательством иностранных агентов в выборы разных стран и негативным влиянием соцсетей на личную и массовую психологию, вызваны тем, как изменился взгляд на личное и общественное в информационном обществе.
Государства и пользователи, как правило, считают радикальную прозрачность угрозой своему благополучию. А вот владельцы интернет-платформ обычно оказываются ее сторонниками. В книге The Facebook Effect (2010) Дэвид Киркпатрик приводит слова Марка Цукерберга:
«Сторонники радикальной прозрачности в фейсбуке считают, что большая прозрачность делает людей лучше. Например, они говорят, что благодаря фейсбуку молодым людям всё сложнее изменять своим партнерам. Прозрачность должна сделать общество более толерантным: со временем люди смирятся с тем, что иногда все мы совершаем плохие или стыдные поступки».
Выделяют три уровня прозрачности:
гражданская,
корпоративная,
правительственная.
В своем крайнем проявлении радикальная прозрачность подразумевает, что все смогут знать всё обо всех и что открытыми станут данные обо всех трех составляющих общества.
Это один из вариантов решения проблемы эпистемного неравенства, при котором корпорации и государства знают о гражданах гораздо больше, чем те о них и даже о самих себе.
Радикальную прозрачность реализовать сложно, поскольку ей сопротивляются на разных уровнях:
граждане не хотят лишаться права на неприкосновенность личной жизни — всех пугает Большой Брат, описанный Оруэллом в антиутопии «1984»;
корпорации опасаются, что прозрачность негативно скажется на их доходах — при ней исчезает множество конкурентных преимуществ компаний, основанных на корпоративной тайне, а ответственность перед клиентами возрастает, что часто приводит к снижению прибыли;
государства отрицают прозрачность из-за конкуренции и вражды с другими государствами.
Однако есть и исключения. Цифровой министр Тайваня Одри Тэн — один из самых ярких сторонников радикальной прозрачности. Например, по его инициативе в интернет выкладываются логи всех переговоров чиновников, а при цифровом голосовании в открытый доступ попадают данные о том, кто и за что проголосовал.
Марк Цукерберг говорит: «То, что мир станет лучше, если мы будем больше делиться информацией, многим кажется чужеродной концепцией и упирается в их озабоченность приватностью». И сразу подчеркивает: «Но я думаю, мы это сделаем — это только вопрос времени».
«Словарь цифровой осознанности» — продолжающийся проект Сергея Жданова. Другие понятия из его словаря вы уже можете прочитать в канале «Чорт ногу сломит» по тегу #чнс_словарь. Там же регулярно появляются новые статьи.
