Неолуддизм: когда появился страх прогресса и какие проблемы новых технологий пугают современных мыслителей

Ура Четвертой промышленной революции! Роботы будут выполнять за нас нудную работу, беспилотные автомобили больше не будут стоять в пробках, школьник на день рождения получит секс-робота, уровень преступности снизится из-за технологии распознавания лиц, а футуролог Рей Курцвейл будет вечно живым в немеркнущей сингулярности. Пока вы развесили уши, технопессимисты и неолуддиты готовы разнести в щепки ваш технооптимизм. Разбираем основные тезисы технофобов.

Они отнимут нашу работу!

Страх потери работы объединяет старых луддитов, которые громили ткацкие станки и боролись с быстро богатевшими хозяевами фабрик, с неолуддитами — современными обладателями низких квалификаций, которых потихоньку начинают вытеснять новые технологии. Согласно докладу Всемирного экономического форума, к 2022 году 75 млн рабочих мест исчезнут из экономики. Там же оптимистично обещают, что появятся новые 133 млн рабочих мест, для которых будут нужны специальные навыки, хотя пока сложно представить, как бывший 40-летний сотрудник фабрики обучает нейросети.

Волнение в обществе нарастает, таксисты объединяются в большие протестные группы в разных странах и начинают радикальную войну против корпорации Uber, которая создает неравные условия конкуренции для традиционных таксистов вне корпорации.

В скором будущем Uber запустит беспилотные автомобили, и если вдруг таксист не разбирается в машинном обучении, то, вероятно, быстро разберется в создании коктейля Молотова.

Технологический прогресс приводит к отмиранию целых экономических отраслей. Например, беспилотные фуры могут заменить популярную в Америке профессию дальнобойщика, которая позволяет иметь человеку без высшего образования зарплату, как у среднего класса. Без работы останутся 3,5 млн водителей.

Потребности дальнобойщика, в свою очередь, дают работу людям в других отраслях: мотели, рестораны, заправки, автомойки. Сколько людей может остаться без работы после приближающегося технологического рывка — трудно представить, а что каждого безработного обогатит безусловный базовый доход от правительства, представить еще труднее.

Профессор экономики и нобелевский лауреат Джозеф Стиглиц в своей работе «Безработица и инновации» обосновал, почему нужно поаккуратнее внедрять технологии в экономику, и вспомнил Великую депрессию: резкий скачок производства в сельскохозяйственной промышленности привел к краху экономики и массовой безработице. Тогда с этой проблемой справились с помощью «Нового курса» Рузвельта, а как решать проблему со страхом перед массовой безработицей из-за роботизации сегодня — пока непонятно.

Теоретическое решение предлагает старейшина компьютерных технологий Билл Гейтс. Он активно рассуждает об угрозах новых технологий и критикует их так яро, что в 2015 году они на пару со Стивеном Хокингом и Илоном Маском стали номинантами антипремии «Луддит года».

Гейтс считает необходимым ввести налог на роботов, а полученные деньги направить на гуманитарную помощь пострадавшим от безработицы, которые благодаря базовому доходу могли бы стать соцработниками и помогать старикам и детям.

Промышленные революции никогда не проходят безболезненно. Автоматизация труда экономит время и затраты на рабочих, но помещает многие профессии в музей архаизмов. Кассиров, дальнобойщиков и многих других представителей низких квалификаций ждет та же участь, что когда-то настигла профессию телефонистки или фонарщика. Адекватная система переквалификации или утопическое решение безусловного дохода может защитить людей, но реалии разрушают грезы о «беззаботном технорае»: пока корпорации не сильно заинтересованы в том, чтобы кого-то защитить.

Луддиты атакуют текстильные фабрики

Движение луддизма не ново, оно зародилось еще в XVIII веке. Стремительная индустриализация обесценивала труд вчерашних специалистов и заставляла людей сменить свежий воздух работы в поле на бесконечный шум завода. Работать теперь могли даже женщины и дети: обучить работе со станками можно было кого угодно, а платить новым работникам — меньше. Быстро строились фабрики и заводы, их владельцы богатели, экономическое неравенство росло.

Первыми реальную угрозу от механизации производства почувствовали надомные работники текстильных фабрик. В 1768 году они напали на мастерскую Джеймса Харгривса, изобретателя прядильной машины, и сломали его станки. Позже, в 1792 году, манчестерские работники вели себя более радикально и сожгли первую фабрику с чесальными машинами для шерсти изобретателя и предпринимателя Ричарда Аркрайта.

Такое отношение к технике было обусловлено не боязнью самих машин, а радикальным сопротивлением хозяевам фабрик. С 15 века ткачи составляли 50 % промышленности страны, а доходы с этой отрасли ежегодно возрастали на 7–8 % при приросте населения в 1 % — так что ткать в то время было не только престижно, но и прибыльно. Ткачи были защищены законами, принятыми в 1563 году: количество мастеров строго регулировалось, чтобы сохранить доходы на высоком уровне, а открыть собственное дело можно было только после 7 лет обучения у мастера — и количество таких учеников тоже регулировалось.

С появлением станков не нужно было кропотливо учиться 7 лет, чтобы ткать: эту работу теперь могли выполнять даже дети — за низкую заработную плату.

Огромное количество незаконных работников начали вытеснять ткачей с лицензией. В 1803 году учеников без лицензии было так много, что из 800 только 4 отучились по правилам и были официально приняты на работу.

Закипало общественное недовольство, оставалось только придумать название своему протесту.

Икона луддизма

В 1811 году владельцы чулочных фабрик в Манчестере начали получать письма с угрозами от загадочного «Короля Лудда». Он требовал, чтобы предприниматели избавились от своих механических станков — или он уничтожит их преуспевающее дело. По легенде, Нед Лудд в припадке ярости, причины которой нам неизвестны, разрушил молотом два ткацких станка, а в 1810 году его подпись (неизвестно, принадлежала ли эта подпись тому самому Неду) появилась в манифесте рабочих с призывом убрать с заводов станки.

Позже всех людей, которые выступали против технологического процесса, начали называть луддитами.

Стихийным движение стало в разгаре индустриализации в XIX веке во время наполеоновских войн. Часть радикальных участников видела корень своих бед в машинах. В то время это были ткацкие станки — они же были символом индустриализации, эффективность которой сокращала рабочие места.

Более образованная часть протестующих видела проблему не в машинах, а в капитализме и, нанося ущерб промышленным зданиям и инвентарю, наносили удар и самим предпринимателям.

Воодушевившись поступком мифического Неда Лудда, рабочие занимались саботажем, устраивали стачки, а иногда даже убивали своих нанимателей. Центрами активности луддитов были графства Ноттингемшир, Ланкашир и Йоркшир. Нападали на предприятия по ночам. Каждый член движения приносил клятву верности.

Нед Лудд стал символическим лидером движения. По легенде, он напоминал Робин Гуда. Бунтари прятались в Ноттингемшире, на родине знаменитого благородного бандита, и именно оттуда отправляли свои письма с угрозами зажиточным хозяевам фабрик.

И для обычного народа той эпохи луддиты казались больше романтичными разбойниками, чем невежественными технофобами. Но власти так не считали, они видели в этом движении серьезную угрозу.

Ответ правительства луддитам

Для борьбы с луддитами правительство нанимало шпионов, которые должны были проникать в ряды организации и сеять сумятицу внутри нее. Чтобы радикально урегулировать ситуацию с агрессивно настроенными рабочими, правительству пришлось использовать войска. В какой-то момент ущерб от протестующих был настолько велик, что пришлось бросить на их подавление больше войск, чем на оборону от Наполеона на Пиренейском полуострове.

В период с 1811 по 1813 годы луддиты уничтожили приблизительно 1000 машин. Правительство Великобритании приняло закон об ужесточении мер против промышленного саботажа: повесили больше полсотни человек. Те, кому повезло больше, получили путевку на 14 лет в трудовую колонию в Австралии.

Концом восстания луддитов считается 1817 год, когда около 200–300 вооруженных вилами и копьями рабочих двинулись в сторону Лондона. Движение было подавлено, протестующие наказаны.

Результатом деятельности луддитов можно считать создание тред-юнионов и возрастающий скептицизм к технологиям.

Интеллектуальная элита была потрясена таким отношением к протестующим. Жестокое подавление луддитов запустило ответную реакцию в культуре и стало одним из факторов развития течения романтизма. Это новое идейное движение ставило человека и природу на первое место и относилось к ним более реалистично, чем утопическое и рационализированное представление в эпоху Просвещения. Романтизм настороженно относился к технике, это отразилось, например, в романах «Франкенштейн», «Последний Человек» Мэри Шелли, «Песочный человек» Эрнеста Гофмана. Благодаря Джорджу Байрону движение луддитов получило трек-лист с гимнами «Песни для луддитов», а Шарлотта Бронте посвятила им свой роман «Шерли».

Многие из страхов луддитов и романтиков оказались пророческими в 20–21 веке: механизация войны, обесценивание жизни человека, изобретение оружия массового поражения и рост механизации труда, который порождала всё большую безработицу.

Большие данные и проблема обезличенности

Две мировые войны показали, что времена, когда ты мог с честью и уважением относиться к своему врагу, давно прошли. Использование воздушных дронов лишило операторов прямого контакта с врагом. Казалось бы, это решило проблему с потерями личного состава, а благодаря точности нанесения ударов уменьшится количество смертей среди гражданских.

Но, как оказалось, потери среди мирного населения гораздо больше при использовании дронов, чем пилотируемого самолета.

Активный критик беспилотной войны Медея Бенджамин в своей книге “Drone Warfare: Killing by Remote Control” пишет, что с помощью дронов оператор снимает с себя ответственность за убийство и не испытывает мук совести по отношению к несчастным жертвам. Но как показывают многочисленные интервью, военные, управляющие дронами, испытывают огромные психологические проблемы.

Рабочий день по 12–14 часов и невозможность снять груз вины в беседе с близкими из-за договора о неразглашении информации заставляют некоторых прибегать к алкоголю, наркотикам или самоубийству.

Уильям Аркин, бывший военный аналитик Los AngelesTimes, Washington Post и The New York Times, в своей книге “Unmanned: Drones, Data, and the Illusion of Perfect Warfare” называет применение беспилотников миражом идеальной войны, которая максимально отстраняется от человека и скоро будет работать на базе ИИ без участия людей и самостоятельно принимать решения, какие данные собирать, кого считать угрозой, а кого — нет.

Подобную автономию в принятии решений пророчат и «умным» городам. Сбор данных решает много проблем быстро урбанизирующихся мегаполисов: при помощи датчиков собирают и обрабатывают информацию о состоянии пробок, в случае выпадения снега подогреют асфальт для снижения риска аварий.

Но как повлияет обилие камер и датчиков на конфиденциальность частной жизни горожан?

Многих настораживает конфликт, связанный с умным кварталом в городе Торонто. Изначально его должны были строить, соблюдая принципы thriving hub for innovation, но недавно проект покинула Энн Кавукян, которая занималась разработкой концепции конфиденциальности с 1995 года. Причиной ее ухода стало несогласие с требованием застройщика, который хотел, чтобы данные могли быть использованы некими «доверенными лицами».

Стартап, который занимался застройкой, называется Sidewalk Labs — он, как и Google, принадлежит огромному холдингу Alphabet. Учитывая, что Google использует данные пользователей для «скармливания» им в последующем тонны рекламы, такое решение о передаче информации «доверенным лицам» трудно понять неправильно.

Другая проблема заключается в том, что такие города можно взломать.

Цезарь Церрудо, профессиональный хакер и технический директор IOActive Labs, уже проделывал такие операции: во время прогулки по Вашингтону он собирал информацию на свой смартфон с датчиков, отвечающих за светофоры, а затем взламывал их в своей лаборатории.

Своим экспериментом Церрудо хотел показать, как уязвимы «умные» города: взломав такую систему, ею можно манипулировать нажатием кнопки на смартфоне. В своей статье он приводит примеры уже произошедших случаев атак на такие системы.

Но если с хакерами еще можно бороться, то что делать, когда такие технологии развиваются в странах с тоталитарным режимом? Власти Китая в режиме реального времени создают собственную антиутопию с тотальной слежкой за гражданами.

Система социального рейтинга с 2014 года тестируется в ограниченном режиме, но уже сейчас это ограничивает права граждан и выглядит как очередная серия «Черного зеркала». В конце апреля 2018 года 11 млн китайцев не пустили на борт самолета из-за низкого социального рейтинга, на который влияет множество факторов: от курения в неположенном месте до критики действующей власти в интернете.

Не хотелось бы, увидев дрон, приседать у окна; не хотелось бы, покупая шоколадный батончик в уличном автомате, в дальнейшем ежедневно получать от гугла соответствующую рекламу; не хотелось бы врезаться в фонарный столб на автомобиле, только потому, что особо активный умелец-хакер порезвился со светофором; не хотелось бы, чтобы из-за опоздания на работу снизился социальный рейтинг, испортив планы на будущее.

Все эти странные опасения кажутся малореальными — но только пока. Технологический рассвет всё ярче, а те, кто в самом его эпицентре, потихоньку обзаводятся властью, с которой сложно будет справиться гражданам, для которых апогей технологий — сенсорная плита.

Что не нравится неолуддитам

Ядерное оружие, отупение молодежи средствами массовой информации и телевидением, развитие военных технологий — всё это в 20 веке породило мыслителей, которые возродили движение против технологий. Неолуддизм стал большим, чем просто призывом к отказу от техники: антиглобализм, радикальный энвайроментализм, анархопримитивизм, зеленый терроризм — все эти направления выражают скепсис и агрессию к технологическому прогрессу как концепции.

Человек на крючке социальных сетей и телевидения

Американский активист и автор книги 1978 года «Четыре аргумента в пользу устранения телевидения» Джерри Мандер считал, что телевидение создано исключительно ради массовой трансляции рекламы — чтобы компенсировать экономические затраты на военную промышленность, ведь телереклама создает у потребителей новые желания и стимулирует покупать.

Мандер писал, что из-за обилия противоречивых новостей мозг зрителя устает от информационного перегруза. После такой обработки зрителю можно скормить и внушить что угодно: от политических лозунгов до рекламы ненужных вещей.

Он не обошел стороной и воздействие телевидения на мозг детей, считая, что телевещание повлияло на создание нового типа мышления — клипового. Именно клиповое сознание породило ориентацию на многозадачность, напрочь лишив современных людей глубокого сконцентрированного размышления.

О переизбытке информации высказывался Теодор Роззак, философ и теоретик контркультуры. Он говорил, что из-за огромного количества информации люди перестали понимать сложные идеи и переживать глубокий опыт, необходимый для взросления и созревания личности. Роззак считал появление компьютеров настоящим заговором.

По его мнению, в 50-х годах начался целенаправленный процесс создания культа информации, чтобы компании по продаже ПК смогли активно продвигать компьютеры как то, без чего невозможно обучение, качественная работа и вообще полноценная жизнь 20 века.

Привычная иерархия — информация–знания–суждение–мудрость — перевернулась, теперь данные стоят на самой вершине.

Эти идеи, но уже применительно к интернету, поддерживает Джарон Ланье — один из создателей термина «цифровая реальность» и автор книг «Кто владеет будущим» и «Десять аргументов в пользу того, чтобы удалить свои аккаунты в соцсетях прямо сейчас». По его мнению, социальные сети перестали выполнять свою утопическую функцию рассадника дружбы, теперь они служат полигоном для тестирования алгоритмов, подавляют разум и силу воли и, вооруженные наукой, скармливают рекламу нашему мозгу.

Ланье обобщенно называет проблему социальных сетей алгоритмом BUMMER — Behaviors of Users Modified, and Made into an Empire for Rent (поэтический перевод «Машины по производству полной херни» мог бы передать отношение Ланье к интернет-технологиям).

Он считает, что главная задача этого алгоритма — воздействовать на наше сознание в корыстных целях. О том, как именно это происходит, мы писали в «Тоннеле реальности». Соцсети, по мнению мыслителя, делают из нас не самостоятельных кошек, свободно гуляющих по интернету, а послушных и слепо преданных собак, которые под влиянием алгоритма и вовсе станут приложением к смартфону.

Философ указывает на ряд других проблем соцсетей. Например, одностороннее и субъективное восприятие мира: выборы в США, когда сторонники Трампа видели в ленте одни новости, а сторонники Клинтон — совершенно другие; утечка данных из Cambridge Analytica, слежка через смартфоны и политические махинации (резня в Мьянме). Ланье утверждает, что перед конфликтом в Мьянме по фейсбуку гуляло множество фейковых постов о нечеловеческом поведении рохинджа (ритуальные жертвоприношения детей), которые и вызвали массовое недовольство общественности. Алгоритм может даже усугубить вашу депрессию, подкидывая соответствующие посты в ленту.

Ланье не обошел стороной и современные VR-технологии: он считает, что в руках корпораций виртуальная реальность станет идеальным «ящиком скиннера» — лабораторным прибором для изучения поведения человеческих животных.

Хотя философ не отрицает и плюсов технологии: возможности обучения, создание нового цифрового искусства или онлайн-путешествия.

Легко вспомнить хотя бы одну песенку из рекламы на телевидении, которая может и не вас, но кого-то точно привела в магазин за покупкой. Реклама в инстаграме бывает столь привлекательной, что вы не только переходили по ней, но еще и заказывали какой-то ненужный вам товар. Фейсбук хитро подбрасывал вам информацию, на которую вы, сами того не осознавая, потратили куда больше времени, чем хотелось бы. Далеко не каждый человек сможет отказаться от того, чтобы ни разу за день не взять в руки свой смартфон.

Стать заложником социальных сетей очень легко, особенно если не осознавать той власти, которой обладают интернет-алгоритмы над пользовательским поведением. Чтобы не оказаться на этом крючке, нужно грамотно строить свое медийное пространство, стараясь оградить себя от любого проявления манипуляций. Читайте нашу «Цифровую гигиену» — и ни одному медиарыбаку не удастся вами поживиться.

Дегуманизация — главная проблема технологий

Технопессимисты не верят американскому изобретателю и футурологу Рею Курцвейлу и его позитивному настрою, готовые поразмахивать перед носом технооптимистов томиком Жака Эллюля, философа, социолога и активного критика технологий.

Его «Технологический блеф» — одна из главных гуманитарных философских работ ХХ века, которая критикует развитие технократии за утрату человеком идентичности и установлении тотальной несвободы индивида от механизированного общества.

Еще в 1954 году Эллюль в своей работе «Технологическое общество» весьма убедительно описывает особенности технократического социума и предупреждает от победы технологий. Под технологиями философ понимает не просто машины из шурупов и гаек, а «совокупность рационально выработанных методов, обладающих (на данной стадии развития) абсолютной эффективностью в каждой области человеческой деятельности».

Развитые технологии создают иллюзию управления реальностью, позволяют человеку чувствовать себя всемогущим. Но взамен они «обедняют» спектр человеческой мысли, сводя его к дуальному, машинному пониманию вещей.

Поскольку технология решает насущные проблемы, она становится необходимостью — и ей приносят в жертву всё неоднозначное, неуловимое и парадоксальное в человеке. Стремление к рациональности может привести к тому, что человек превратится только в объект с набором свойств — что приведет человечество к очередному витку дегуманизации. Но Эллюль лелеет надежду, что люди, осознавшие эту угрозу, всё-таки «встанут на баррикады» в борьбе против идеологий, разрушающих личность.

Идеи русского философа Николая Бердяева во многом схожи с идеями Эллюля. В своей работе «Человек и машина» он говорит, что появление машины хоть и принесло блага в лице комфортной и беззаботной жизни, но превратило человека в аморфного бездуховного лентяя. По мнению философа, «техника наносит страшные удары гуманизму, гуманистическому миросозерцанию, гуманистическому идеалу человека и культуры».

Но Бердяев не винит технологии напрямую, ведь они по своей природе — нейтральны. Не машина обездушила человека, он сам «обездушился», а машинизм — только следствие этого очерствения души.

Машинный рационализированный мир не заинтересован в соблюдении гуманистических человеческих идеалах: истине, красоте и справедливости. Такой мир подчиняется законам эффективности и может привести к установлению антиутопического мира Замятина в романе «Мы». Задача становиться всё более эффективным подразумевает подстройку мира для удобства работы машин. Характер такого мира будет неизбежно тоталитарным, и чем раньше общество сможет осознать эту угрозу, тем легче будет с ней справиться.

Концепция хитрой мегамашины власти

Технологии не появляются сами по себе и не являются чем-то крайне отрицательным или положительным — они нейтральны. Только в руках людей они приобретают тот или иной характер. Жак Эллюль считает, что в основе технологий лежит агрессивное начало, а Киркпатрик Сейл, историк и сторонник антиглобализма, назвал создание компьютеров «работой дьявола».

Льюис Мамфорд, историк и философ техники, в своей книге «Миф машины» утверждает, что в какой-то момент желание человека обрести власть над природой трансформировалось в «бесчеловечную мегамашину».

Это прообраз тоталитарной системы, в которой каждый человек — всего лишь незначительная и легко заменяемая деталь в сложном механизме с четкой дисциплиной и иерархией, охраняемой бюрократическим аппаратом. Примером такого сложного аппарата по координации усилий людей в единую мощь можно считать постройку египетских пирамид или великой китайской стены: «Это было незримое сооружение, состоявшее из живых, но пассивных человеческих деталей, каждой из которых предписывалась особая обязанность, роль, задача».

Невыносимый физический труд — одно из основных занятий человека, что весьма противоестественно, ведь по своей природе человек стремится к свободе и развитию. Но технологическая экспансия уничтожает индивидуальность, так как вокруг работают тысячи таких же людей. Мамфорд считает, что техника — пусть и эффективное, но противоестественное детище индустриальной эпохи. В таком мире человек теряет свою гуманность, социальные и культурные ценности.

По мнению Мамфорда, именно технократическая экспансия и положила начало массовому обществу, а возможный благодаря технике переход от ручного труда к машинному утвердил капитализм как главенствующую экономическую модель — она, в свою очередь, вбила еще пару гвоздей в гроб идеалов гуманизма.


Неолуддизм сегодня поднимает вопросы не только социального неравенства и экономической безнадежности работников, от которых страдали в 19 веке и страдают в 21-м, но и призывает к дискуссиям в поисках осознанности в создании новых технологий. Прогресс невозможно остановить, но к нему нужно быть подготовленным — в особенности на законодательном уровне. Пока в вопросе технологий этические проблемы не займут такое же важное место, как задача получения прибыли, — наш мир в опасности.