Мой работодатель — искусственный интеллект. Как слежка и сбор данных превращают работников в рабов
Сегодня каждый третий работник в США — фрилансер, а к 2020 году, по расчетам специалистов, фрилансерами будет уже половина трудящихся в Америке. Сдвиг в сторону свободного наемного труда — тренд, уступающий по значимости разве что роботизации и тотальной потери рабочих мест. Но времена, когда «фри» в слове «фриланс» означало свободу, закончились. Как будет выглядеть наша работа в эпоху больших данных, рассказывает автор канала «Чорт ногу сломит».
В жизни фрилансеров есть множество плюсов вроде гибкого графика и творческой свободы. Но в контексте набирающих обороты мониторинговых технологий, фриланс лишается почти всех своих преимуществ для работников и становится новым полем для увеличения прибыли работодателей (за труд фрилансеров в большинстве случаев нужно платить меньше налогов, им не нужно обеспечивать медицинскую страховку и т. д.). Расследования показывают, что на самом деле современные системы мониторинга удаленной работы выгодны именно именно работодателям, а не работникам. По правде говоря, на данный момент электронные системы сбора данных и контроля за наемными работниками очень быстро двигают нас в сторону дивной старой доброй антиутопии.
Мониторинг фрилансеров и смерть креативности
Приложение Upwork связывает наемных работников с работодателями и предлагает фрилансеру гарантированную оплату его труда — даже в том случае, если работодатель откажется принимать его работу. Для этого наемник должен всего-то установить на рабочий компьютер программу Work Diary, которая будет мониторить его работу и собирать доказательства того, что он не филонил.
Чтобы измерить «уровень активности», программа считает количество движений мышкой и нажатия клавиш, а также приблизительно каждые 10 минут делает скриншоты рабочего процесса. Если пользователь 10 минут не жмет на клавиши, или если скриншот показывает, что в момент проверки у него были открыты другие программы, — он помечается как «неактивный», и впоследствии это время не оплачивается. Фрилансеры жалуются на неточность инструмента:
«Например, я хочу прерваться, но не могу, потому что знаю — последний скриншот был 12–14 минут назад, и его могут сделать «в любую секунду, поэтому я работаю еще 3–4 минуты, хотя мне реально нужно в туалет».
Аврааму Линкольну приписывают следующие слова: «Если у меня будет 6 часов на то, чтобы срубить дерево, первые 4 я потрачу на затачивание топора». Количественный контроль за механической активностью работников приводит к тому, что такие аспекты работы, как обдумывание идеи или планирование рабочего процесса, становятся избыточной и неоплачиваемой активностью.
Кибертейлоризм: вместо надсмотрщиков с кнутами — ИИ с секундомером
Зачастую данные о работнике, использующего платформы вроде Upwork, хранятся в компании еще год после прекращения сотрудничества. При этом у фрилансера нет доступа к этим данным, а у клиентов-нанимателей — есть. Что наводит на следующую неизбежную мысль: едва ли не основная задача мониторинга труда — это сбор больших данных с последующей целью заменить мониторируемых работников на системы ИИ.
Фундамент для современного мониторинга труда был заложен на американских фабриках в конце XIX века, когда инженер по имени Фредерик Тейлор начал ходить за самыми продуктивными заводскими рабочими с секундомером, хронометрируя и записывая все их движения. Своими замерами Тейлор пытался вывести формулу идеально эффективного работника, которую он описал в книге «Принципы научного управления», и с тех пор такой подход к эффективности труда стали называть тейлоризмом.
В ХХI веке «научное управление» полностью основывается на больших данных и ИИ. Пришло время говорить уже о кибертейлоризме, в котором место надсмотрщика с секундомером заняли машины, не только отслеживающие каждое движение, но и анализирующие каждый аспект личности сотрудника. Частная жизнь и конфиденциальная информация людей всё чаще становятся производственными показателями — цифровым топливом для максимизации прибыли и эффективности.
Собеседование с искусственным интеллектом
Пока мы ждем, что ИИ пройдет тест Тьюринга и сможет убедить всех собеседников в том, что он — человек, реальным людям приходится изрядно попотеть, чтобы пройти собеседование у ИИ.
Мониторинг и анализ работников начинается еще до того, как их принимают на работу. 71 % опрошенных компаний считают крайне важными данные так называемой аналитики людей (people analytics), которая не только позволяет выяснить профессиональную квалификацию кандидата, но и помогает предсказать его поведение, разобраться в его эмоциональных особенностях и, например, определить уровень его «мягких навыков» (soft skills). Всё это HR-специалисты проделывали и раньше, однако в последние годы основными инструментами для «аналитики людей» стали большие данные и ИИ — живые специалисты в сфере HR уступают место роботизированным системам HCM (Human Capital Management).
К примеру, такие компании, как онлайн-сервис Predictim, используют ИИ для того, чтобы составить портрет личности кандидата на основе анализа его активности в социальных сетях. Более изощренные компании вроде Cornerstone OnDemand анализируют и такие мелочи цифрового следа кандидата, как веб-браузер, которым он пользуется. Cornerstone выяснила, что люди, установившие браузеры вроде Firefox или Chrome, меняют работу на 15 % реже, чем люди, использующие встроенные браузеры вроде Safari или IE и поленившиеся установить более «продвинутый» софт.
«Содержимое вербального ответа, интонация и невербальная коммуникация — вот всего лишь несколько из 20 000 пунктов/очков информации, которые мы собираем, — говорится в промоматериале компании HireVue. — Затем мы анализируем полученную информацию с помощью запатентованного алгоритма машинного обучения и с точностью предсказываем будущее качество его работы».
Компания HireVue была основана в 2004 году как платформа для проведения онлайн-видеособеседований, а в 2013-м перешла в следующую фазу и стала использовать ИИ для анализа интервьюируемых кандидатов. HireVue анализирует видео интервью кандидатов с помощью софта для распознавания голоса и выражений лица вместе с алгоритмом ранжирования, чтобы определить, какие претенденты больше всего напоминают «идеального кандидата» на должность. Модель «идеального кандидата» определяется на основе языка тела, интонаций, словоупотребления и других данных, полученных от анализа реальных работников, занимавших должности, на которые претендуют соискатели. Иными словами, новая рабочая лошадка должна максимально походить на старую, объезженную. Очевидно, что, если в технологической сфере в США только 20 % работников — женщины, использование модели «идеального кандидата» ведет к закреплению и воспроизведению половой дискриминации и по тому же принципу — к предвзятости на основе расовых, возрастных и других критериев.
Услугами HireVue пользуются более 600 корпораций, которым этот сервис помогает сэкономить время и ресурсы при первичном отборе кандидатов.
К примеру, один из крупнейших мировых производителей потребительских товаров, голландско-британская корпорация Unilever, набирает кандидатов через социальные сети и вместо резюме просит просто прислать свой профиль в LinkedIn. Затем кандидаты должны 20 минут играть в 12 основанных на нейронауке игр, разработанных другим цифровым HR-агентсвом Pymetrics. Во время игры оцениваются когнитивные способности и личные черты кандидатов, например, их склонность рисковать или избегать риска.
Если они проходят этот этап, начинается собеседование в HireVue, и кандидат должен ответить на серию записанных заранее вопросов, чтобы затем программа проанализировала его ответы и, если он подходит, передала эту информацию живым HR-менеджерам.
Тотальный контроль — ради безопасности
В деловом мире, как и в мире политики, одним из основных оправданий для слежки и сбора информации о людях служат соображения безопасности.
И если на политическом уровне вовсю идут дебаты по поводу этичности и законности слежки за гражданами, то в некоторых сферах, например в финансовом секторе, слежка за сотрудниками не только легальна, но требуется по закону, чтобы предотвратить инсайдерскую торговлю и другие финансовые преступления.
«Подход Teramind ориентирован на пользователей и фокусируется на их отдельных действиях. Teramind отслеживает и записывает каждое действие пользователя и обеспечивает надежные механизмы автоматической защиты, которые помогут предотвратить любое нежелательное поведение сотрудника», — говорится в рекламе программного обеспечения Teramind от IBM.
Teramind — одна из многочисленных программ, выполняющих функции предсказательных (или маркировочных) инструментов. Такие программы ИИ сначала собирают данные о деятельности работников и анализируют их, находя в их поведении определенные паттерны, а затем следят, чтобы поведение работников соответствовало этим паттернам. В случае отклонения от привычных рутин, алгоритмы бьют тревогу.
К примеру, если вы работаете в фирме, которую обслуживает лондонский стартап StatusToday, знайте: его алгоритмы собирают подробные метаданные о вашей работе — начиная с того, какие файлы вы открываете и как часто вы на них смотрите, заканчивая тем, как часто вы перемещаетесь по офису и пользуетесь ключами.
«На основании всех этих данных мы составляем отпечаток пользователя, и если нам кажется, что этот отпечаток варьируется, мы поднимаем тревогу», — говорит Мирча Димитреску, главный технолог StatusToday.
Система может отметить вас, если вы копируете или распечатываете необычно много файлов. Она также отслеживает неосторожные и рискованные действия сотрудников, которые могут привести к нарушению безопасности: о вас сообщат, если вы вдруг решите ответить на фишинговое письмо или откроете приложение с вирусом. Но в первую очередь, по словам Димитреску, его софт «мониторит человеческое поведение, а не проверяет компьютеры на наличие вирусов».
Для многих офисных работников стали привычными программы, собирающие данные о их взаимодействии с сослуживцами, историю передвижений по офису и данные их тайм-менеджмента.
Такие компании, как RedOwl и Humanyze собирают историю нажатия клавиш, поисковых запросов, анализируют лексику и общую интонацию деловых писем — всё для того, чтобы определить уровень потенциального риска, который компания может ждать от конкретных сотрудников. Какова вероятность, что сотрудник украдет ценные данные? А насколько вероятно, что он станет осведомителем или будет разговаривать с прессой?
Критики отмечают, что на основе профилей, составленных компаниями вроде RedOwl, работодатели могут беззастенчиво варьировать уровень зарплат работников в пользу работодателей. Например, они вычисляют, кто менее склонен требовать повышения или готов на понижение зарплаты, отталкиваясь от сочетания личных обстоятельств работника (он ждет пополнения в семье), экономических обязательств (он оплачивает ежемесячный кредит за квартиру и машину) и эмоциональных обстоятельств человека (он в целом нерешительный и страдает от депрессии).
Главная прелесть таких инструментов для работодателей заключается в многогранности и обширной пользе, с которой может быть использована такая подробная информация о сотрудниках.
И тут можно найти серьезное различие между государственной и корпоративной слежкой. Если государства по большей части ограничивают слежку соображениями безопасности, то корпорации идут дальше: основной акцент они делают на увеличение эффективности сотрудников и прибыли компании за счет слежки.
Слежка — это эффективно
Американский логистический гигант UPS использует мониторинговые инструменты под названием «телематика» (сочетание «телекоммуникаций» и «информатики»), которые с помощью набора сенсоров и GPS-трекеров отслеживают местоположение своих дальнобойщиков, то, как они тормозят и газуют, когда открыта дверь их грузовика, пристегнут ли их ремень, и т. д. На основании этих данных выводятся средние показатели, отклонение от которых влечет за собой дисциплинарные наказания.
На шаг впереди остальных идет компания Amazon, в 2018 году запатентовавшая трекинговые устройства с «тактильной обратной связью». Эти устройства повышают эффективность складских работников: с помощью вибрации они ведут руки рабочего к нужной корзине и начинают усиленно вибрировать, если руки находятся слишком далеко от положенного им места.
И хотя эти устройства пока остаются на уровне патентов, Amazon уже использует подобные электронные гаджеты, отслеживающие движения и скорость работников. В эти девайсы также включены таймеры обратного отсчета, мотивирующие работников сохранять нужный темп.
Исследованиями доказано: чем более сотрудник вовлечен в работу, тем выше его рабочие показатели, командная эффективность и в итоге — удовлетворенность клиентов. И наоборот, низкую вовлеченность в работу связывают с понижением эффективности, прогулами и повышенным уровнем стресса на работе. При этом, как показывают масштабные опросы, большинство работников по всему миру, особенно в развитых экономиках, не полностью вовлечены в рабочий процесс (то есть недостаточно хорошо концентрируются на своей работе и не испытывают должного рабочего энтузиазма). По подсчетам исследователей, такое невнимательное отношение к работе только в одних США приводит к потери производительности на сумму в 500 млрд долларов каждый год.
Поэтому неудивительно, что основным объектом мониторинга работников стала именно их вовлеченность в работу.
Например, компания Crossover измеряет вовлеченность работников, фотографируя их каждые 10 минут. Затем алгоритмы Crossover сопоставляют фото сотрудников со скриншотами с их рабочих компьютеров и данными вроде того, какие приложения они использовали и какие клавиши нажимали, чтобы присвоить каждому работнику «очки сфокусированности» и «очки интенсивности», по которым работодатель сможет оценить их эффективность.
Прослушка: ИИ на страже отношений с клиентом
Алгоритмы корпорации Cogito помогают компаниям налаживать более доверительные отношения с клиентами и контролировать качество и вовлеченность сотрудников в рабочий процесс благодаря анализу речи. CEO компании Джоф Фист утверждает, что его софт способен различать признаки стресса и других эмоций в голосе клиентов благодаря технологиям, изобретенным в Массачусетском институте технологий (MIT) в рамках оплаченной Пентагоном научной программы.
Военные платили докторам за то, что те записывали беседы со страдающими от ПТСР ветеранами и аннотировали аудиофайлы бесед своими пометками об изменениях в настроении пациентов. К этим данным добавили выборку аудиозаписей из call-центров и других источников больших данных и применили к этим данным алгоритмы машинного обучения. Затем всё это попало в коммерческую среду: теперь программами Cogito пользуются все, начиная от военных, заканчивая финансовым сектором и обычными call-центрами.
Cogito анализирует голос позвонившего и оповещают сотрудников о перепадах в его настроении: если алгоритмы считывают возбуждение, на экране сотрудника загорается значок сердечка. Если интонация или речь звонящего кажутся алгоритмам взвинченными, на экране сотрудников появляется совет «успокоить» и варианты успокаивающих фраз.
Cogito также анализирует речь самих сотрудников и поощряет их вовлеченность в разговор с клиентами — или, наоборот, бьет тревогу, если сотрудники общаются недостаточно гладко: говорят слишком быстро или одновременно с клиентом или если звонящий слишком долго молчит.
Мониторинг и ИИ применяются также для регуляции взаимодействия сотрудников внутри компании.
К примеру, компания Wiretap (переводится как «прослушка», но недавно они сменили название на более дружелюбное — Aware «осведомленность») специализируется на мониторинге рабочих переписок и внерабочего общения сотрудников, чтобы предотвращать «намеренный и ненамеренный харассмент, угрозы и запугивание» в среде работников.
Работодатели также озабочены здоровьем своих сотрудников, поэтому рабочий мониторинг распространился также на их физические показатели — и смело вышел за пределы офиса. Работодатели сотрудничают с wellness-компаниями, такими как FitBit, и выдают подчиненным фитнес-браслеты и другие инструменты мониторинга здоровья, помогающие им худеть, питаться более здорово или бросить курить. Всё это дополняется регулярными оценками здоровья и обязательным просмотром видео о здоровом образе жизни — и вот работодатели вроде BP America, формально инвестирующие в здоровье своей рабочей силы, уже могут убедить страховые компании снизить ставку на медицинскую страховку работников.
Геймификация и стимуляция
Мониторинг работников с помощью современных технологий приводит к всё возрастающей популяризации алгоритмического менеджмента: информация с показателями труда работников в реальном времени скармливается алгоритмам, которые не только анализируют ее, но и принимают автоматические, или полуавтоматические решения: составляют графики работы, оценивают труд, меняют уровень зарплат и т. д.
Работодателям нравится алгоритмический менеджмент за его объективность, которая приводит к увеличению их прибыли. А для работников этот подход оборачивается геймификацией труда.
Компания BetterWorks специализируется на производстве программ, сочетающих в себе элементы социальных медиа, фитнес-трекинга и видеоигр. Эти программы увеличивают вовлеченность сотрудников в работу благодаря превращению рабочего процесса в подобие игры.
Начальники и подчиненные ставят краткосрочные и долгосрочные цели и зарабатывают очки, продвигаясь к ним. Все сотрудники в курсе результатов друг друга. Разработчики хвастаются, что это стимулирует горизонтальный контроль: с помощью софта BetterWorks сотрудники становятся более внимательными к делам коллектива и могут поощрять преуспевающих коллег или шеймить отстающих.
Если продукты BetterWorks, во многом рассчитанные на небольшие стартапы, кому-то могут показаться милыми (например, все достижения работников визуализируются в симпатичные деревья, которые по ходу дел разрастаются), то подобные эксперименты в недрах гигантских корпораций, скорее, навевают мрачные мысли.
К примеру, в прачечных Disney использовали такую систему контроля: имена всех работников появлялись в таблице на гигантском дисплее, подсвеченные разными цветами. Если работник укладывался в трудовую норму, имя светилось зеленым, если замедлялся — желтым, если отставал от коллег — красным. Менеджеры наблюдали за работниками на мониторах в своих офисах и могли менять задачи, не выходя из кабинета. Завершающим штрихом было то, что к каждой стиральной машине также были прикреплены датчики, которые работники называли «электронными хлыстами», следящие за темпом работы сотрудника, и лампочки, которые светили на работников желтым или красным, если те замедлялись.
На складах компании Amazon висят табло с силуэтами работников, которых застукали за кражей, и с упоминанием, что они крали и как именно их поймали. Продуктивность труда работников мониторится уже описанными девайсами, и, если показатели опускаются ниже определенного уровня, сотруднику начисляют очки. И, как в гольфе, чем больше очков — тем хуже, а если их станет больше определенного количества, то сотрудника автоматически увольняют. Причем, как показали журналистские расследования, только на одном складе Amazon с августа 2017 по сентябрь 2018 года таким образом было уволено около 300 человек.
Геймификация приходит и в мониторинг здоровья работников. В 2017 году в США стартовала программа Go365, результат сотрудничества государственной страховой компании PEIA и коммерческой страховой компании Humana. Специальное приложение мониторило уровень физической активности человека, количество шагов и его местоположение. Дополнительные очки начислялись за данные об уровне сахара в крови, циклах сна, приеме противозачаточных средств, диете и результатах медицинских обследований. Пользователей спрашивали, как часто они выпивают, курят ли, и добавляли очков за медицинскую историю их семей.
Основными участниками этой программы стали школьные учителя с зарплатой около 40 000 долларов в год, и хотя формально программа была добровольной, отказ от участия в ней, недостаточное количество очков или неспособность со временем улучшать свои результаты могли стоить учителям от 500 до 1000 штрафов. Через год после запуска программы и после серии забастовок и протестов учителям удалось добиться остановки программы Go365.
Последствия мониторинга: сытые машины и ненужный человек
В интервью Financial Times водитель Uber со стажем рассказывает:
«Доходит до того, что приложение перенимает контроль над твоими моторными функциями. Вождение превращается почти в гипнотический опыт. От водителей часто можно услышать такую историю: я выполнял заказы Uber’а два часа, развез человек 30-40, но у меня нет ни малейшего понятия, куда я их вез. В этом состоянии водители буквально следуют голосовым указаниям приложения. Останавливаются, когда говорят остановиться, подбирают клиентов, когда надо их подобрать, поворачивают, когда надо. Входишь в определенный ритм и начинаешь чувствовать себя почти что андроидом».
Uber — одна из самых громких и успешных платформ, использующих микс мониторинга сотрудников, алгоритмического менеджмента и геймификации труда. К примеру, Uber измеряет разгон машины водителя через приложение на его телефоне, датчик GPS и гироскоп, и, если он разгоняется в соответствии с нормативами, ему приходит оповещение «Отличная работа!». Каждую неделю Uber высылает своим наемным водителям «Еженедельный очет об обратной связи» (Weekly Feedback Summar), в который входит вычисленный ИИ общий рейтинг водителя и сумма отзывов его клиентов. Алгоритм высчитывает, насколько чистой была его машина, хорошо ли он общался с клиентами, как он ориентировался на местности и соблюдал ли правила безопасности.
Профессор экономики Массачусетского университета Ричард Вольф утверждает, что современные системы мониторинга труда «усугубляют антагонизм, взаимное недоверие и враждебность между работниками и работодателями. Слежка унижает работников и, скорее всего, приведет к беде, потому что работники понимают: не то что слежка вовсе плохая идея, но такой мониторинг труда явно ведет к автоматизации, за которой последует тотальное сокращение живых работников как класса».
Жесткий мониторинг труда приводит к «информационному преимуществу» работодателей и мониторирующих фирм. Потребители предоставляют компаниям адептам surveillance capitalism два потока прибыли: покупая товары и услуги — и предоставляя фирмам информацию о себе. Так же и работники предоставляют работодателям двойную выгоду: свой труд и информацию об этом труде. Всё это — частицы больших данных, которые будут использованы для выгоды компаний.
Все уже привыкли к тому, что потребители — безропотные дойные коровы новой эпохи больших данных, им никто и не собирается платить за предоставленные большие данные. Труд работников с горем пополам оплачивается, но вот данные о их работе, собираемые сотнями компаний, — нет.
Большие данные называют нефтью XXI века, но чаще всего они не приносит работягам ни единой копейки. Более того, добытые даже без осознанного согласия работников, предоставляемые помимо их воли, данные работают на то, чтобы люди как можно скорее лишились своих рабочих мест, будучи замененными роботами, которые смогут существовать благодаря данным, предоставленным эти «устаревшие» сотрудники.
Фредерик Тейлор, измерявший деятельность работников секундомером в XIX веке, по словам историков, черпал вдохновение из опыта рабовладельческих плантаций, на которых к порабощенным чернокожим относились как к телам, способным произвести определенное количество труда в заданный отрезок времени. Кибертейлоризм относится к работникам не менее цинично. Но главное отличие от расклада на плантациях становится то, что надсмотрщик XXI века — не живой человек с ограниченными возможностями, а искусственный интеллект — точный, холодный и беспощадный.