Гуманитарии в тылу врага: зачем технокорпорациям специалисты по разнообразию и библиографы

Марк Цукерберг — это олицетворение технокорпораций. Он восхваляет блага, которые метавселенная принесет для социальной жизни. При этом он видит в симпатичных девушках только цифры и настолько неуклюж во взаимодействии с людьми, что постоянно становится героем мемов. Именно отсутствие социальных навыков делает его воплощением техноиндустрии.

Техноворотилы порой не в состоянии понять элементарные нормы человеческого общежития, но они считают, что проблему можно решить, наняв людей, которые на это способны. Последние несколько лет в изданиях о технологиях и бизнесе все чаще встречаются заголовки вроде «Выпускники гуманитарных факультетов — будущее техноиндустрии» или «Почему информатика нуждается в гуманитариях».

Считается, что соцработники и архивисты могут помочь индустрии минимизировать наносимый соцсетями ущерб, например рост насилия среди чернокожей молодежи и распространение дезинформации. Многие антропологи, социологи и философы, испытавшие на себе урезание финансирования, перераспределяемого в пользу технических специальностей, теперь стремятся показать свою полезность технокорпорациям, стартовая зарплата в которых несоизмерима со средней ставкой преподавателя гуманитарного факультета.

Однако те, кто призывает привлечь специалистов из социально-культурной сферы, упускают из виду тот факт, что эти специалисты уже задействованы в техноиндустрии. Например, многие UX-исследователи — это обладатели ученых степеней по социологии, антропологии, архивному делу и информационной науке. А преподаватели и специалисты в области разнообразия, равенства и инклюзивности часто работают в отделах кадров.

Но теперь технокомпании также начали задумываться над тем, как гуманитарии могут помочь нивелировать негативное воздействие их продуктов на общество. Они все чаще прибегают к услугам профессоров права и философии для решения юридических и этических проблем управления платформами, активистов и критиков — для защиты маргинализированных пользователей, а также специалистов в таких сферах, как алгоритмическая дискриминация, дезинформация, коммьюнити-менеджмент, психологическое благополучие пользователей и цифровой активизм.

Другими словами, компании, занимающиеся данными, стараются расширить свои компетенции при помощи социальных, культурных и этических знаний, или «мягких» данных.

Однако сколько бы специалистов по «мягким» данным вы ни наняли, мало что изменится до тех пор, пока их знания не начнут цениться в индустрии. На данный момент, как отмечают многие исследователи, технокорпорации часто обращаются к этим специалистам за помощью, а затем отвергают их рекомендации в пользу сугубо технических решений.

Это очень тревожный момент. Технокорпорации утверждают, что отводят место в штате для нетехнических специалистов, хотя на самом деле лишь меняют названия должностей, чтобы решения в итоге все равно оставались за техноспециалистами. При этом, как бы высоко мы ни ценили эти «мягкие» специальности, мы должны осознавать, что их представители не способны в одиночку достичь поставленных перед ними амбициозных целей.

Важно поддерживать этих недооцененных специалистов в их работе. В то же время не стоит считать, что они лучше других могут судить о том, что правильно с точки зрения морали. Они несомненно обладают внушительными познаниями в своих областях, но эти области имеют собственные ограничения и недостатки.

Взять, к примеру, антропологию, которая родилась из колониальной политики Запада. Несмотря на то, что сегодня культурная антропология стоит на позициях социальной справедливости, нет никаких оснований считать, что антропологи (85% которых в США — белые) будут настраивать и применять алгоритмы более объективно, чем информатики.

Наглядное подтверждение тому — многомиллионный проект по предиктивной аналитике для полиции PredPol, который Руа Бенджамин назвала «возрождением законов Джима Кроу». PredPol создал преподаватель антропологии из Калифорнийского университета в Лос-Анджелесе Джефф Брантингем.

Что касается социологии, то ранние социологические наблюдения сыграли роль в создании современных технологий наблюдения, которые фокусируются преимущественно на афроамериканцах. Интернет-исследования также имеют четкий уклон в сторону белого населения.

Возможно, социальные работники могли бы привнести в технокорпорации больше разнообразия. Подавляющее большинство социальных работников в Америке — женщины, причем 22% из них афроамериканки и 14% — латиноамериканки.

В то же время социальные работники также принимают участие в насилии, совершаемом государством по отношению к маргинализированным сообществам. Например, один социальный работник стал соавтором скандальной статьи об использовании предиктивной аналитики для автоматизированного распознавания членов преступных группировок.

Еще один пример попыток совместить социальную работу с предиктивной аналитикой — один из первых крупных проектов лаборатории SAFELab при Колумбийском университете. Он был посвящен разборкам между уличными бандами; в ходе его реализации социальные работники, аналитики данных и члены местных общин собирали и аннотировали посты в соцсетях. Лаборатория разработала инструмент, распознающий «агрессивные» посты и прогнозирующий, какие из них приведут к насилию в реальной жизни. Хотя создатели проекта хотели только хорошего, он все же был основан на наблюдениях исключительно за цветным населением.

Точно так же, несмотря на благие намерения социальных работников, служба защиты детей, как отмечает Дороти Робертс, намного чаще разлучает чернокожие семьи. Крис Гиллиард недавно написал: «Технологии наблюдения всегда в итоге оказываются направлены на чернокожих, даже если их создатели не имели такой цели. Кто бы их ни разрабатывал, системы наблюдения всегда служат власть имущим».

Эти слова подтверждаются тем, как быстро проект SAFELab был принят на вооружение полицией, а также грантом на сумму более полумиллиона долларов, полученным лабораторией от Управления перспективных исследовательских проектов Министерства обороны США — деньги выдали для разработки инструмента, ищущего вербовщиков ИГИЛ через соцсети.

Сара Т. Хамид из Carceral Tech Resistance Network приводит этот пример в качестве иллюстрации того, как правительство испытывает на цветных сообществах внутри страны те технологии, которые позже будут применяться в ходе войны за океаном.

И наконец, библиографы. Хотя от них часто ожидают, что они решат проблему дезинформации, сами эти специалисты утверждают, что их наука в ее нынешнем виде не способна выполнить эту задачу. Сафия Нобл отмечает преобладание в архивной науке белых людей (более 83%) и доведенную до крайности нейтральность.

Как она объясняет в своей книге «Справедливость знаний», многие библиографы считают, что должны принимать все идеи и ценности. В итоге они часто оправдывают использование расистских, трансфобских и прочих вредных материалов тем, что обязаны предоставлять слово «всем сторонам», позволяя людям самим делать выбор. Ту же ошибку совершают многие онлайн-платформы, что приводит к распространению дезинформации и дискриминационного контента.

Перечисление слабых мест этих областей знаний не отменяет того факта, что они все равно находятся далеко впереди техноиндустрии с ее слепым антиисторическим техноутопизмом, отвергающим социальные и культурные аспекты. Вместе с тем мы не должны заблуждаться насчет того, чего можно достичь выборочным внедрением социально-культурных должностей в компаниях, вся власть в которых принадлежит техническим специалистам.

Взваливать на плечи гуманитариев ответственность за решение всех текущих проблем техноиндустрии (особенно при отсутствии ресурсов и реальной власти) не только несправедливо, но и контрпродуктивно. Например, разнообразие, которое они смогут привнести, скорее всего, не заставит технокорпорации изменить отношение к маргинализированным группам.

Просить женщин — особенно чернокожих женщин — решить проблемы техноиндустрии ненормально. В последние годы в американской политике часто звучат призывы к чернокожим женщинам, чтобы они спасли демократию. В то же время сами чернокожие женщины не получают никакой поддержки. Крупные корпорации печально известны своим пренебрежительным отношением к этой и другим маргинализированным группам.

К тому же в техноиндустрии речь идет о куда более сложной задаче: создание настоящего искусственного интеллекта — ничто по сравнению с превращением Facebook в безопасное, демократическое пространство.

На сегодняшний день «мягкие» специальности пользуются спросом, однако этот тренд может оказаться мимолетным. Нельзя допустить, чтобы гуманитарные науки зависели от интереса со стороны техноиндустрии. Как отмечает Мередит Уиттакер, техноиндустрия и военный сектор уже подмяли под себя технологические исследования, и нет никаких оснований считать, что гуманитарные и социальные науки смогут избежать этой судьбы.

Мы должны предоставить этим областям достаточно ресурсов, чтобы обеспечить им независимость от прихотей техноиндустрии. Если этого не сделать, они почти наверняка будут использованы для усиления или сокрытия негативного влияния, которое производят продукты и сервисы технокорпораций.

Так или иначе, техноиндустрии придется найти способ совместить технические знания с социально-культурными. Первые шаги в этом направлении будут иметь решающее значение. Чтобы это начинание было успешным, очень важно, чтобы специалисты по «мягким» данным были в техноиндустрии не белыми воронами, а равноправными членами коллектива.

Есть и еще одно важное условие — компании должны понять, какие именно специалисты нужны для решения каждой проблемы.

В техноиндустрии, которая долгое время существовала в комфортной изоляции от других областей знаний, не видят разницы между социальным работником, социологом и библиографом. Однако каждый из них специализируется в конкретной области, и потребуется много времени, а также многочисленные пробы и ошибки, чтобы найти точки соприкосновения каждой области с техническими задачами. Без активного участия компаний в этом процессе гуманитарные специалисты лишатся влияния и будут обречены исполнять роль ширмы для прежних методов и практик.

Но вернемся к Марку Цукербергу.

Представьте, что к нему приставили трех цветных женщин с учеными степенями — социолога, советника по этике и социального работника. Стоит ли ожидать, что от этого он станет больше думать о равенстве, разнообразии, демократичности и справедливости — в ущерб прибыли? Скорее, это гуманистки окажутся в логове льва.

Пришло время всерьез задуматься о том, каким должно быть будущее техноиндустрии и позволить людям из самых разных областей знания участвовать в построении этого будущего.