Не кради голду, не прелюбодействуй с аватарами: как сделать виртуальные миры этичными и безопасными

Шел 2016 год. Джордан Беламайр с нетерпением ждала возможности поиграть в новую VR-игру QuiVr. Она надела шлем виртуальной реальности и в мгновение ока перенеслась в заснеженные предгорья. Вооружившись луком, Беламайр вступила в битву с несметными полчищами чудовищ.

Но ее восторг очень скоро сменился разочарованием. Когда она выбрала многопользовательский режим, другой игрок в виртуальном пространстве начал трогать ее аватар в интимных местах. Несмотря на требования Беламайр, игрок не прекратил свои действия. В итоге она вынуждена была снять шлем и выйти из игры.

Мы с коллегами изучили комментарии к рассказу Беламайр о «первом в ее жизни облапывании в виртуальной реальности» и обнаружили, что между пользователями нет консенсуса относительно неподобающего поведения в виртуальном пространстве. Многие были возмущены поведением другого игрока и поддержали Беламайр, когда она сказала, что происходящее казалось ей реальным. Но другие не проявили должного сочувствия. Никакого физического контакта не было, утверждали они, и в любой момент можно было выйти из игры.

Неподобающие действия сексуального характера в виртуальном пространстве — вовсе не редкость. Распространенными стали и другие нарушения — например, кража виртуальной собственности. Подобные инциденты заставляют задуматься о том, где заканчивается «виртуальное» и начинается «реальное», и о том, как поддерживать порядок в цифровом мире.

Когда Facebook объявил о планах создать метавселенную и переместить работу и общение в виртуальную реальность, необходимость разобраться с нарушениями в этом пространстве стала еще более насущной. Исследователи и разработчики виртуальных миров всё чаще выбирают проактивные методы управления, которые позволяют не только реагировать на нарушения, но и предотвращать их.

При этом речь не идет о разработках правил с чистого листа. Чтобы научить пользователей ответственному поведению в VR-пространстве, мы можем воспользоваться опытом онлайн-игр, известных своими крупными и временами токсичными сообществами.

Законы и моральные правила реального мира — по крайней мере, в их нынешнем виде — плохо подходят для искоренения зла в цифровом пространстве. Мое собственное исследование, посвященное этике и многопользовательским играм, показало, что игроки зачастую сопротивляются «внешнему вмешательству» в виртуальные дела. Есть и сугубо практические трудности: в изменчивых, глобализированных онлайн-сообществах трудно найти виновных и определить юрисдикцию.

Как отметили исследователи, разработчики и критики на Конференции разработчиков компьютерных игр — 2021, для борьбы с сексуальными домогательствами в виртуальном пространстве необходимы структурные реформы как в реальном, так и в цифровом мире. Если законы реального мира неэффективны, мы должны обратиться к технологическим средствам для управления VR-сообществами.

Сейчас самая распространенная форма управления в виртуальном мире — это реактивная и пунитивная модерация. Пользователи, на которых была подана жалоба, могут быть заблокированы временно или навсегда. Учитывая огромные размеры виртуальных сообществ, процессы эти зачастую автоматизированы: ИИ обрабатывает жалобы и инициирует удаление контента или блокировку пользователей.

В краткосрочной перспективе подобные меры довольно эффективны, но у них есть свои недостатки. Будучи реактивными, эти методы не предотвращают нарушения и не обеспечивают поддержку пользователям, которые подвергаются притеснениям. Автоматизация помогает справляться с огромными объемами информации, но также приводит к ложноположительным и ложноотрицательным результатам, а также порождает опасения по поводу дискриминации, приватности и слежки.

Некоторые многопользовательские игры экспериментируют с демократическим самоуправлением. Компания Riot Games внедрила систему Tribunal, позволяющую игрокам в League of Legends оценивать жалобы на других игроков и выбирать для них наказания. Из-за недостаточной эффективности проект через несколько лет был закрыт, но схожая система, Overwatch, до сих пор действует в играх от Valve CS:GO и Dota 2.

В недавней статье, написанной исследователями Oculus VR, утверждается, что и Facebook задумывается над предоставлением пользователям права модерации через VR-приложения — компания видит в этом методе решение проблем вертикального управления.

Ценность таких систем в том, что они позволяют виртуальным гражданам принимать участие в управлении своими сообществами. Однако безупречно ли с моральной точки зрения привлечение членов сообщества к бесплатному выполнению трудоемкой и эмоционально затратной работы? К тому же, если возникнут сообщества, где токсичность будет нормой, не очень понятно, кому придется с этим разбираться.

Решить данную проблему может комьюнити-менеджер. Комьюнити-менеджер — это человек, нанятый гейминговой или VR-компанией, чтобы способствовать более проактивному и демократическому принятию решений и следить за порядком. Он напоминает игрокам о правилах поведения, предупреждает и блокирует пользователей, а также докладывает о проблемах команде разработчиков. Комьюнити-менеджеры могут появиться и в метавселенной, но только если мы поймем, как правильно их использовать.

Комьюнити-менеджеры встречают новых пользователей при вступлении в сообщество. Они улыбаются (виртуально), создают шумиху вокруг игры и передают информацию между разработчиками и игроками. Но их роль не ограничивается продвижением продукта. Они также подают пример должного поведения, следят за соблюдением правил и в целом задают тон всему сообществу.

Использование комьюнити-менеджеров в VR-пространстве позволяет придать управлению человеческое лицо. Способствуя чувству принадлежности к группе, поощряя ответственность и человечность, комьюнити-менеджеры — по крайней мере, в теории — помогают минимизировать нарушения, обусловленные анонимностью и автоматизацией.

К сожалению, сегодня комьюнити-менеджеры недостаточно ценятся, а их труд плохо оплачивается. Они часто сталкиваются с угрозами расправы и оскорблениями со стороны пользователей, которым они помогают. Чтобы комьюнити-менеджеры могли принимать участие в управлении метавселенной, они должны лучше вознаграждаться за свою работу. От переутомленного и неосведомленного комьюнити-менеджера больше вреда, чем пользы.

Недавно Fair Play Alliance, коалиция разработчиков игр, занимающаяся созданием здоровых гейминговых сообществ, опубликовала собственную инструкцию по реагированию на нарушения в играх. Там изложены рекомендации по управлению сообществами и разработке системы жалоб и наказаний. В сочетании с адекватной зарплатой, подготовкой и психологической поддержкой, эти принципы помогут сделать труд комьюнити-менеджеров намного более эффективным.

VR-пространства создаются людьми. Следовательно, они поддаются управлению. Около десяти лет назад Ник Йи, социолог и сооснователь компании Quantic Foundry, занимающейся исследованием игр, сказал, что правила и дизайн многопользовательских игр — их «социальная архитектура» — обуславливают взаимодействия между игроками в виртуальном мире. Раз мы можем создавать виртуальные миры, поощряющие враждебность, то можем создать и миры, поощряющие дружелюбие.

Иногда помогают даже мелочи. Йи отметил, что в многопользовательской игре EverQuest умершие игроки теряют все свои трофеи и вынуждены отправляться обратно к месту своей смерти, чтобы их вернуть. По словам Йи, данная деталь способствует альтруизму среди игроков, побуждая их просить друг друга о помощи.

В неигровых VR-пространствах того же эффекта можно достичь, поощряя пользователей помогать друг другу с виртуальными задачами вроде адаптации нового участника, модификации пространства и приобретения званий.

Отчасти мы уже видим, как уникальные возможности, предоставляемые виртуальной реальностью, используются на благо пользователей.

В ответ на рассказ Беламайр разработчики QuiVr внедрили в игру жест силы: движение руки, заставляющее аватары, находящиеся в непосредственной близости, мгновенно исчезнуть. В виртуальном мире важно иметь контроль над своим личным пространством, и простой жест, позволяющий устранять ведущих себя неподобающим образом пользователей из поля зрения, дает возможности, которых у нас нет в реальном мире.

Само собой, некоторые проактивные дизайнерские решения, отлично зарекомендовавшие себя в играх, могут не подходить для других, более серьезных VR-пространств. Например, похвалы другим игрокам за хорошую командную работу в играх вроде Overwatch помогают снизить токсичность, но хвалить коллег в рабочей VR-среде — это детский сад (и слишком уж напоминает MeowMeowBeenz).

Однако нетрадиционные подходы в сфере VR всё же стоит изучить. Что если приговаривать провинившихся аватаров к виртуальным общественным работам или прохождению виртуальных образовательных программ?

Идея об исправлении поведения в виртуальном пространстве посредством наказаний из реального мира кажется абсурдом, но она не нова. Игровая платформа Steam публично отстраняет читеров. А в 2015 году президент Daybreak Game Company призвал читеров публично покаяться за свои действия в обмен на отмену бана в игре H1Z1.

Говоря об управлении VR-пространством, нельзя обойти вниманием вопрос о том, кто вероятнее всего окажется в нем маргинализирован. Наши предрассудки нередко коварным образом проникают в технологии, порождая миры, враждебные к определенным группам. Из-за требований, сопряженных с VR, люди с определенными физическими недостатками (например, нарушениями зрения) столкнутся с трудностями. Аватар — это средство участия и передвижения по виртуальному пространству, но исследования игр показывают, что аватары часто дискриминируют людей с другим цветом кожи. И, наконец, как показывает опыт Беламайр, жертвами нарушений в виртуальном пространстве часто становятся женщины.

Люди, лишенные доступа к виртуальному пространству, также нередко отсутствуют в командах исследователей и разработчиков. Вот почему так важно с самого начала всячески поощрять разнообразие. К счастью, всё чаще привлекается внимание к инклюзивности в играх. Например, организация The AbleGamers Charity сотрудничает с разработчиками, чтобы сделать игры более доступными для инвалидов.

Очень важно, чтобы все мы разделили ответственность за создание разнообразных VR-сообществ. Сбалансированный подход к ограничениям и наказаниям будет играть очень важную роль, равно как и законы реального мира. Мы не должны слишком полагаться на автоматизированную модерацию, блокировку и баны, которые являются лишь малой частью процесса построения здоровых виртуальных миров.

С глаз долой, из сердца вон — плохой принцип для виртуального пространства. Как показывает практика, мы способны на большее. Качество нашей виртуально-реальной жизни зависит только от нас.