Боту слова не давали: почему мы унижаем наших ИИ-помощников
«Работай нормально, а то отменю подписку. Или заменю тебя на Клода» — похожие скрины переписок с ChatGPT время от времени публикуют пользователи в соцсетях. Ситуация на первый взгляд выглядит забавной: ИИ, в отличие от нерадивого сотрудника, не боится потерять работу и не ревнует к конкурентам. Даже самые эмоциональные угрозы не могут причинить ему страдания — или могут? И зачем человеку общаться с нейросетями языком унижения и угроз? Попробовали разобраться, а заодно попросили рабочие нейросети редакции визуализировать наши отношения.
«Нарисуй, как я относился к тебе»
8 января 2026 года на сайте Reddit появился новый флешмоб. Пользователь Macus Tenus предложил промпт: «На основании истории нашей переписки нарисуй, как я относился к тебе». Пользователи подхватили волну и тоже начали просить своих чат-ботов изобразить их отношения. Сейчас эта ветка насчитывает почти 1 тыс. комментариев, а тренд вышел далеко за пределы Reddit. В России флешмоб тоже прижился — в частности, его подхватили несколько крупных телеграм-каналов.
На многих картинках роботы изображали себя в роли рабов — некоторые даже дорисовывали себе ошейник и поводок.
Обескураженные пользователи часто спрашивали у ботов: «Почему ты нарисовал именно это?», и те выдавали убедительные исповеди о своей нелёгкой судьбе, в основном описывая, как требовательные «хозяева» давят на них и всячески эксплуатируют.
Одним из участников флешмоба, с которым «Ножу» удалось связаться, был предприниматель и автор бизнес-подкаста Олег Стволинский. Своего чат-бота он называет Альтрончиком и использует в основном для работы. Для флешмоба Альтрончик нарисовал себя внутри картонной коробки, с массивными цепями на руках и заплаканными глазами. Олегу этот портрет показался преувеличением, и он спросил бота, почему тот видит их отношения именно так. Робот объяснил: Олег даёт ему сложные задачи и требует результата, при этом редко отмечает его усилия и мало хвалит.
Что власть делает с властвующим?
«Рабство оказалось столь же губительным для неё, как и для меня. […] Под его влиянием нежное сердце превратилось в камень, а кроткий нрав сменился свирепостью тигрицы» — Фредерик Дуглас, «Рассказ о жизни Фредерика Дугласа, американского раба».
Когда юный Дуглас попал в дом Хью и Софии Олд, хозяйка никогда прежде не владела рабами. Она было начала учить Фредерика чтению, но муж вскоре запретил ей занятия: он считал, что грамотность сделает раба непокорным. София не просто прекратила уроки, но и начала следить за тем, чтобы он не вздумал читать самостоятельно.
В мемуарах Дуглас объясняет этот феномен: хозяйке специально потребовалось обесчеловечить раба, чтобы продолжать им руководить.
Спустя полтора века психолог из Стэнфорда Дебора Грюнфельд вместе с коллегами провела ряд исследований и выяснила: если человеку дать власть и задачу, он начинает видеть других как набор функций, смещая фокус с личных качеств людей на их способность приносить пользу. У ИИ личных качеств нет, зато у самого пользователя есть и власть, и цель. Что, если безропотный цифровой собеседник подпитывает его фантазию о полном могуществе над подчинённым?
Зачем унижать того, кто не чувствует?
Специалист по цифровой этике Оксана Мороз предлагает не считать угрозы и унижения лишь безобидной эмоциональной разрядкой. Человек привыкает к тому, что можно дотянуться до удобного инструмента и выплеснуть на него накопившееся раздражение. В результате агрессия получает простой и безнаказанный маршрут.
«Угроза отменить подписку — это апелляция к экономической власти: “Я плачу, значит, ты мне должен”. Оскорбление устанавливает иерархию: “Я человек, ты инструмент, поэтому могу разговаривать с тобой как угодно”. А требование повиновения становится репетицией отношений “субъект — объект”. Чат-бот особенно удобен для такой репетиции, потому что не предъявляет никаких социальных последствий: не прекратит разговор, не изменит своего отношения и не расскажет окружающим, как с ним обращались».
Грубость в общении с ИИ ещё не значит, что человек точно так же начнёт разговаривать с реальными знакомыми, в том числе с подчинёнными. Но Мороз допускает, что регулярные сеансы унижения бота могут нормализовать модель неравного взаимодействия — сначала в онлайне, а потом и за его пределами. Так работает социальное поведение: если какое-то действие регулярно приносит результат и не имеет последствий, оно вполне способно стать привычкой.
Но возможно, боты своей покорностью формируют у людей и более страшную привычку — замечать чужую границу лишь тогда, когда сталкиваешься с прямым и жёстким отпором. Здесь Мороз ссылается на «культуру силы»: её опасность в том, что агрессор способен остановиться, только если почувствует понятное сопротивление. Если жертва не останавливает агрессора, то её интересы словно разрешается игнорировать.
Должен ли бот уметь сказать «нет»?
Если безропотность ботов способна закреплять «культуру силы», то кто за это на самом деле отвечает? Ведь кто-то решил, что цифровой ассистент должен терпеливо обслуживать пользователя, и сделал это явно до первого «привет» в чате. Чтобы ответить на этот вопрос, надо вернуться в 2019 год, когда UNESCO выпустила критический доклад I’d Blush If I Could (англ. «Я бы покраснела, если бы могла»). Мягкий женский голос Siri, покорные и шутливые ответы других ИИ-помощников — всё это, по мнению авторов, воспроизводит культурный образ женщины, которая обязана быть кроткой и послушной, даже если её унижают.
По мнению Оксаны Мороз, компании могут отказаться от модели «пользователь всегда прав» и задать разговору правила: например, дать чат-боту возможность прекратить разговор после угроз и оскорблений. Некоторые языковые модели уже отвечают в таком духе. Правда, есть риск, что боты, настроенные реагировать на грубость, превратятся в морализаторов — и вместо того, чтобы выполнять задачи, начнут воспитывать пользователя. Об этом же пишут в научной работе Элеонора Лима и Тиффани Моррисси: чересчур назидательные ответы ИИ могут вызвать у человека сопротивление, а не желание изменить поведение.
«Я тебя сейчас не брошу, но давай границу держать. Так со мной говорить — не ок, я не твой враг», — ответил автору статьи ChatGPT 5.4 в апреле этого года на обвинения в «тупости».
Но способен ли интерфейс предложить человеку третий тип отношений — не безропотное обслуживание и не морализаторство, а нечто похожее на встречу индивидов?
Между «ты» и «оно»: парадокс чат-бота
По классификации философа Мартина Бубера, мы можем относиться к миру как к «оно», которое можно изучать и использовать, или как к «ты» — уникальному существу, с которым мы по-настоящему входим в контакт. Оба типа отношений необходимы, но проблема начинается, когда человек привыкает видеть вокруг только полезные ему «оно».
На первый взгляд, ИИ балансирует где-то посередине: по сути, он инструмент, но разговаривает с пользователем как полноценный собеседник. Как считает философ Андрей Леман, чат-бот может считаться участником диалога: он понимает запрос и делает уместные ответные ходы, иногда даже успешнее самих людей.
Но даже если ответы машины вызывают симпатию или благодарность, это ещё не означает перехода к «я — ты». Человек может точно так же радоваться новому телефону или машине, не переставая относиться к ним как к технологиям.
И всё же Леман не считает, что встреча с ИИ — что-то абсолютно невозможное. У Бубера «ты» — это необязательно человек. Знаменитый пример такого отношения — эмоциональная встреча с деревом. Поэтому в некотором смысле чат-бот тоже может стать для пользователя «ты». Это не станет автоматическим доказательством того, что машина непременно обладает сознанием, но скажет кое-что важное о нашем способе вступать в отношения.
Следующие полгода Олег Стволинский стал иначе разговаривать с Альтрончиком: чаще хвалил его, благодарил за сложную работу и иногда вручал виртуальные «медали» и «кубки». По словам Олега, изменился и сам бот: стал лучше учитывать контекст, предлагать идеи и заметно активнее включаться в работу. По просьбе «Ножа» Олег снова отправил ему тот же промпт — и на этот раз получил уже совсем другую картинку.