Чикагская фирма AI NexLP разработала бота, который ищет признаки домогательств в электронных письмах и рабочих чатах. ИИ уже тестируют в 50 компаниях.
Бота назвали #MeTooBots, в честь знаменитого движения по борьбе с сексуальными домогательствами. Алгоритм ищет в переписках различные признаки харассмента и если находит, то отправляет отчет юристу или HR-менеджеру.
Разработчики держат в секрете, какие именно фразы являются «красной тряпкой» для бота, чтобы правонарушители не знали, как обмануть алгоритм. Известно только, что ИИ ищет аномалии не только в речи, но в частоте отправки сообщений и даже в изображениях, которые могут получать жертвы домогательств.
Создатели признают, что бот нуждается в развитии и доработке, потому что язык постоянно меняется. Например, на какие-то сообщения алгоритм может не отреагировать, а может найти харассмент там, где его на самом деле нет.
Другой проблемой может стать утечка конфиденциальных данных — некоторые руководители опасаются, что с помощью бота сторонняя фирма будет вмешиваться в частную жизнь персонала. Пока что единственное решение — это информирование сотрудников о применении такого алгоритма в работе.