Соцсеть «ВКонтакте» тестирует искусственный интеллект для борьбы с агрессивными сообщениями. Технология ускорит время обработки жалоб и поможет пользователям реже сталкиваться с проявлениями нетерпимости, сообщается в блоге компании.
Нейросеть обучат воспринимать и различать разные типы оскорблений и угроз. Искусственный разум сможет находить проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков.
Чтобы обучить нейросеть, ВКонтакте создали особый тип жалобы — «враждебные высказывания». С ее помощью можно отправить обращение модераторам. Этот же инструмент позволяет собрать датасет для автоматического обнаружения вражды и фильтрации контента.
Только за первую половину 2020 года на платформе было удалено 520 тысяч записей и комментариев, разжигающих вражду, а также заблокировано 1340 профилей и 2470 сообществ.