Pushkin museum – mobile top
Pushkin museum

Instagram хочет защитить людей от кибербуллинга с помощью ИИ

Instagram добавит новые функции для защиты пользователей от оскорбительных комментариев и травли. Для этого компания разработала специальных ИИ.

Алгоритм может определить, является ли комментарий, который человек написал, оскорбительным. Авторам подозрительных текстов будет показываться уведомление, но отправка всё равно останется на совести пользователей.

Еще одна функция позволит скрывать комментарии неприятных вам людей под своими записями. Можно будет читать все сообщения под своим постом и потом либо одобрять их, либо не допускать на всеобщее обозрение.

«Мы стремимся занять лидирующие позиции в борьбе с травлей в интернете, для чего переосмысливаем весь свой опыт.  Нам под силу сделать больше. Чтобы не допустить буллинга — мы можем дать возможность объектам запугивания постоять за себя» — говорится в блоге Instagram.

В компании утверждают, что алгоритм, который говорит людям, что их комментарии оскорбительны, уже во время тестов заставлял многих агрессоров «одуматься» и не отправлять оскорбления. Но никакой статистики пока нет.

Skoltech