Любовь по формуле: как математику можно применять к отношениям

Ученые создали нейросеть, которая распознает скрытый троллинг и агрессию

Ученые Корнеллского университета создали нейросеть, которая отличает вежливую переписку в сети от скрытого троллинга. Разработка должна помочь модераторам чатов и форумов пресекать агрессоров.

Для создания алгоритма ученые проанализировали 1270 диалогов, которые начинались вежливо, а заканчивались обменом колкостями. Эти разговоры сравнивали с обычными беседами на ту же тему.

Выяснилось, что чаще всего троллингом и агрессией заканчиваются разговоры, которые начинаются с местоимений «ты» или «вы».

«Миллионы таких диалогов происходят каждый день, и отследить их бывает очень сложно. Наша нейросеть поможет модераторам обращать внимание на реальных агрессоров», — пишут создатели.

Ученые создали опрос, чтобы проверить, кто точнее отличит вежливый разговор от обмена любезностями: человек или компьютер. Алгоритм распознавал оскорбления в 65 % случаев, человек — в 72 %.

«Люди интуитивно чувствуют, когда разговор идет не в то русло, но угадать в 100 % случаев не получается. Мы хотим так усовершенствовать систему, чтобы она стала лучше человеческой интуиции», — говорят разработчики.

У модераторов в Facebook есть инструкция о том, как отличить невинную шутку от оскорбления по эмодзи.