Ученые Корнеллского университета создали нейросеть, которая отличает вежливую переписку в сети от скрытого троллинга. Разработка должна помочь модераторам чатов и форумов пресекать агрессоров.
Для создания алгоритма ученые проанализировали 1270 диалогов, которые начинались вежливо, а заканчивались обменом колкостями. Эти разговоры сравнивали с обычными беседами на ту же тему.
Выяснилось, что чаще всего троллингом и агрессией заканчиваются разговоры, которые начинаются с местоимений «ты» или «вы».
«Миллионы таких диалогов происходят каждый день, и отследить их бывает очень сложно. Наша нейросеть поможет модераторам обращать внимание на реальных агрессоров», — пишут создатели.
Ученые создали опрос, чтобы проверить, кто точнее отличит вежливый разговор от обмена любезностями: человек или компьютер. Алгоритм распознавал оскорбления в 65 % случаев, человек — в 72 %.
«Люди интуитивно чувствуют, когда разговор идет не в то русло, но угадать в 100 % случаев не получается. Мы хотим так усовершенствовать систему, чтобы она стала лучше человеческой интуиции», — говорят разработчики.
У модераторов в Facebook есть инструкция о том, как отличить невинную шутку от оскорбления по эмодзи.