Ученые из Массачусетского технологического института создали искусственный интеллект, который мыслит как психопат. Нейросеть назвали Norman в честь Нормана Бейтса — убийцы с раздвоением личности из фильма «Психо» Альфреда Хичкока.
Единственное, что умеет Норман — описывать пятна в тесте Роршаха. Изображения, на которых обычный искусственный интеллект видит цветы или птиц, нейросеть-психопат интерпретирует как человеческие смерти.
Норман разработан с помощью метода глубокого обучения. При создании ему показывали фотографии из тематического сообщества на сайте Reddit, где обсуждают смерть и выкладывают страшные фотографии убийств. Название группы разработчики не раскрывают из этических соображений.
Из Нормана сделали психопата для наглядной демонстрации того, что набор исходных данных для искусственного интеллекта важнее, чем сам алгоритм.
«Норман подвергся длительному воздействию самых темных уголков сети. Он воплотил в себе опасности, связанные с неправильным обучением искусственного интеллекта», — пишут разработчики.
На сайте MIT можно подробнее узнать, как Норман видит мир. Чтобы помочь искусственному интеллекту «излечиться», ученые предлагают всем желающим пройти тест Роршаха и написать, что они видят в размытых пятнах.