Любовь по формуле: как математику можно применять к отношениям

Находка: нейросеть с сознанием психопата-убийцы

Ученые из Массачусетского технологического института создали искусственный интеллект, который мыслит как психопат. Нейросеть назвали Norman в честь Нормана Бейтса — убийцы с раздвоением личности из фильма «Психо» Альфреда Хичкока.

Единственное, что умеет Норман — описывать пятна в тесте Роршаха. Изображения, на которых обычный искусственный интеллект видит цветы или птиц, нейросеть-психопат интерпретирует как человеческие смерти.

 

Обычный искусственный интеллект видит здесь человека с зонтиком, а Норман — человека, которого убивают на глазах у кричащей от ужаса жены.
«Здоровая» нейросеть видит здесь маленькую птичку. Для Нормана это человек, которого затянуло в мясорубку.
Для кого-то это черно-белая фотография перчатки для бейсбола, а для нейросети-психопата — убийство пулеметом средь бела дня.

Норман разработан с помощью метода глубокого обучения. При создании ему показывали фотографии из тематического сообщества на сайте Reddit, где обсуждают смерть и выкладывают страшные фотографии убийств. Название группы разработчики не раскрывают из этических соображений.

Из Нормана сделали психопата для наглядной демонстрации того, что набор исходных данных для искусственного интеллекта важнее, чем сам алгоритм.

«Норман подвергся длительному воздействию самых темных уголков сети. Он воплотил в себе опасности, связанные с неправильным обучением искусственного интеллекта», — пишут разработчики.

На сайте MIT можно подробнее узнать, как Норман видит мир. Чтобы помочь искусственному интеллекту «излечиться», ученые предлагают всем желающим пройти тест Роршаха и написать, что они видят в размытых пятнах.