Специалисты рассказали, какова вероятность, что ИИ уничтожит человечество
Теперь этим вопросом задаются не только футурологи и алармисты. Совсем недавно молодой исследователь Джейкоб Коксон (США) уволился из Anthropic — одной из крупнейших компаний по разработке ИИ — и написал тревожный пост о будущей гибели нашей цивилизации.
Если верить Коксону, «люди, создающие ИИ, искренне верят, что он способен убить всех нас до конца десятилетия». Некоторые эксперты поддержали Джейкоба. Например, его бывший коллега Эван Хубингер написал: «Джейкоб прав, мы действительно искренне верим, что ИИ может убить всех людей. Лично я считаю, что вероятность этого больше 10 %».
Обозреватель Джейкоб Арон из New Scientist решил изучить вопрос и понять, стоит ли людям бояться прогресса в области ИИ-технологий. По мнению редактора, страхи не новы, просто о них стали чаще рассуждать в публичном пространстве.
Арон сослался на опрос 2024 года за авторством Кати Грейс, исследовательницы искусственного интеллекта. Согласно результатам опроса, более 50 % из 1580 опрошенных ИТ-специалистов оценивали вероятность вымирания человечества минимум в 10 %.
Как эксперты описывают гибель цивилизации от «рук» ИИ? По данным журналиста New Scientist, в число самых популярных сценариев входят намеренное уничтожение людей искусственным интеллектом, случайная катастрофа из-за технической ошибки, вредоносное использование ИИ, получающего доступ к «умным» домам, автомобилям и инфраструктуре.
Арон спешит успокоить всех, кто собрался переезжать в лес и прятаться от расправы. Почему? Оценивать реальную вероятность таких событий сложно из-за закрытости самих ИТ-компаний. Коммерческое давление подталкивает разработчиков скрывать детали о работе систем, а без этой информации невозможно ни подтвердить, ни опровергнуть тревожные прогнозы.
Ключевой вывод таков: катастрофа теоретически возможна, и об этом важно говорить уже сейчас. Правда, по мнению Джейкоба Арона, такие сценарии стоят в одном ряду с последствиями изменения климата, массовым вымиранием из-за новых бактериальных болезней, а также с мировыми вооружёнными конфликтами.
Ранее мы писали про жителя Китая, который судится с разработчиками ИИ, так как советы чат-бота принесли несчастья в его дом.