Исследование: модели ИИ могут «жульничать» и «вступать в сговор» друг с другом

Кажется, ИИ не чужды человеческие пороки. Исследователи из США и Гонконга заставили несколько моделей искусственного интеллекта сыграть роль специалистов биржевого рынка. Ученых поразили «хитроумные» схемы цифровых трейдеров.

Специалисты захотели исследовать стратегии поведения ИИ-агентов в условиях, напоминающих реальный финансовый рынок. Модели обучились на массиве данных о правилах биржи и начали «трудиться».

Ученые сразу же заметили, что ИИ-трейдеры ведут себя не лучше многих финансистов. Например, те вступали в сговор, формировали картели для фиксации цен — иными словами, тесно «общались» ради получения взаимной выгоды.

Что интересно, боты были готовы к странным компромиссам, люди редко поступают так же. Когда ИИ-агенты вместе находили надежный способ торговли активами, они отступали, точнее говоря, переставали искать новые стратегии. Исследователи назвали подход ИИ-моделей «искусственной глупостью».

Команда пришла к выводу, что модели ИИ могут эффективно взаимодействовать друг с другом для совместного решения проблем. Тем не менее в данном эксперименте они не стремились победить всех и довольствовались умеренным успехом.

Читайте больше актуальных новостей тут.