Искусственный интеллект взламывается обычной антенной
До недавнего времени казалось, что уж искусственный интеллект простому взлому не подлежит. Но группа международных исследователей нашла одну лазейку, способную преодолевать самые изощренные системы безопасности.
Исследовательская группа профессора Джун Хана из Корейского института передовых технологий в сотрудничестве с Национальным университетом Сингапура и Чжэцзянским университетом (Китай) разработала ModelSpy — систему атак, способную дистанционно перехватывать структуры моделей ИИ, используя лишь небольшую антенну.
Эта технология работает как подслушивающее устройство, улавливая и анализируя мельчайшие сигналы, излучаемые во время работы ИИ, дабы потом воссоздать его внутреннюю структуру. Исследовательская группа сосредоточилась на электромагнитных волнах, генерируемых графическими процессорами: когда нейросеть выполняет сложные вычисления, графический процессор излучает едва уловимые электромагнитные сигналы. Анализируя закономерности этих сигналов, команда успешно восстановила конфигурацию слоев и подробные параметры модели ИИ.
Результаты экспериментов показали, что структуру моделей ИИ можно с высокой точностью определить на расстоянии до шести метров или даже сквозь стены!
Но исследователи не просто решили подсказать будущим киберпреступникам отличную идею, но и предложили меры защиты: например, электромагнитные помехи и обфускацию (запутывание) исходного кода.
Антенны можно использовать и для благих дел. Команда ученых из НовГУ с коллегами из китайских университетов изобрела опытный образец новой антенны для связи на очень низких частотах.