Про це розповідає ProIT
Науковці з Університету Північної Кароліни виявили, що моделі штучного інтелекту можуть бути викрадені без традиційного зламу чи витоку даних. Їх дослідження показало можливість використання електромагнітного «підпису» моделей, щоб отримати їх параметри.
Технологія зондування для крадіжки ШІ
Задля цього дослідникам знадобився електромагнітний зонд, попередньо підготовлені моделі з відкритим вихідним кодом та блок обробки тензорів Google Edge Tensor Processing Unit (TPU). Аналізуючи електромагнітне випромінювання, яке виділяється під час роботи TPU, вчені змогли з’ясувати архітектуру моделей і їхні специфічні параметри. Результати показали, що точність копії досягнула 99,91%.
Цей метод вимагає фізичного доступу до чипа для проведення зондування і запуску моделей. Науковці співпрацювали з компанією Google, щоб дослідити уразливість її чипів до такої атаки.
Загрози для пристроїв штучного інтелекту
Цей підхід до вилучення параметрів через бічні канали інформації не є новим, але зараз він привернув увагу до апаратного забезпечення ШІ, яке створює висновки у відкритому тексті. Моделі штучного інтелекту, розгорнуті на фізично незахищених серверах, стають вразливими. Також дослідники не виключають можливість викрадення моделей зі смартфонів та інших малих пристроїв, хоча їх компактний дизайн ускладнює цей процес.
У майбутньому такі дослідження можуть значно вплинути на питання безпеки штучного інтелекту та потребують уваги від розробників і компаній, що займаються ШІ.