Фахівці з кібербезпеки продемонстрували новий тип атаки, що дозволяє хакерам таємно отримувати доступ до особистих даних через аудіосигнали, невловимі для людського слуху, але розпізнавані голосовими асистентами на смартфонах і розумних колонках. Ця технологія дає змогу зловмисникам дистанційно активувати небезпечні команди на пристроях жертви під час прослуховування музики, перегляду відео чи подкастів, не викликаючи підозри користувача.
Про це розповідає ProIT
Змагальне аудіо: новий інструмент хакерів
Розробку методу представила міжнародна команда дослідників із Китаю та Сінгапуру на Симпозіумі IEEE з безпеки та конфіденційності. Вчені створили так зване «змагальне аудіо» — прихований аудіосигнал, що маскується під звичайний контент і здатен примусити штучний інтелект виконувати несанкціоновані завдання. Для навчання такого сигналу достатньо приблизно 30 хвилин, а його запуск не залежить від того, що саме говорить користувач — система не може відрізнити легітимний запит від шкідливої команди.
“Головна небезпека полягає в тому, що атака абсолютно не залежить від контексту. Зловмисники можуть активувати приховану команду в будь-який момент, незалежно від того, що саме говорить користувач, а сам алгоритм не здатний відрізнити нормальний запит від ворожої інтервенції”.
Вразливість відкритих моделей і реакція корпорацій
На сьогодні атака можлива лише за умови наявності у хакерів доступу до повних ваг цільової ШІ-моделі — це внутрішні математичні параметри, які часто є відкритими у системах з відкритим вихідним кодом. Проте багато комерційних рішень побудовано саме на таких відкритих моделях, що робить їх потенційно вразливими. Дослідники підтвердили працездатність експлойту на популярних платформах Microsoft і Mistral.
У Microsoft вже відреагували на звіт, подякувавши фахівцям за виявлену уразливість і наголосили на важливості впровадження додаткових рівнів безпеки при інтеграції ШІ у споживчі продукти. Це дослідження підкреслює потребу постійного підвищення стандартів захисту для голосових помічників та інших систем на базі штучного інтелекту.