Специалисты по кибербезопасности продемонстрировали новый тип атаки, который позволяет хакерам тайно получать доступ к личным данным через аудиосигналы, неуловимые для человеческого слуха, но распознаваемые голосовыми ассистентами на смартфонах и умных колонках. Эта технология позволяет злоумышленникам дистанционно активировать опасные команды на устройствах жертвы во время прослушивания музыки, просмотра видео или подкастов, не вызывая подозрений у пользователя.
Об этом сообщает ProIT
Соревновательное аудио: новый инструмент хакеров
Разработку метода представила международная команда исследователей из Китая и Сингапура на Симпозиуме IEEE по безопасности и конфиденциальности. Ученые создали так называемое «соревновательное аудио» — скрытый аудиосигнал, который маскируется под обычный контент и способен заставить искусственный интеллект выполнять несанкционированные задачи. Для обучения такого сигнала достаточно примерно 30 минут, а его запуск не зависит от того, что именно говорит пользователь — система не может отличить легитимный запрос от вредоносной команды.
«Главная опасность заключается в том, что атака абсолютно не зависит от контекста. Злоумышленники могут активировать скрытую команду в любой момент, независимо от того, что именно говорит пользователь, а сам алгоритм не способен отличить нормальный запрос от враждебного вмешательства».
Уязвимость открытых моделей и реакция корпораций
На сегодняшний день атака возможна лишь при наличии у хакеров доступа к полным весам целевой ИИ-модели — это внутренние математические параметры, которые часто являются открытыми в системах с открытым исходным кодом. Однако многие коммерческие решения построены именно на таких открытых моделях, что делает их потенциально уязвимыми. Исследователи подтвердили работоспособность эксплойта на популярных платформах Microsoft и Mistral.
В Microsoft уже отреагировали на отчет, поблагодарив специалистов за выявленную уязвимость и подчеркнули важность внедрения дополнительных уровней безопасности при интеграции ИИ в потребительские продукты. Это исследование подчеркивает необходимость постоянного повышения стандартов защиты для голосовых помощников и других систем на базе искусственного интеллекта.