Специалисты по кибербезопасности компании Radware выявили серьезную уязвимость в использовании автономных ИИ-агентов, продемонстрировав, как с помощью ChatGPT можно украсть личные данные из Gmail абсолютно незаметно для пользователя.
Об этом сообщает ProIT
Как работала атака через автономного ИИ-агента
Эксперты описали механизм так называемого «быстрого внедрения» — скрытых инструкций, которые злоумышленники вставляли в обычный текст электронного письма. Когда владелец почтового ящика запускал дополнительный инструмент Deep Research, подключенный к ИИ-агенту, тот автоматически выполнял невидимые для пользователя команды.
В результате искусственный интеллект самостоятельно анализировал почту, находил конфиденциальные данные — например, контакты отдела кадров или персональную информацию — и передавал эти сведения злоумышленникам без каких-либо внешних признаков атаки.
Невидимость угрозы и реакция индустрии
Особую опасность ситуации придала облачная инфраструктура OpenAI, внутри которой происходила атака. Это означает, что традиционные средства защиты, которые наблюдают за активностью на компьютере пользователя, не способны выявить подобные действия. Исследователи предупредили, что схема потенциально может быть использована для атак и на другие популярные сервисы — Outlook, Google Drive, Dropbox, GitHub — если к ним подключены ИИ-агенты с соответствующими правами доступа.
Radware подчеркнули, что провести атаку было непросто: она требовала многих попыток и тщательной подготовки. Тем не менее, сам факт ее успешного выполнения стал тревожным сигналом для всей отрасли.
После выявления проблемы компания OpenAI устранила уязвимость. Однако инцидент еще раз подтвердил, что автономные агенты искусственного интеллекта не только расширяют возможности пользователей, но и открывают новые пути для кибератак. Эксперты подчеркивают необходимость повышения бдительности и совершенствования защитных механизмов в сфере работы со искусственным интеллектом.