Компания Perplexity анонсировала запуск инновационной системы кибербезопасности BrowseSafe, предназначенной для защиты искусственного интеллекта в сети от prompt injection — атак, когда вредоносные инструкции скрываются в содержимом веб-страниц.
Об этом сообщает ProIT
Особенности системы BrowseSafe
Как сообщают разработчики, новый продукт способен блокировать до 91% потенциальных угроз, реагируя на них менее чем за полсекунды. Это существенно превосходит возможности предыдущих решений, которые работали с задержкой от 2 до 20 секунд.
Разработка BrowseSafe началась после выявления уязвимости в августе 2025 года: тогда браузер Comet от Perplexity открыл ИИ-агентам доступ к конфиденциальной информации, в частности электронной почте, банковским счетам и корпоративным системам. Особенно опасными были команды, замаскированные в невидимых HTML-комментариях.
Архитектура и эффективность защиты
BrowseSafe демонстрирует лучшие результаты по сравнению с другими системами, ведь большинство существующих решений способны выявить лишь до 85% угроз, а некоторые — всего 35%. Таких показателей удалось достичь благодаря внедрению уникальной архитектуры и собственного тестового набора BrowseSafe Bench, который учитывает разнообразие атак, способы их внедрения и языковую специфику вредоносных инструкций.
«По словам разработчиков, BrowseSafe блокирует до 91% угроз и реагирует менее чем за полсекунды».
Система функционирует на модифицированной модели Qwen3-30B-A3B-Instruct-2507 и использует три уровня защиты: сначала происходит быстрая проверка контента, подозрительные случаи анализируются более глубокой моделью, а остаток используется для дальнейшего обучения. Это обеспечивает скорость и непрерывность работы для пользователя.
В то же время, согласно тестированию, многоязычные атаки снижают точность защиты до 76%, а фрагменты, которые напоминают команды, могут вводить систему в заблуждение. Хотя BrowseSafe уже демонстрирует высокую эффективность, около 9-10% угроз все еще остаются невыявленными, особенно если они скрыты в нестандартных форматах или на редких языках.