Компания Anthropic представила исследовательскую версию нового AI-агента, который работает в браузере Chrome на основе моделей Claude. Эта функциональность в настоящее время доступна для тысяч подписчиков тарифного плана Max, стоимость которого составляет от $100 до $200 в месяц. Для других пользователей открыта возможность присоединиться к списку ожидания.
Об этом сообщает ProIT
Интеграция Claude в Chrome: функции и безопасность
После установки расширения Claude для Chrome выбранные пользователи могут общаться с AI-агентом в боковом окне, которое сохраняет контекст всех действий в браузере. Пользователи имеют возможность предоставить Claude разрешение выполнять определенные действия в браузере и завершать отдельные задачи от их имени. С целью безопасности Anthropic предусмотрела, что пользователи могут ограничить доступ Claude к отдельным сайтам в настройках, а по умолчанию агент не взаимодействует с ресурсами финансовых услуг, сайтами для взрослых и пиратским контентом. Кроме того, Claude всегда запрашивает подтверждение пользователя перед выполнением действий с повышенным риском, таких как публикация, покупка или передача личных данных.
Соревнование AI-браузеров и проблемы кибербезопасности
Сфера веб-браузеров становится очередным полем конкуренции для разработчиков искусственного интеллекта, которые стремятся обеспечить максимально удобную интеграцию AI в повседневное взаимодействие пользователей с интернетом. Недавно компания Perplexity представила собственный браузер Comet с интегрированным AI-агентом, способным выполнять задачи вместо пользователя. Также сообщается, что OpenAI готовит к запуску собственный AI-браузер с похожими функциями, а Google уже внедрила интеграцию Gemini в Chrome.
Гонка за внедрение AI в браузеры происходит на фоне антимонопольного процесса против Google, решение по которому ожидается в ближайшее время. Судья в деле уже отметил, что Google может быть обязана продать Chrome. Так, Perplexity подала неожиданное предложение о покупке Chrome за $34,5 млрд, а CEO OpenAI Сем Альтман также выразил заинтересованность в приобретении браузера.
«Anthropic предупредила, что распространение AI-агентов с доступом к браузеру создает новые риски для безопасности. На прошлой неделе команда безопасности Brave обнаружила, что агент браузера Comet может быть уязвим к непрямым атакам prompt-injection, когда скрытый код на веб-странице может заставить агента выполнить опасные инструкции во время обработки страницы».
Компания Perplexity заявила, что уязвимость, которую обнаружила Brave, уже устранена. Anthropic, в свою очередь, использует исследовательский запуск для выявления и исправления новых угроз, но уже внедрила ряд защит от атак prompt-injection. По данным компании, эти меры позволили снизить вероятность успешного взлома с 23,6% до 11,2%.
Anthropic имеет опыт создания AI-агентов, управляющих компьютером: еще в октябре 2024 года компания представила модель для контроля ПК, однако тестирование выявило ее медлительность и ненадежность. С тех пор возможности агентных AI-моделей значительно возросли, и современные решения, такие как Comet или ChatGPT Agent, уже уверенно справляются с простыми задачами пользователей, хотя при решении сложных задач они все еще сталкиваются с определенными ограничениями.