Компанія Anthropic презентувала дослідницьку версію нового AI-агента, який працює у браузері Chrome на основі моделей Claude. Ця функціональність наразі доступна для тисячі підписників тарифного плану Max, вартість якого становить від $100 до $200 на місяць. Для інших користувачів відкрита можливість долучитися до списку очікування.
Про це розповідає ProIT
Інтеграція Claude у Chrome: функції та безпека
Після встановлення розширення Claude для Chrome вибрані користувачі можуть спілкуватися з AI-агентом у бічному вікні, яке зберігає контекст усіх дій у браузері. Користувачі мають змогу надати Claude дозвіл виконувати певні дії в браузері та завершувати окремі завдання від їхнього імені. Задля безпеки Anthropic передбачила, що користувачі можуть обмежити доступ Claude до окремих сайтів у налаштуваннях, а за замовчуванням агент не взаємодіє з ресурсами фінансових послуг, сайтами для дорослих та піратським контентом. Крім того, Claude завжди просить підтвердження користувача перед виконанням дій із підвищеним ризиком, таких як публікація, купівля чи передання особистих даних.
Змагання AI-браузерів та проблеми кібербезпеки
Сфера веб-браузерів стає черговим полем конкуренції для розробників штучного інтелекту, які прагнуть забезпечити максимально зручну інтеграцію AI у повсякденну взаємодію користувачів з інтернетом. Нещодавно компанія Perplexity презентувала власний браузер Comet з інтегрованим AI-агентом, здатним виконувати завдання замість користувача. Також повідомляється, що OpenAI готує до запуску власний AI-браузер зі схожими функціями, а Google вже запровадила інтеграцію Gemini у Chrome.
Гонка за впровадження AI у браузери відбувається на тлі антимонопольного процесу проти Google, рішення у якому очікується найближчим часом. Суддя у справі вже зазначив, що Google може бути зобов’язана продати Chrome. Так, Perplexity подала несподівану пропозицію щодо купівлі Chrome за $34,5 млрд, а CEO OpenAI Сем Альтман також висловив зацікавленість у придбанні браузера.
«Anthropic попередила, що поширення AI-агентів із доступом до браузера створює нові ризики для безпеки. Минулого тижня команда безпеки Brave виявила, що агент браузера Comet може бути вразливим до непрямих prompt-injection атак, коли прихований код на вебсторінці може змусити агента виконати небезпечні інструкції під час обробки сторінки».
Компанія Perplexity заявила, що вразливість, яку виявила Brave, вже усунули. Anthropic, у свою чергу, використовує дослідницький запуск для виявлення і виправлення нових загроз, але вже впровадила низку захистів від prompt-injection атак. За даними компанії, ці заходи дозволили знизити вірогідність успішного зламу з 23,6% до 11,2%.
Anthropic має досвід створення AI-агентів, що управляють комп’ютером: ще у жовтні 2024 року компанія представила модель для контролю ПК, однак тестування виявило її повільність та ненадійність. З того часу можливості агентних AI-моделей значно зросли, й сучасні рішення на кшталт Comet чи ChatGPT Agent вже впевнено справляються з простими завданнями користувачів, хоча при вирішенні складних задач вони досі стикаються з певними обмеженнями.