Microsoft анонсировала внедрение в Windows 11 новой функциональности – агентных модулей искусственного интеллекта, которые способны выполнять различные задачи от имени пользователя. Компания призывает активировать эту возможность только тем, кто понимает потенциальные угрозы, так как по умолчанию функция отключена.
Об этом сообщает ProIT
Как работают агентные ИИ и к чему следует быть готовым
После активации агентный ИИ получает отдельную локальную учетную запись и работает в специально защищенной среде. В то же время такие агенты имеют доступ к основным системным папкам, включая Documents, Downloads и Desktop, что необходимо для полноценного взаимодействия с программами и файлами пользователя.
Специалисты Microsoft обращают внимание, что внедрение агентных ИИ открывает новые векторы для кибератак. Наиболее опасным из них является так называемый “cross-prompt injection”: в этом случае вредоносный контент, содержащийся в документах или интерфейсе, может изменить инструкции агента и, например, привести к загрузке или установке нежелательного программного обеспечения.
Прозрачность действий ИИ и функции безопасности
Microsoft уверяет, что деятельность агентов будет максимально прозрачной: все их действия будут логироваться, а критические операции потребуют подтверждения пользователя. На сегодняшний день первые версии Windows 11 с поддержкой агентных ИИ уже доступны для участников программы Windows Insider.
«Microsoft подчеркивает, что агентные ИИ открывают новые векторы атак. Один из них – “cross-prompt injection”, когда вредоносный контент в документах или интерфейсе может изменить инструкции агента и, например, привести к установке нежелательного ПО.»