Корпорація Microsoft анонсувала впровадження нового відкритого стандарту Agent Control Specification (ACS), який має на меті надати розробникам більш детальні та узгоджені можливості контролю поведінки AI-агентів у різноманітних додатках, робочих процесах і продуктах.
Про це розповідає ProIT
Agent Control Specification: ключові можливості
Завдяки ACS розробники, а також команди з управління відповідністю та безпекою, можуть самостійно визначати політики й правила, яких мають дотримуватися AI-агенти. У цих політиках чітко описується, які дії агенту дозволено виконувати, які суворо заборонені, у яких випадках потрібен дозвіл людини, а також який обсяг інформації та доказів слід зберігати для подальшого аудиту. Перевірка дотримання політик відбувається на декількох «точках перехоплення» під час виконання агентом завдань, що дозволяє гарантувати дотримання встановлених обмежень.
“The specification essentially lets developer, compliance, and security teams define their own policies for agents to follow. The rules can define what the agent may do, what it must not do, when a human should approve an action, and what evidence should be logged for later review. These policy files are checked at several ‘interception points’ when the agent is off performing a task to make sure it stays within the guardrails”.
Інтеграція, безпека та можливості для розробників
Раніше розробники були змушені імпровізувати та створювати власні системи контролю за поведінкою AI, прописуючи інструкції у системних підказках, додаючи кастомні перевірки у коді додатків або ж використовуючи класифікатори для фільтрації небажаних входів і виходів. Проте такі підходи часто створювали фрагментовані та складні для аудиту системи, які важко було масштабувати та використовувати у різних середовищах і рамках.
ACS дозволяє інтегрувати всі ці механізми у єдиний рівень управління. Новий стандарт передбачає перевірку дій агента на декількох етапах — до отримання вхідних даних, перед використанням інструменту, після отримання результату від інструменту та перед передачею фінальної відповіді користувачу. Політики можуть дозволяти, блокувати або редагувати дії агента, а також вимагати втручання людини для підтвердження певних рішень.
Розробники мають змогу використовувати класифікатори для категоризації інформації, прогнозування результатів чи визначення реакцій агента, а також застосовувати LLM-моделі як «суддів» для додаткової перевірки політик. Додатково можна налаштовувати логіку перевірки вибору інструментів, точності вхідних даних, використання вихідних результатів тощо.
Усі політики оформлюються у вигляді окремих файлів, які можна «прикріпити» до агента, що дає змогу дотримуватися єдиної політики безпеки під час роботи агента у різних середовищах або фреймворках.
ACS постачається у вигляді SDK із підтримкою плагінів для LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI, MCP tools та інших популярних платформ для розробки AI-агентів.