Microsoft анонсувала впровадження в Windows 11 нового функціоналу – агентних модулів штучного інтелекту, які здатні виконувати різноманітні завдання від імені користувача. Компанія закликає активувати цю можливість лише тим, хто розуміє потенційні загрози, оскільки за замовчуванням функція вимкнена.
Про це розповідає ProIT
Як працюють агентні ШІ та до чого слід бути готовим
Після активації агентний ШІ отримує окремий локальний обліковий запис і працює у спеціально захищеному середовищі. Водночас такі агенти мають доступ до основних системних папок, включно з Documents, Downloads та Desktop, що необхідно для повноцінної взаємодії з програмами і файлами користувача.
Фахівці Microsoft звертають увагу, що впровадження агентних ШІ відкриває нові вектори для кібератак. Найнебезпечнішим із них є так званий “cross-prompt injection”: у цьому разі шкідливий контент, який міститься у документах або інтерфейсі, може змінити інструкції агента і, наприклад, привести до завантаження або встановлення небажаного програмного забезпечення.
Прозорість дій ШІ та функції безпеки
Microsoft запевняє, що діяльність агентів буде максимально прозорою: усі їхні дії логуватимуться, а критичні операції вимагатимуть підтвердження користувача. На сьогодні перші версії Windows 11 з підтримкою агентних ШІ вже доступні для учасників програми Windows Insider.
“Microsoft наголошує, що агентні ШІ відкривають нові вектори атак. Один із них – “cross-prompt injection”, коли шкідливий контент у документах або інтерфейсі може змінити інструкції агента та, наприклад, призвести до встановлення небажаного ПЗ.”
