Сучасні компанії стикаються з новою хвилею викликів у сфері безпеки штучного інтелекту, і навіть такі гіганти, як Google, змушені шукати оптимальні рішення в умовах постійних змін. Френсіс де Соуза, операційний директор Google Cloud, підкреслює: питання безпеки має бути фундаментальною частиною впровадження AI, а не додатковим кроком.
Про це розповідає ProIT
Інтеграція безпеки та стратегії даних — ключ до захисту
За словами де Соуза, компанії повинні обирати платформенний підхід, коли безпека, управління та аудит мають бути інтегровані в систему з самого початку. Особливу увагу він приділяє явищу «тіньового AI», коли співробітники використовують сторонні інструменти без контролю з боку організації. Це створює додаткові ризики витоку даних і порушення цілісності системи.
“Немає такого поняття, як AI-стратегія без стратегії даних та стратегії безпеки. Вони повинні йти разом”, — зазначає де Соуза.
Він також наголошує, що навіть при використанні одного хмарного провайдера компанії часто покладаються на SaaS-рішення та партнерів, які працюють з іншими хмарами. Саме тому важливо забезпечити єдиний підхід до безпеки незалежно від обраної платформи.
Зростання загроз та нові виклики для захисних систем
Де Соуза звертає увагу на те, що час між початковим проникненням у систему та переходом до наступної фази атаки зменшився з восьми годин до лише 22 секунд. Крім того, поверхня атак значно розширилася: тепер захисту потребують не лише класичні мережі, а й моделі штучного інтелекту, їхні тренувальні дані, агенти та промпти.
Особливу небезпеку становлять агенти, які можуть знаходити застарілі або забуті сховища даних всередині компанії. Це загрожує розкриттям чутливої інформації, яка раніше вважалася недоступною.
На думку де Соуза, організації мають відповідати на загрози з такою ж швидкістю, яку демонструють машини: “Ми спостерігаємо появу AI-native захисту, де агенти самі керують безпекою, а люди лише здійснюють нагляд. Це вже питання не тільки технологій, а й лідерства на рівні керівництва компанії”.
Водночас нестача фахівців, здатних контролювати такі системи, залишається гострою проблемою. Кількість нових вразливостей, які з’являються через впровадження AI, зростає швидше, ніж команди безпеки встигають реагувати на них. Як підкреслює головний спеціаліст з інформаційної безпеки LinkedIn Ліа Кіснер, галузь зможе зрозуміти безпеку AI на стабільному рівні лише за декілька років.
Проблеми безпеки API та реагування Google
Останнім часом низка розробників Google Cloud зіткнулися з масовими несанкціонованими витратами через атаки на API Gemini. Багато хто дізнався про це лише після отримання рахунків на десятки тисяч доларів. Як з’ясувалося, ключі API, які спочатку використовувалися для Google Maps, стали придатними для доступу до Gemini через зміну політики Google без належного інформування користувачів.
Зокрема, CEO платформи Prentus Род Данан отримав рахунок у понад $10 тисяч за півгодини, а розробник із Сіднея Ісуру Фонсекі — майже на 17 тисяч австралійських доларів, хоча був переконаний, що його рахунок обмежено до $250. Обидва отримали повернення коштів, однак Google не планує змінювати автоматичну політику підвищення лімітів, адже для компанії пріоритетом залишається безперебійна робота сервісів.
Дослідження компанії Aikido показують, що навіть після негайного видалення скомпрометованого ключа API, зловмисники можуть ще протягом 23 хвилин використовувати його через поступове оновлення інформації в інфраструктурі Google. Це створює вікно можливостей для викрадення даних. Новіші ключі, за даними дослідників, відкликаються значно швидше — від п’яти секунд до хвилини.
Таким чином, хоч поради де Соуза і є надзвичайно актуальними, наразі помітний розрив між проголошеними платформами стандартами безпеки та їх фактичною реалізацією. Компаніям варто бути обачними й уважно стежити за власними стратегіями безпеки, адаптуючись до стрімких змін у сфері AI.