Штучний інтелект змінює ландшафт кібербезпеки, створюючи як нові можливості для бізнесу, так і серйозні ризики для захисту даних. Про це розповів технічний директор Wiz Амі Луттвак, наголосивши, що індустрія кібербезпеки перебуває на порозі безпрецедентних змін.
Про це розповідає ProIT
AI розширює зони ризику для компаній
Поширення штучного інтелекту в корпоративних процесах — від інтеграції AI-агентів до автоматизації розробки — призвело до збільшення потенційних векторів атак. Згідно з Луттваком, використання AI дозволяє розробникам швидше впроваджувати код, але це часто супроводжується помилками та спрощеннями, що відкриває нові можливості для зловмисників. Проведені Wiz тести показали, що у застосунках, створених із залученням AI, часто виникають проблеми із ненадійною реалізацією аутентифікації користувачів.
“One of the key things to understand about cybersecurity is that it’s a mind game,” Ami Luttwak, chief technologist at cybersecurity firm Wiz, told TechCrunch on a recent episode of Equity. “If there’s a new technology wave coming, there are new opportunities for [attackers] to start using it.”
Водночас, AI використовують не тільки захисники, а й нападники: хакери застосовують prompt-методи, AI-агенти та інші сучасні інструменти для реалізації складних атак. Відомі випадки, коли зловмисники знаходять інтегровані в системи AI-інструменти й дають їм шкідливі інструкції — наприклад, отримати конфіденційні дані чи знищити ключові файли.
Останнім часом зросла кількість атак на внутрішні AI-рішення компаній, що призводить до так званих атак на ланцюг постачання. Злам сторонніх сервісів із широким доступом до корпоративної інфраструктури дозволяє зловмисникам проникати все глибше у системи підприємств.
Реальні кейси: атаки через AI та відповідь Wiz
Минулого місяця стартап Drift, що пропонує AI-чат-боти для продажів та маркетингу, став жертвою зламу. Зловмисники отримали доступ до токенів і використали їх для видавання себе за чат-бот, отримання даних Salesforce та переміщення всередині клієнтських систем, серед яких були Cloudflare, Palo Alto Networks і Google. Для атаки знову ж таки застосовувалися AI-інструменти.
У серпні відбулася ще одна масштабна атака — «s1ingularity» на систему збирання Nx, популярну серед JavaScript-розробників. Хакери впровадили шкідливе ПЗ, яке розпізнавало AI-інструменти типу Claude і Gemini, використовувало їх для автономного сканування та пошуку цінної інформації. В результаті були скомпрометовані тисячі токенів і ключів розробників, а зловмисники отримали доступ до приватних репозиторіїв на GitHub.
Хоча, за словами Луттвака, повна інтеграція AI у великих компаніях ще охоплює лише близько 1% підприємств, Wiz щотижня фіксує масові атаки, що зачіпають тисячі клієнтів. В усіх випадках AI був задіяний на кожному етапі кібернападу, що підкреслює необхідність швидкої адаптації індустрії до нової реальності.
Wiz, заснована у 2020 році, спочатку спеціалізувалася на виявленні конфігураційних помилок та вразливостей у хмарних середовищах. Протягом останнього року компанія розширила функціонал, щоб відповідати темпам AI-атак і впроваджує AI у власних продуктах. Минулого вересня Wiz представила Wiz Code — рішення для захисту життєвого циклу розробки ПЗ, а в квітні — Wiz Defend для виявлення та реагування на активні загрози в хмарі.
Рекомендації для AI-стартапів: безпека з першого дня
Амі Луттвак радить AI-стартапам одразу враховувати питання кіберзахисту. Стартапам не слід без розбору передавати дані компаній і клієнтів кожному новому SaaS-сервісу, навіть якщо він обіцяє «унікальні AI-інсайти». Перш ніж писати перший рядок коду, потрібно мислити як захищена організація: впроваджувати корпоративні стандарти безпеки, журналювання, аутентифікацію, контроль доступу до продакшену, продумувати архітектуру для ізоляції даних клієнта.
Луттвак наголошує, що необхідно призначати CISO (Chief Information Security Officer) з першого дня, навіть якщо у команді лише кілька людей. Він також підкреслює важливість проходження комплаєнсу SOC2 на ранньому етапі — це значно простіше, ніж для великої компанії, і дозволяє закласти фундамент безпеки на майбутнє.
Він рекомендує AI-стартапам, які орієнтуються на корпоративний сегмент, проєктувати архітектуру так, щоб дані клієнтів залишалися у їхньому середовищі. Луттвак підкреслює: сфера кібербезпеки нині відкрита для інновацій — від захисту від фішингу до автоматизації workflow з урахуванням AI-загроз, адже багато команд поки що не знають, як використовувати AI для протидії новим атакам.
“The game is open,” Luttwak said. “If every area of security now has new attacks, then it means we have to rethink every part of security.”