Современные компании сталкиваются с новой волной вызовов в сфере безопасности искусственного интеллекта, и даже такие гиганты, как Google, вынуждены искать оптимальные решения в условиях постоянных изменений. Фрэнсис де Соуза, операционный директор Google Cloud, подчеркивает: вопрос безопасности должен быть фундаментальной частью внедрения ИИ, а не дополнительным шагом.
Об этом сообщает ProIT
Интеграция безопасности и стратегии данных — ключ к защите
По словам де Соуза, компании должны выбирать платформенный подход, когда безопасность, управление и аудит должны быть интегрированы в систему с самого начала. Особое внимание он уделяет явлению «теневого ИИ», когда сотрудники используют сторонние инструменты без контроля со стороны организации. Это создает дополнительные риски утечки данных и нарушения целостности системы.
“Нет такого понятия, как ИИ-стратегия без стратегии данных и стратегии безопасности. Они должны идти вместе”, — отмечает де Соуза.
Он также подчеркивает, что даже при использовании одного облачного провайдера компании часто полагаются на SaaS-решения и партнеров, которые работают с другими облаками. Именно поэтому важно обеспечить единый подход к безопасности независимо от выбранной платформы.
Рост угроз и новые вызовы для защитных систем
Де Соуза обращает внимание на то, что время между начальным проникновением в систему и переходом к следующей фазе атаки сократилось с восьми часов до всего 22 секунд. Кроме того, поверхность атак значительно расширилась: теперь защиты требуют не только классические сети, но и модели искусственного интеллекта, их тренировочные данные, агенты и промпты.
Особую опасность представляют агенты, которые могут находить устаревшие или забытые хранилища данных внутри компании. Это угрожает раскрытием чувствительной информации, которая ранее считалась недоступной.
По мнению де Соуза, организации должны отвечать на угрозы с такой же скоростью, какую демонстрируют машины: “Мы наблюдаем появление AI-native защиты, где агенты сами управляют безопасностью, а люди лишь осуществляют надзор. Это уже вопрос не только технологий, но и лидерства на уровне руководства компании”.
В то же время нехватка специалистов, способных контролировать такие системы, остается острой проблемой. Количество новых уязвимостей, которые появляются из-за внедрения ИИ, растет быстрее, чем команды безопасности успевают реагировать на них. Как подчеркивает главный специалист по информационной безопасности LinkedIn Лиа Киснер, отрасль сможет понять безопасность ИИ на стабильном уровне лишь через несколько лет.
Проблемы безопасности API и реакция Google
В последнее время ряд разработчиков Google Cloud столкнулись с массовыми несанкционированными расходами из-за атак на API Gemini. Многие узнали об этом лишь после получения счетов на десятки тысяч долларов. Как выяснилось, ключи API, которые изначально использовались для Google Maps, стали пригодными для доступа к Gemini из-за изменения политики Google без надлежащего информирования пользователей.
В частности, CEO платформы Prentus Род Данан получил счет на более чем $10 тысяч за полчаса, а разработчик из Сиднея Исура Фонсека — почти на 17 тысяч австралийских долларов, хотя был уверен, что его счет ограничен до $250. Оба получили возврат средств, однако Google не планирует менять автоматическую политику повышения лимитов, так как для компании приоритетом остается бесперебойная работа сервисов.
Исследования компании Aikido показывают, что даже после немедленного удаления скомпрометированного ключа API, злоумышленники могут еще в течение 23 минут использовать его из-за постепенного обновления информации в инфраструктуре Google. Это создает окно возможностей для кражи данных. Новые ключи, по данным исследователей, отзываются значительно быстрее — от пяти секунд до минуты.
Таким образом, хотя советы де Соуза и являются чрезвычайно актуальными, в настоящее время заметен разрыв между провозглашенными платформами стандартами безопасности и их фактической реализацией. Компаниям стоит быть осторожными и внимательно следить за собственными стратегиями безопасности, адаптируясь к стремительным изменениям в сфере ИИ.