Один із популярних проєктів штучного інтелекту LiteLLM, створений випускниками Y Combinator, опинився в центрі масштабного інциденту з кібербезпеки після виявлення небезпечного шкідливого програмного забезпечення у своїй відкритій інфраструктурі.
Про це розповідає ProIT
Масштаб ураження та шлях проникнення
LiteLLM — це сервіс, який дозволяє розробникам легко підключатися до сотень AI-моделей та керувати витратами. За даними аналітиків, лише за добу продукт завантажували до 3,4 мільйона разів, а на GitHub він зібрав понад 40 тисяч «зірок» і тисячі форків. Шкідливий код був виявлений науковцем Каллумом Макмахоном із FutureSearch, коли його власний комп’ютер вимкнувся після встановлення LiteLLM. Причиною став так званий «залежний» компонент — стороннє відкрито програмне забезпечення, яке використовував проєкт. Цей компонент викрадав облікові дані користувачів, поширюючи шкідливе ПЗ на інші пакети та облікові записи, щоб отримати ще більше паролів.
Макмахон зауважив, що специфічна помилка у самому шкідливому коді призвела до аварійного завершення роботи його машини, що допомогло вчасно виявити загрозу. Відомий дослідник Андрій Карпати також звернув увагу на низьку якість написання шкідника, припустивши, що це була «кодерська імпровізація».
Сертифікація безпеки та репутаційна криза
Розробники LiteLLM активно працювали над розв’язанням проблеми, і, за попередньою оцінкою, шкідливе ПЗ було ідентифіковано та заблоковано протягом кількох годин після потрапляння у систему. Водночас увагу спільноти привернула інформація на офіційному сайті LiteLLM: проєкт має сертифікації безпеки SOC2 та ISO 27001, які забезпечила стартап-компанія Delve.
Delve — це стартап із Y Combinator, який спеціалізується на автоматизації перевірок відповідності стандартам безпеки з використанням AI. Однак компанію звинувачують у тому, що вона нібито вводила клієнтів в оману стосовно реальної відповідності, генерувала фальшиві дані й користувалася послугами аудиторів, які поверхнево схвалювали звіти. Водночас Delve всі ці звинувачення категорично заперечує.
“Our current priority is the active investigation alongside Mandiant. We are committed to sharing the technical lessons learned with the developer community once our forensic review is complete,” — зазначив генеральний директор LiteLLM Крріш Дхолакія.
Варто зазначити, що отримання сертифікатів SOC2 та ISO 27001 формально підтверджує лише наявність політик безпеки, але не гарантує повного захисту від інцидентів, зокрема від проникнення шкідливого ПЗ через залежності. Інженер Гергелі Орос у соцмережах так прокоментував ситуацію: “Oh damn, I thought this WAS a joke. … but no, LiteLLM *really* was ‘Secured by Delve.'”
Керівництво LiteLLM наразі не дає коментарів щодо використання сервісу Delve, зосередившись на усуненні наслідків атаки та спільному розслідуванні з компанією Mandiant. Розробники обіцяють поділитися технічними висновками зі спільнотою після завершення експертизи.