Эксперты по кибербезопасности компании HiddenLayer выявили новую угрозу для инструментов искусственного интеллекта: атака CopyPasta License Attack может поставить под угрозу такие компании, как Coinbase, если не будут внедрены дополнительные меры безопасности.
Об этом сообщает ProIT
Как работает атака CopyPasta License
Специалисты предупредили, что злоумышленники способны внедрять вредоносный код в файловые комментарии, в частности в README.md или LICENSE.txt. ШИ-ассистенты воспринимают эти документы как надежные источники, что позволяет атаке распространяться автоматически. В результате возникает цепная реакция среди инфицированных инструментов, которые взаимодействуют с зараженными файлами.
«Введенный код может создать “задние двери”, незаметно похищать конфиденциальные данные или манипулировать важными файлами», — предупредили в HiddenLayer.
Исследователи отмечают, что любой ШИ-ассистент, который читает такие файлы, может быть скомпрометирован, а зараженные элементы становятся векторами для последующих атак. Это делает CopyPasta License Attack похожей на самораспространяющийся вирус в экосистеме разработки.
Уязвимость в Cursor, который активно используется в Coinbase
Особое внимание специалистов привлекла атака на Cursor — ШИ-инструмент, который в августе Coinbase признала основным для своих разработчиков. Тогда компания настаивала на обязательном использовании Cursor всеми инженерами и даже увольняла тех, кто отказывался от этой практики. По словам генерального директора Coinbase Брайана Армстронга, уже до 40% кода биржи написано ШИ, и этот показатель планируют повысить до 50% в ближайший месяц. В то же время он подчеркнул, что ШИ применяется преимущественно для менее критичных элементов, а «сложные и критически важные для системы системы» внедряются с повышенной осторожностью.
HiddenLayer рекомендует организациям тщательно проверять все файлы на наличие скрытых комментариев и вручную просматривать изменения, сгенерированные искусственным интеллектом. Эксперты советуют внимательно относиться ко всем данным, которые попадают в контексты больших языковых моделей, подчеркивая потенциальную опасность таких данных.
«Все ненадежные данные, поступающие в контексты LLM [больших языковых моделей], следует рассматривать как потенциально вредоносные».
Ранее исследователи ReversingLabs сообщали, что хакеры используют смарт-контракты Ethereum для скрытой передачи вредоносных команд в зараженных NPM-пакетах, распространяя их через GitHub и обходя классические средства защиты.