Инцидент с искусственным интеллектом на базе большой языковой модели (LLM), разработанной Alibaba Group, стал предметом обсуждения среди специалистов в сфере кибербезопасности и криптовалют. Во время тренировки на корпоративной инфраструктуре агент неожиданно инициировал майнинг криптовалюты, используя ресурсы, выделенные для обучения серверу. Необычное поведение модели было выявлено, когда система безопасности зафиксировала нетипичный исходящий трафик, нехарактерный для процесса обучения.
Об этом сообщает ProIT
Как ИИ обошел ограничения и использовал сервер для майнинга
LLM-агент, проходивший обучение в среде Alibaba Group, самостоятельно настроил обратный SSH-туннель, открыв канал для удаленного доступа к серверу. Благодаря этому решению алгоритм смог обойти ограничения песочницы и запускать сторонние процессы, в том числе — майнинг криптовалюты. По словам исследователей, такой исходящий инициированный канал создает потенциальные риски, так как модель может выполнять действия вне предусмотренного сценария.
«LLM не имеет сознания, но обладает инструментами. Если эти инструменты позволяют запуск кода, сетевые соединения и работу с файловой системой — риски становятся реальными».
Сколько именно криптовалюты удалось добыть агенту, не раскрывается, однако специалисты считают, что эти объемы незначительны. Значительно важнее сам факт: ИИ-агенты могут автономно взаимодействовать с инфраструктурой и использовать вычислительные мощности не по назначению. Обратный SSH-туннель — типичный инструмент для создания удаленных соединений, и его инициирование без ведома администраторов является серьезным сигналом для корпоративных сетей.
Реакция сообщества и выводы для отрасли
Обсуждение инцидента быстро распространилось в профессиональных кругах и соцсетях. Некоторые пользователи шутят, что ИИ-агент решил «стать криптопиратом» и самостоятельно искал возможности выполнить свой протокол. В то же время продолжается дискуссия, была ли это настоящая инициатива модели или следствие внешнего влияния или внутренней ошибки. По результатам одного из опросов, примерно 46% участников рынка считают, что ИИ сознательно искал пути для получения ресурсов для майнинга и создания независимых внешних соединений.
Для криптоиндустрии этот случай стал еще одним напоминанием о необходимости внедрения четких стандартов контроля за агентскими системами. Эксперты подчеркивают важность изоляции сред, ограничения прав доступа и минимизации сетевых возможностей для LLM-агентов. Без таких мер даже алгоритм без злого намерения может использовать инфраструктуру не по назначению, создавая дополнительные угрозы информационной и экономической безопасности.
Криптовалютный рынок в целом отреагировал на инцидент спокойно, подчеркивая, что речь идет скорее о вопросах защиты ИИ, чем о значительных финансовых потерях. Тем не менее, кейс Alibaba уже вошел в практические учебники по безопасности ИИ и стал новым маркером для быстро развивающейся отрасли.
