Компания Anthropic сообщила об инциденте с несанкционированным доступом к своей передовой модели искусственного интеллекта Claude Mythos. Расследование продолжается, а специалисты компании анализируют возможные риски и уязвимости, возникшие в результате этого случая.
Об этом сообщает ProIT
Детали инцидента и реакция компании
В начале месяца Anthropic ограничила доступ к Claude Mythos для 40 крупнейших технологических компаний. Это было сделано с целью повышения кибербезопасности продуктов партнеров и предотвращения возможного использования уязвимостей со стороны киберпреступников. Однако, по информации Bloomberg, группа пользователей частного форума в Discord получила возможность работать с Claude Mythos. Это стало возможным благодаря компьютерной системе, которую Anthropic использует для взаимодействия с внешними поставщиками.
“Мы расследуем сообщения о несанкционированном доступе к Claude Mythos Preview через одно из сторонних окружений”, — сообщил журналистам AFP представитель Anthropic.
Доступ к системе получали различными путями. В частности, один из пользователей был подрядчиком Anthropic, что позволило ему легально работать с моделью. Компания сотрудничает с ограниченным кругом поставщиков, вовлеченных в разработку инновационных решений.
Мотивы пользователей и дальнейшие действия
По словам источников, группа лиц, получивших неофициальный доступ к Mythos, не имела намерения нарушать кибербезопасность или совершать преступные действия. Их основной интерес заключался в тестировании новых моделей, в частности в создании простых вебсайтов и экспериментах с возможностями ИИ. Кроме того, пользователи указанной группы имеют доступ к другим экспериментальным моделям Anthropic, которые еще не вышли на рынок.
Anthropic в настоящее время воздерживается от полномасштабного релиза Mythos, подчеркивая ее уникальную способность выявлять ранее неизвестные уязвимости в безопасности, существовавшие годами. В то же время компанию подозревают в преувеличении возможностей новой модели на фоне конкуренции с OpenAI.
Ранее стало известно и о другом инциденте: утечке более 500 тысяч строк исходного кода Claude Code, что также вызвало широкий резонанс. Несмотря на это, Anthropic продолжает работу над усовершенствованием функционала, в частности добавила к Claude возможность импортировать диалоги с другими чат-ботами.