Компания Anthropic смягчила ограничения на раскрытие информации для пользователей своей новейшей модели искусственного интеллекта Claude Mythos Preview. Ранее для участия в тестировании этой модели необходимо было подписывать соглашение о неразглашении, а доступ получали лишь избранные VIP-персоны в рамках так называемого Project Glasswing — по слухам, в него входило всего около 50 компаний и организаций. Цель участников проекта заключалась в выявлении уязвимостей в системе безопасности, а строгая конфиденциальность держала сообщество в напряжении.
Об этом сообщает ProIT
Давление политиков и изменение правил
Ожидания по поводу сохранения тайны вызвали критику со стороны американских законодателей. Как стало известно, член Палаты представителей Джош Готтхаймер отправил письмо в Anthropic, подчеркивая, что ограничения на информирование о киберугрозах могут помешать своевременному предупреждению других компаний о рисках и координации мер по противодействию им. В ответ компания пересмотрела подходы к обмену результатами тестирования.
«Никакая организация не должна быть ограничена контрактом в предупреждении других, координации мер по смягчению последствий или информировании соответствующих и доверенных заинтересованных сторон о срочных киберрисках», — написал Готтхаймер.
Конкуренция и первые открытые отзывы
Неделю назад OpenAI, главный конкурент Anthropic, представила свою программу Daybreak, которая, в отличие от Glasswing, сразу была открыта для широкого круга компаний. Пользователи могут быстро подать заявку и запросить проверку своего кода для обеспечения кибербезопасности с помощью новейшей модели OpenAI. Генеральный директор компании Сем Альтман заявил в соцсети X о желании сотрудничать с как можно большим количеством компаний прямо сейчас.
После смягчения политики конфиденциальности Anthropic некоторые участники тестирования уже публично делятся своими наблюдениями. Грант Бурзикас, главный специалист по безопасности компании Cloudflare, в блоге рассказал о собственном опыте использования Claude Mythos Preview. Он отметил, что модель похожа на другие большие языковые модели для поиска багов, но имеет уникальную способность объединять малозначительные уязвимости, которые ранее оставались бы вне внимания.
В итоге, Claude Mythos Preview постепенно теряет свою таинственность. Теперь пользователи получили возможность свободнее делиться ключевой информацией о результатах тестирования, что позволяет более широкому кругу организаций повышать уровень кибербезопасности благодаря современным инструментам искусственного интеллекта.