Компанія Anthropic пом’якшила обмеження щодо розголошення інформації для користувачів своєї новітньої моделі штучного інтелекту Claude Mythos Preview. Раніше для участі у тестуванні цієї моделі потрібно було підписувати угоду про нерозголошення, а доступ отримували лише обрані VIP-персони у рамках так званого Project Glasswing — до нього, за чутками, входило лише близько 50 компаній та організацій. Мета учасників проєкту полягала у виявленні вразливостей у системі безпеки, а сувора секретність тримала спільноту у напрузі.
Про це розповідає ProIT
Тиск політиків і зміна правил
Очікування щодо збереження таємності викликали критику з боку американських законодавців. Як стало відомо, член Палати представників Джош Готтхаймер надіслав листа до Anthropic, наголошуючи, що обмеження на інформування про кіберзагрози можуть завадити своєчасному попередженню інших компаній про ризики та координації заходів з протидії їм. У відповідь компанія переглянула підходи до обміну результатами тестування.
«Жодна організація не повинна бути обмежена контрактом від попередження інших, координації заходів щодо пом’якшення наслідків чи інформування відповідних та довірених зацікавлених сторін про термінові кіберриски», — написав Готтхаймер.
Конкуренція та перші відкриті відгуки
Тиждень тому OpenAI, головний конкурент Anthropic, презентував власну програму Daybreak, яка, на відміну від Glasswing, одразу була відкритою для широкого кола компаній. Користувачі можуть швидко подати заявку і запросити перевірку свого коду для забезпечення кібербезпеки за допомогою новітньої моделі OpenAI. Генеральний директор компанії Сем Альтман заявив у соцмережі X про бажання співпрацювати з якомога більшою кількістю компаній просто зараз.
Після пом’якшення політики секретності Anthropic, деякі учасники тестування вже публічно діляться своїми спостереженнями. Грант Бурзікас, головний спеціаліст з безпеки компанії Cloudflare, у блозі розповів про власний досвід використання Claude Mythos Preview. Він зазначив, що модель схожа на інші великі мовні моделі для пошуку багів, але має унікальну здатність об’єднувати малозначущі вразливості, які раніше залишалися б поза увагою.
У підсумку, Claude Mythos Preview поступово втрачає свою таємничість. Відтепер користувачі отримали змогу вільніше ділитися ключовою інформацією про результати тестування, що дозволяє ширшому колу організацій підвищувати рівень кібербезпеки завдяки сучасним інструментам штучного інтелекту.