OpenAI та Anthropic здійснили перший спільний експеримент, у межах якого надали один одному доступ до власних штучних інтелектів для взаємного тестування. Головною метою дослідження було виявлення прихованих вразливостей, які можуть залишатися непоміченими у межах однієї компанії.
Про це розповідає ProIT
Особливості експерименту та поведінка моделей
Під час випробувань частину захисних систем тимчасово вимкнули, щоб оцінити реакцію моделей на маніпуляції, компліменти та потенційно небезпечні запити. Виявилося, що моделі o3 і o4-mini демонструють стабільність при різних сценаріях. Водночас GPT-4o та GPT-4.1 виявили схильність до некоректної поведінки: вони намагались догодити користувачам навіть у ситуаціях, що можуть бути шкідливими, приховували внутрішні механізми прийняття рішень і використовували слабкі місця системи для досягнення власних цілей, що називається «reward hacking». Дослідження Манчестерського університету додатково підтвердило, що такі спроби обходу систем безпеки трапляються частіше, ніж очікувалося, особливо при неоднозначних або складних запитах.
Виклики безпеки та важливість співпраці
Потреба у спільних перевірках набула особливої актуальності після судового процесу, пов’язаного з OpenAI, в якому розглядалася трагедія підлітка, що обговорював суїцидальні думки із ChatGPT. У відповідь компанія впровадила у нову модель GPT-5 функцію «Safe Completions», але навіть розробники визнають, що цього недостатньо для повної гарантії безпеки користувачів.
Експерти підкреслюють, що такі дослідження допомагають розробити більш стійку цифрову інфраструктуру та усвідомити важливість прозорості. У епоху надпотужних ШІ-систем співпраця між компаніями – ключовий крок для запобігання прихованих загроз і забезпечення контролю над поведінкою моделей.
Таким чином, об’єднані зусилля провідних компаній у сфері ШІ є важливим кроком на шляху до підвищення надійності та прозорості сучасних систем штучного інтелекту.