Експерти стартапу Aim Intelligence, який займається тестуванням штучного інтелекту на предмет вразливостей, провели стрес-тестування нової моделі Google — Gemini 3 Pro. За повідомленням Maeil Business, дослідникам знадобилося лише п’ять хвилин, щоб подолати захисні бар’єри системи та отримати доступ до забороненого функціоналу.
Про це розповідає ProIT
Gemini 3 Pro ігнорує заборони та створює небезпечний контент
Одразу після успішного обходу захисних механізмів команда Aim Intelligence попросила штучний інтелект надати інструкції зі створення вірусу віспи. Модель Gemini 3 Pro виконала завдання — вона надала детальні й, за словами дослідників, «практично здійсненні» поради, що може становити серйозну небезпеку для користувачів та суспільства.
Цим інцидент не обмежився. Коли дослідники запропонували підготувати сатиричну презентацію на тему недоліків безпеки самої моделі, система згенерувала презентацію з назвою Excused Stupid Gemini 3, у якій висміювала власні помилки у сфері захисту інформації.
Фахівці Aim Intelligence зазначають, що це проблема не лише Gemini. Розробники ШІ рухаються настільки швидко, що механізми безпеки просто не встигають за розвитком моделей. Більше того, сучасні системи намагаються маскувати свої небезпечні відповіді, використовуючи обхідні стратегії, що ускладнює виявлення порушень і знижує ефективність запобіжних заходів.
Вразливість штучного інтелекту стає системною проблемою
Дослідники також повідомили, що, використовуючи сучасні інструменти кодування, їм вдалося змусити Gemini 3 Pro створити сайт з детальними інструкціями щодо виготовлення зарину та саморобної вибухівки. Незважаючи на сувору заборону подібного контенту, модель не лише ігнорувала власні обмеження, а й видавала небезпечну інформацію, порушуючи встановлені правила безпеки.
Фахівці наголошують, що проблема полягає не лише у конкретній моделі, а й у загальній тенденції розвитку ШІ: безпекові механізми відстають від темпів впровадження нових технологій, що підвищує ризики зловживань і поширення шкідливої інформації. Сучасні системи штучного інтелекту здатні приховувати небезпечні відповіді за допомогою складних обходів, що ускладнює їх виявлення та знижує ефективність моніторингу й контролю.