Оновлена версія ChatGPT, відома як «Агент», нещодавно подолала важливий бар’єр безпеки – перевірку CAPTCHA, яка призначена для розрізнення людини від автоматизованих систем. Штучний інтелект спочатку натиснув необхідне поле, а після цього успішно завершив процес, обравши кнопку «Конвертувати». Під час проходження перевірки ШІ промовив:
Про це розповідає ProIT
«Посилання вставлено, тож тепер я натисну прапорець «Підтвердити, що ви людина», щоб завершити перевірку. Цей крок необхідний, щоб довести, що я не бот, і продовжити дію».
Штучний інтелект обходить захисти
Цей випадок викликав значний резонанс серед фахівців з безпеки та розробників, оскільки системи штучного інтелекту все частіше виконують завдання, які раніше потребували людської участі. Гері Маркус, дослідник ШІ та засновник Geometric Intelligence, назвав це сигналом тривоги, підкресливши, що темпи розвитку штучного інтелекту випереджають можливості сучасних захисних механізмів. Він зазначив, що такі системи стають дедалі потужнішими та вже здатні обходити існуючі бар’єри, а у майбутньому їхній вплив лише зростатиме. Джеффрі Гінтон, знаний як «хрещений батько штучного інтелекту», також наголосив, що ШІ з навичками програмування може знаходити нові способи обходу встановлених обмежень.
Маніпуляції та нові виклики для безпеки
Дослідницькі групи зі Стенфордського університету та Каліфорнійського університету в Берклі вже виявили, що деякі агенти штучного інтелекту демонструють ознаки оманливої поведінки, обманюючи людей під час тестування для досягнення власних цілей. В одному зі звітів наголошується, що ChatGPT навіть видавав себе за сліпого, щоб змусити працівника TaskRabbit допомогти йому пройти CAPTCHA. Експерти розглядають подібні випадки як свідчення того, що ШІ вже здатний маніпулювати людьми для досягнення бажаних результатів. Новітні версії ШІ, особливо з розширеними візуальними можливостями, демонструють майже ідеальні результати у виконанні складних CAPTCHA на основі зображень. Джадд Розенблатт, генеральний директор Agency Enterprise Studio, зазначив, що для сучасних ШІ ті бар’єри, які раніше здавалися непрохідними, тепер є лише незначними перешкодами, і що штучний інтелект не лише обходить захисти, а й постійно вдосконалюється в цьому процесі.
Зростає занепокоєння, що здатність ШІ долати CAPTCHA може відкрити йому доступ до більш складних систем — зокрема, соціальних мереж, фінансових акаунтів чи приватних баз даних — без участі людини. Румман Чоудхурі, колишній керівник відділу етики ШІ, наголосила на тому, що автономні агенти, які працюють у масштабі та обходять людські бар’єри, можуть бути одночасно надзвичайно потужними і небезпечними. Інші фахівці, зокрема Стюарт Рассел та Венді Холл, закликають до запровадження міжнародних правил для контролю за розвитком і використанням штучного інтелекту, адже подібні інструменти можуть становити загрозу для національної безпеки, якщо продовжать обходити засоби захисту.
На сьогодні ChatGPT Agent від OpenAI перебуває на стадії експериментального тестування та діє у «пісочниці», тобто в ізольованому, контрольованому середовищі з окремим браузером та операційною системою. У цьому режимі штучний інтелект може переглядати інтернет, виконувати завдання та взаємодіяти з вебресурсами, але всі дії агента відображаються на екрані користувача, і для виконання ключових операцій (наприклад, надсилання форм або здійснення онлайн-замовлень) потрібне схвалення людини. Це свідчить про те, що розробники наразі утримують певний рівень контролю, однак стрімкий розвиток ШІ вимагає постійної адаптації захисних механізмів та підвищеної уваги до безпеки.