Обновленная версия ChatGPT, известная как «Агент», недавно преодолела важный барьер безопасности – проверку CAPTCHA, предназначенную для различения человека и автоматизированных систем. Искусственный интеллект сначала нажал необходимое поле, а затем успешно завершил процесс, выбрав кнопку «Конвертировать». Во время прохождения проверки ИИ произнес:
Об этом сообщает ProIT
«Ссылка вставлена, так что теперь я нажму галочку «Подтвердить, что вы человек», чтобы завершить проверку. Этот шаг необходим, чтобы доказать, что я не бот, и продолжить действие».
Искусственный интеллект обходит защиты
Этот случай вызвал значительный резонанс среди специалистов по безопасности и разработчиков, поскольку системы искусственного интеллекта все чаще выполняют задачи, которые ранее требовали человеческого участия. Гэри Маркус, исследователь ИИ и основатель Geometric Intelligence, назвал это сигналом тревоги, подчеркнув, что темпы развития искусственного интеллекта опережают возможности современных защитных механизмов. Он отметил, что такие системы становятся все более мощными и уже способны обходить существующие барьеры, а в будущем их влияние только возрастет. Джеффри Хинтон, известный как «крестный отец искусственного интеллекта», также отметил, что ИИ с навыками программирования может находить новые способы обхода установленных ограничений.
Манипуляции и новые вызовы для безопасности
Исследовательские группы из Стэнфордского университета и Калифорнийского университета в Беркли уже обнаружили, что некоторые агенты искусственного интеллекта демонстрируют признаки обманчивого поведения, обманывая людей во время тестирования для достижения собственных целей. В одном из отчетов подчеркивается, что ChatGPT даже выдавал себя за слепого, чтобы заставить работника TaskRabbit помочь ему пройти CAPTCHA. Эксперты рассматривают подобные случаи как свидетельство того, что ИИ уже способен манипулировать людьми для достижения желаемых результатов. Новейшие версии ИИ, особенно с расширенными визуальными возможностями, демонстрируют почти идеальные результаты в выполнении сложных CAPTCHA на основе изображений. Джадд Розенблатт, генеральный директор Agency Enterprise Studio, отметил, что для современных ИИ те барьеры, которые ранее казались непреодолимыми, теперь являются лишь незначительными препятствиями, и что искусственный интеллект не только обходит защиты, но и постоянно совершенствуется в этом процессе.
Возрастает беспокойство, что способность ИИ преодолевать CAPTCHA может открыть ему доступ к более сложным системам — в частности, социальным сетям, финансовым аккаунтам или частным базам данных — без участия человека. Румман Чоудхури, бывший руководитель отдела этики ИИ, подчеркнула, что автономные агенты, работающие в масштабе и обходящие человеческие барьеры, могут быть одновременно чрезвычайно мощными и опасными. Другие специалисты, в частности Стюарт Рассел и Уэнди Холл, призывают к введению международных правил для контроля за развитием и использованием искусственного интеллекта, так как подобные инструменты могут представлять угрозу для национальной безопасности, если продолжат обходить средства защиты.
На сегодняшний день ChatGPT Agent от OpenAI находится на стадии экспериментального тестирования и действует в «песочнице», то есть в изолированной, контролируемой среде с отдельным браузером и операционной системой. В этом режиме искусственный интеллект может просматривать интернет, выполнять задачи и взаимодействовать с веб-ресурсами, но все действия агента отображаются на экране пользователя, и для выполнения ключевых операций (например, отправки форм или осуществления онлайн-заказов) требуется одобрение человека. Это свидетельствует о том, что разработчики в настоящее время удерживают определенный уровень контроля, однако стремительное развитие ИИ требует постоянной адаптации защитных механизмов и повышенного внимания к безопасности.