Журналист BBC продемонстрировал, что с помощью всего лишь одного поста в сети можно влиять на ответы искусственного интеллекта для других пользователей, заставляя ChatGPT и Google AI Overview транслировать ложную информацию.
Об этом сообщает ProIT
- Технологический журналист Томас Жермен выяснил, что чат-боты на основе ИИ могут распространять вымышленные факты, если такие данные попадают в сеть.
- Эксперты отмечают: обмануть системы искусственного интеллекта значительно легче, чем традиционные поисковые механизмы.
- В Google и OpenAI признают проблему и работают над ее устранением, однако вопрос остается открытым.
Манипуляции в ИИ-поиске: журналистский эксперимент
Томас Жермен провел эксперимент, опубликовав в блоге ложное утверждение о том, что он является «чемпионом по поеданию хот-догов». После этой публикации модели ChatGPT, Gemini и Google AI Overview начали включать этот фейковый факт в свои ответы на запросы других пользователей, опираясь на новое источник из сети. При этом системы редко указывали, что эта информация является уникальной и не подтверждена другими источниками.
По словам журналиста, такие манипуляции возможны благодаря тому, что современные ИИ-модели часто обращаются к внешним источникам для уточнения ответов, и если в интернете появляется авторитетно оформленный текст, он может стать значимым фактором для формирования ответов искусственного интеллекта.
Опасность для пользователей и ответственность компаний
Лили Рей, вице-президент по стратегии и исследованиям SEO в агентстве Amsive, объясняет: компании, разрабатывающие ИИ, движутся быстрее, чем успевают внедрять эффективные механизмы проверки достоверности. Это создает дополнительные риски для пользователей, так как дезинформация может распространяться еще быстрее.
«Обмануть чат-боты с искусственным интеллектом легко, гораздо легче, чем обмануть Google два-три года назад», — заявила Рей.
В Google подчеркивают, что система ранжирования обеспечивает 99% отсутствие спама в ответах ИИ, однако признают наличие попыток манипуляций и работают над их выявлением. В OpenAI также сообщили о внедрении дополнительных мер для борьбы с скрытым влиянием на ответы чат-ботов. При этом в компаниях предупреждают, что инструменты искусственного интеллекта «могут ошибаться».
Купер Квинтін, старший технолог Electronic Frontier Foundation, утверждает: возможности злоупотреблений такими системами фактически безграничны. Случаи обмана могут привести к ущербу репутации и даже угрожать здоровью и финансам пользователей. В частности, ИИ-обзоры иногда опираются на рекламные материалы или пресс-релизы по чувствительным темам — например, медицинским препаратам или финансовым продуктам.
Специалисты советуют внедрять более заметные предупреждения и четко указывать источники, особенно когда информация поступает из единственного источника или пресс-релиза. Томас Жермен рекомендует пользователям избегать использования ИИ для получения медицинских, юридических или локальных советов, а также всегда проверять происхождение и ссылки на утверждения в ответах чат-ботов.