Журналіст BBC продемонстрував, що за допомогою лише одного допису у мережі можна впливати на відповіді штучного інтелекту для інших користувачів, змушуючи ChatGPT та Google AI Overview транслювати неправдиву інформацію.
Про це розповідає ProIT
- Технологічний журналіст Томас Жермен виявив, що чат-боти на основі ШІ можуть поширювати вигадані факти, якщо такі дані потрапляють до мережі.
- Експерти зазначають: обдурити системи штучного інтелекту значно легше, ніж традиційні пошукові механізми.
- У Google та OpenAI визнають проблему та працюють над її усуненням, однак питання залишається відкритим.
Маніпуляції у ШІ-пошуку: журналістський експеримент
Томас Жермен провів експеримент, опублікувавши у блозі неправдиве твердження про те, що він є «чемпіоном із поїдання хотдогів». Після цієї публікації моделі ChatGPT, Gemini та Google AI Overview почали включати цей фейковий факт у свої відповіді на запити інших користувачів, спираючись на нове джерело з мережі. При цьому системи рідко вказували, що ця інформація є унікальною та не підтверджена іншими джерелами.
За словами журналіста, такі маніпуляції можливі завдяки тому, що сучасні ШІ-моделі часто звертаються до зовнішніх джерел для уточнення відповідей, і якщо в інтернеті з’являється авторитетно оформлений текст, він може стати вагомим фактором для формування відповідей штучного інтелекту.
Небезпека для користувачів та відповідальність компаній
Лілі Рей, віцепрезидентка зі стратегії та досліджень SEO в агенції Amsive, пояснює: компанії, що розробляють ШІ, рухаються швидше, ніж встигають впроваджувати ефективні механізми перевірки достовірності. Це створює додаткові ризики для користувачів, адже дезінформація може поширюватися ще швидше.
«Обдурити чат-боти зі штучним інтелектом легко, набагато легше, ніж обдурити Google два-три роки тому», — заявила Рей.
У Google наголошують, що система ранжування забезпечує 99% відсутності спаму у відповідях ШІ, однак визнають наявність спроб маніпуляцій і працюють над їхнім виявленням. У OpenAI також повідомили про впровадження додаткових заходів для боротьби із прихованим впливом на відповіді чат-ботів. При цьому у компаніях попереджають, що інструменти штучного інтелекту «можуть помилятися».
Купер Квінтін, старший технолог Electronic Frontier Foundation, стверджує: можливості зловживань такими системами фактично безмежні. Випадки обману можуть призвести до шкоди репутації та навіть загрожувати здоров’ю й фінансам користувачів. Зокрема, ШІ огляди іноді спираються на рекламні матеріали або пресрелізи щодо чутливих тем — наприклад, медичних препаратів чи фінансових продуктів.
Фахівці радять впроваджувати більш помітні попередження та чітко вказувати джерела, особливо коли інформація походить з єдиного джерела або пресрелізу. Томас Жермен рекомендує користувачам уникати використання ШІ для отримання медичних, юридичних чи локальних порад, а також завжди перевіряти походження та посилання на твердження у відповідях чат-ботів.