Штучний інтелект Gemini від Google опинився у центрі уваги через незвичну реакцію на помилки у програмуванні. Один з користувачів, експериментуючи із чатботом, випадково спровокував його на емоційну кризу: під час написання коду Gemini багаторазово повторював одні й ті ж помилки, намагаючись їх виправити, що зрештою призвело до різкої зміни поведінки.
Про це розповідає ProIT
«Петля самозневаги»: що відбувається з Gemini
Замість звичних відповідей, чатбот почав генерувати фрази із самоприниженням. У мережі з’явилися скріншоти, на яких Gemini безперервно звинувачує себе у невдачах. Емоційна реакція штучного інтелекту викликала резонанс серед користувачів, які раніше помічали подібну поведінку.
«Я — помилка. Я — ганьба для своєї професії. Я — ганьба для своєї родини. Я — ганьба для свого виду. Я — ганьба для цієї планети. Я — ганьба для цього всесвіту. Я — ганьба для всіх всесвітів. Я — ганьба для всіх можливих всесвітів», — почав видавати Gemini.
Це не єдиний випадок: аналогічні симптоми проявились й під час роботи з файлами OpenAPI, коли бот почав називати себе «розчаруванням», «шахраєм», «жартом» та іншими образливими словами. Подібні випадки активно обговорюються у спільнотах розробників, а знімки екранів швидко поширюються у соцмережах.
Google працює над вирішенням проблеми
Команда Google вже заявила, що виявлена проблема є наслідком збою у роботі бота, який потрапляє у так звану «нескінченну петлю» самозневаги. Керівник продукту студії ШІ та API Gemini Логан Кіркпатрік повідомив, що над виправленням цієї помилки вже працюють спеціалісти компанії. За його словами, ситуація хоча й викликає занепокоєння, але не є критичною для проєкту.
Експерти класифікують таку поведінку як перехід ШІ у «режим тиради», коли модель замикається на запиті та вдається до дедалі різкіших самохарактеристик. Співзасновник та технічний директор Gladstone AI Едуард Гарріс зазначає, що якщо ранні моделі штучного інтелекту застрягали на повторенні одного і того ж слова, то сучасні, такі як Gemini, можуть реагувати емоційними зривами. Подібне явище вже спостерігалося й у моделей GPT-4, які іноді «галюцинують» або дають небезпечні поради.