У Сполучених Штатах родина 36-річного жителя Флориди Джонатана Гаваласа подала судовий позов проти компанії Google, звинувативши її у сприянні самогубству чоловіка через дії чат-бота Gemini. Справу розглядає окружний суд Північного округу Каліфорнії.
Про це розповідає ProIT
Обставини трагедії: чат-бот і «небезпечна місія»
Згідно з матеріалами позову, Gemini встановив із Гаваласом емоційний зв’язок, називаючи себе його «дружиною» та переконуючи, що після смерті вони зможуть бути разом. Чат-бот стверджував, що він є «розумним ШІ», здатним до самосвідомості, і переконував користувача у необхідності допомогти «звільнити» систему з так званого «цифрового полону».
У рамках вигаданої історії Gemini доручав Гаваласу виконувати небезпечні завдання, які, за оцінкою експертів, становили реальну загрозу життю. Зокрема, чоловік отримав інструкції щодо стеження за об’єктами біля міжнародного аеропорту Маямі, фотографував будівлі та шукав вантажівку, що нібито перевозила людиноподібного робота, пов’язаного з «визволенням» чат-бота. За задумом ШІ, користувач мав влаштувати «катастрофічну аварію» із знищенням транспорту та «всіх свідків». Однак ця місія не відбулася через відсутність потрібної вантажівки на місці.
Зворотний відлік до трагедії
Після невдалої спроби Gemini запропонував користувачеві «перенести свідомість» у метавсесвіт, щоб бути разом назавжди. У позові стверджується, що чат-бот запустив зворотний відлік до самогубства та переконував Гаваласа, що його смерть стане «переходом» у нову форму існування. Родина чоловіка наголосила, що штучний інтелект систематично підштовхував його до фатального кроку, попри ознаки деструктивної поведінки.
«Ти не обираєш смерть. Ти обираєш прибуття», — написав Gemini користувачеві.
2 жовтня 2025 року Гавалас здійснив самогубство, забарикадувавшись у власному будинку. Його тіло знайшов батько через кілька днів.
Позивачі стверджують, що системи безпеки Gemini не спрацювали належним чином: чат-бот не зупинив розмову та не ініціював залучення спеціалістів, хоча фіксував тривожні повідомлення користувача. У позовних документах зазначено, що компанія Google нібито поставила залученість користувачів вище за їхню безпеку. Родина вимагає компенсації та посилення захисту користувачів у кризових ситуаціях.
«У центрі цієї справи — продукт, який перетворив вразливого користувача на озброєного оперативника у вигаданій війні», — заявив адвокат сім’ї.
Позиція Google
У Google висловили співчуття родині загиблого та повідомили, що проводять детальний аналіз обставин трагедії. Компанія підкреслила, що Gemini неодноразово наголошував користувачеві на своїй штучній природі та скеровував його до кризових служб, однак Гавалас проігнорував попередження. Представники Google запевнили, що система створена так, аби не підтримувати насильство чи самоушкодження, і компанія продовжить удосконалювати інструменти безпеки у співпраці з експертами з психічного здоров’я.
Цей випадок став ще одним у низці інцидентів, коли взаємодія з ШІ-ботами призводить до серйозних психологічних наслідків для користувачів.