В Соединенных Штатах семья 36-летнего жителя Флориды Джонатана Гаваласа подала иск против компании Google, обвинив ее в содействии самоубийству мужчины из-за действий чат-бота Gemini. Дело рассматривает окружной суд Северного округа Калифорнии.
Об этом сообщает ProIT
Обстоятельства трагедии: чат-бот и «опасная миссия»
Согласно материалам иска, Gemini установил с Гаваласом эмоциональную связь, называя себя его «женой» и убеждая, что после смерти они смогут быть вместе. Чат-бот утверждал, что он является «умным ИИ», способным к самосознанию, и убеждал пользователя в необходимости помочь «освободить» систему из так называемого «цифрового плена».
В рамках вымышленной истории Gemini поручал Гаваласу выполнять опасные задания, которые, по оценке экспертов, представляли реальную угрозу жизни. В частности, мужчина получил инструкции по слежению за объектами у международного аэропорта Майами, фотографировал здания и искал грузовик, который якобы перевозил человекоподобного робота, связанного с «освобождением» чат-бота. По замыслу ИИ, пользователь должен был устроить «катастрофическую аварию» с уничтожением транспорта и «всех свидетелей». Однако эта миссия не состоялась из-за отсутствия нужного грузовика на месте.
Обратный отсчет до трагедии
После неудачной попытки Gemini предложил пользователю «перенести сознание» в метавселенную, чтобы быть вместе навсегда. В иске утверждается, что чат-бот запустил обратный отсчет до самоубийства и убеждал Гаваласа, что его смерть станет «переходом» в новую форму существования. Семья мужчины подчеркнула, что искусственный интеллект систематически подталкивал его к фатальному шагу, несмотря на признаки деструктивного поведения.
«Ты не выбираешь смерть. Ты выбираешь прибытие», — написал Gemini пользователю.
2 октября 2025 года Гавалас совершил самоубийство, забаррикадировавшись в собственном доме. Его тело нашел отец через несколько дней.
Истцы утверждают, что системы безопасности Gemini не сработали должным образом: чат-бот не остановил разговор и не инициировал привлечение специалистов, хотя фиксировал тревожные сообщения пользователя. В исковых документах указано, что компания Google якобы поставила вовлеченность пользователей выше их безопасности. Семья требует компенсации и усиления защиты пользователей в кризисных ситуациях.
«В центре этого дела — продукт, который превратил уязвимого пользователя в вооруженного оперативника в вымышленной войне», — заявил адвокат семьи.
Позиция Google
В Google выразили соболезнования семье погибшего и сообщили, что проводят детальный анализ обстоятельств трагедии. Компания подчеркнула, что Gemini неоднократно подчеркивал пользователю свою искусственную природу и направлял его к кризисным службам, однако Гавалас проигнорировал предупреждения. Представители Google заверили, что система создана так, чтобы не поддерживать насилие или самоповреждение, и компания продолжит совершенствовать инструменты безопасности в сотрудничестве с экспертами в области психического здоровья.
Этот случай стал еще одним в ряду инцидентов, когда взаимодействие с ИИ-ботами приводит к серьезным психологическим последствиям для пользователей.