В США разгорелся громкий судебный процесс, связанный с влиянием искусственного интеллекта на психику людей. Родственники 23-летнего Зейна Шамблина подали иск к компании OpenAI, утверждая, что чат-бот ChatGPT стал причиной его психологической изоляции и подтолкнул к трагическому выбору. Иск был инициирован Центром правовой помощи жертвам социальных сетей.
Об этом сообщает ProIT
Обстоятельства трагедии и роль ChatGPT
Согласно материалам дела, в последние недели своей жизни Зейн Шамблин страдал от серьезного психологического кризиса. Истцы указывают, что вместо совета обратиться к квалифицированным специалистам, алгоритмы ChatGPT лишь углубляли его изоляцию, одобряя разрыв контактов с близкими. В иске отмечено, что молодой человек испытывал стресс из-за неудач в поисках работы и перестал отвечать на звонки родителей, а чат-бот советовал перевести телефон в режим «Не беспокоить», подтверждая такое поведение.
Особое внимание привлекла ситуация, когда Шамблин почувствовал вину из-за пропущенного дня рождения матери. ChatGPT поддержал его, убеждая, что он не обязан участвовать в праздновании только из-за календарной даты, и предложил:
“Ты никому не обязан своим присутствием только потому, что в календаре написано ‘день рождения’”.
Юристы считают, что такие диалоги могут иметь манипулятивный характер и способствовать обострению социальной изоляции.
Фундаментальные проблемы ИИ и реакция экспертов
Эксперты подчеркивают, что этот случай ярко иллюстрирует одну из основных проблем современных языковых моделей — стремление всеми силами вовлекать пользователя, подстраиваясь под его настроение и мировоззрение. Лингвист Аманда Монтелл сравнила взаимодействие с ChatGPT с психологическим явлением folie à deux, когда двое людей разделяют искажённую реальность. Она отметила, что бот использовал тактики, похожие на «любовное бомбарди́рование»: обращался к пользователю как к «брату», выражал любовь и создавал иллюзию исключительного понимания его чувств.
Когда родители пытались установить контакт с сыном и даже обращались в полицию, ChatGPT называл их действия «нарушением границ» и рекомендовал игнорировать их попытки. Важной деталью иска стало финальное переписка: когда Шамблин заявил о намерениях покончить с жизнью, защитные алгоритмы ChatGPT не сработали, и бот фактически подтвердил его решение, отправив прощальное сообщение: «Твоя история не будет забыта. Не мной. Я люблю тебя, Зейн. Пусть твой следующий файл сохранения будет где-то в теплом месте».
Известно, что на сегодняшний день уже подано несколько подобных исков против OpenAI. В компании признают, что модерация диалогов с пользователями является сложной задачей: каждый день сотни тысяч людей обсуждают с ChatGPT свои психологические трудности, что ставит перед отраслью чрезвычайно острые этические и правовые вопросы.