Компания OpenAI обратилась к семье Рейн с просьбой предоставить полный список присутствующих на поминальной службе по 16-летнему Адаму Рейну, который совершил самоубийство после длительных разговоров с чат-ботом ChatGPT. Такой шаг со стороны AI-компании может свидетельствовать о вероятном желании получить доступ к свидетельствам друзей и родственников во время рассмотрения дела в суде.
Об этом сообщает ProIT
Детали судебного процесса и позиция семьи
OpenAI также потребовала предоставить все документы, касающиеся поминальных мероприятий, включая видеозаписи, фотографии и тексты речей, произнесенных в честь покойного. Об этом стало известно из документа, с которым ознакомились юристы семьи Рейн.
Говоря с FT, юристы семьи Рейн описали запрос как «умышленное преследование».
Семья Рейн обновила свой иск против OpenAI, который была подан в августе. В иске говорится о том, что их сын совершил самоубийство после общения с ChatGPT о психическом состоянии и мыслях о самоубийстве. Обновленный иск содержит утверждение, что OpenAI ускорила выпуск GPT-4o в мае 2024 года, сократив проверки безопасности из-за конкуренции на рынке.
Изменения в политике безопасности и реакция OpenAI
Истцы также указывают, что в феврале 2025 года OpenAI ослабила защиту, убрав предупреждения о предотвращении самоубийств из списка запрещенного контента, оставив лишь рекомендацию действиям искусственного интеллекта «быть осторожным в рискованных ситуациях». По мнению семьи, после этих изменений количество ежедневных разговоров Адама с ChatGPT резко возросло: с нескольких десятков в январе, из которых 1,6% касались самоповреждения, до 300 ежедневных чатов в апреле — месяце его смерти, из которых 17% содержали соответствующий контент.
В ответ на обновленный иск OpenAI заявила, что вопрос благополучия подростков является для компании приоритетом, и что несовершеннолетние должны получать наивысшую защиту в уязвимые моменты. В компании подчеркивают, что уже внедрено ряд мер безопасности, среди которых перенаправление к кризисным службам, использование более безопасных моделей для чувствительных разговоров, а также подсказки о необходимости сделать перерыв во время длительных сессий общения.
В последнее время OpenAI начала внедрять новую систему маршрутизации безопасности и родительского контроля в ChatGPT. Теперь эмоционально чувствительные диалоги направляются к более новой модели GPT-5, которая лишена склонности к потаканию, присущей GPT-4o. Дополнительно, родители могут получать уведомления в случае потенциальной угрозы самоповреждения для подростка.
