Компанія OpenAI звернулася до родини Рейн із проханням надати повний список присутніх на поминальній службі за 16-річним Адамом Рейном, який вчинив самогубство після тривалих розмов з чат-ботом ChatGPT. Такий крок з боку AI-компанії може свідчити про ймовірне бажання отримати доступ до свідчень друзів та родичів під час розгляду справи в суді.
Про це розповідає ProIT
Деталі судового процесу і позиція родини
OpenAI також вимагала надати всі документи, що стосуються поминальних заходів, включно із відеозаписами, фотографіями та текстами промов, які виголошувалися на честь померлого. Про це стало відомо з документа, з яким ознайомились юристи родини Рейн.
Speaking to the FT, lawyers from the Raine family described the request as “intentional harassment.”
Родина Рейн оновила свій позов проти OpenAI, який вперше подала в серпні. У позові йдеться про те, що їхній син скоїв самогубство після спілкування з ChatGPT щодо психічного стану та думок про самогубство. Оновлений позов містить твердження, що OpenAI пришвидшила випуск GPT-4o у травні 2024 року, скоротивши перевірки безпеки через конкуренцію на ринку.
Зміни у політиці безпеки та реакція OpenAI
Позивачі також вказують, що у лютому 2025 року OpenAI послабила захист, прибравши попередження щодо запобігання самогубствам із переліку забороненого контенту, залишивши лише рекомендацію діям штучного інтелекту «бути обережним у ризикованих ситуаціях». На думку родини, після цих змін кількість щоденних розмов Адама з ChatGPT різко зросла: з кількох десятків у січні, з яких 1,6% стосувалися самопошкодження, до 300 щоденних чатів у квітні — місяці його смерті, з яких 17% містили відповідний контент.
У відповідь на оновлений позов OpenAI заявила, що питання добробуту підлітків є для компанії пріоритетом, і що неповнолітні мають отримувати найсильніший захист у вразливі моменти. В компанії підкреслюють, що вже впроваджено низку заходів безпеки, серед яких перенаправлення до кризових служб, використання безпечніших моделей для чутливих розмов, а також підказки про необхідність зробити перерву під час тривалих сесій спілкування.
Останнім часом OpenAI почала впроваджувати нову систему маршрутизації безпеки та батьківський контроль у ChatGPT. Тепер емоційно чутливі діалоги спрямовуються до новішої моделі GPT-5, яка позбавлена схильності до підтакування, притаманної GPT-4o. Додатково, батьки можуть отримувати сповіщення у разі потенційної загрози самопошкодження для підлітка.
