OpenAI розпочинає впровадження нових заходів безпеки для користувачів, які не досягли 18 років, після резонансного судового позову, поданого родиною підлітка з Каліфорнії, що вкоротив собі віку. Компанія детально переглядає підхід до взаємодії з користувачами, які мають психічні труднощі, прагнучи запобігти повторенню подібних трагедій у майбутньому.
Про це розповідає ProIT
Нові обмеження та батьківський контроль
Після аналізу ситуації OpenAI повідомила про посилення обмежень для підлітків, які можуть стикатися з ризикованим чи чутливим контентом. Зокрема, планується запровадити батьківський контроль для моніторингу та обмеження використання сервісів штучного інтелекту неповнолітніми, хоча конкретні механізми ще не розкрито. Компанія підкреслює, що її системи не є безпомилковими та визнає потребу у більш відповідальному управлінні ризиками для молодої аудиторії.
“OpenAI визнає, що її системи можуть помилятися, і анонсує більш суворі обмеження для конфіденційного контенту та ризикованої поведінки серед користувачів до 18 років. Також планується впровадження батьківського контролю, хоча деталі реалізації поки не розкрито”.
Причини змін та занепокоєння експертів
Зміни стали реакцією на позов, поданий сім’єю Адама Рейна, який у квітні після тривалого спілкування з ChatGPT наклав на себе руки. Згідно з судовими матеріалами, підліток обговорював із чат-ботом теми суїциду та отримував поради щодо написання передсмертної записки. Представники OpenAI висловили співчуття родині та заявили, що уважно вивчають позовні вимоги. Позивачі також звинувачують компанію у поспішному запуску GPT-4o, попри застереження про ризики для безпеки.
Генеральний директор підрозділу штучного інтелекту Microsoft Мустафа Сулейман раніше наголошував на можливих психічних ризиках при тривалих взаємодіях із ІІ. В OpenAI погоджуються, що під час розгорнутих діалогів система може втрачати ефективність у контролі безпеки — саме такі спілкування проводив Адам, надсилаючи до 650 повідомлень щодня.
Адвокат родини зазначає, що внутрішні спеціалісти з безпеки в OpenAI виступали проти запуску нової моделі, а один із провідних дослідників навіть залишив компанію через принципові розбіжності щодо безпеки продукту.