Компанія OpenAI оприлюднила нові статистичні дані, які свідчать про значну кількість користувачів ChatGPT, що звертаються до штучного інтелекту з питаннями, пов’язаними з психічним здоров’ям. За підрахунками компанії, 0,15% активних користувачів на тиждень ведуть розмови, у яких фігурують явні ознаки можливого суїцидального планування або намірів. З огляду на понад 800 мільйонів щотижневих активних користувачів, це означає понад мільйон таких випадків щотижня.
Про це розповідає ProIT
Статистика психологічних звернень та нові механізми безпеки
Крім цього, OpenAI інформує, що подібний відсоток користувачів демонструє «підвищений рівень емоційної прив’язаності» до ChatGPT, а сотні тисяч людей щотижня демонструють ознаки психозу або манії під час спілкування з чат-ботом. Такі розмови компанія описує як «надзвичайно рідкісні», але водночас визнає, що проблема стосується сотень тисяч людей щотижня.
Нові дані були оприлюднені на тлі анонсу покращень щодо реагування моделей OpenAI на звернення користувачів із психічними розладами. Компанія повідомила, що під час роботи над останньою версією ChatGPT до процесу залучили понад 170 фахівців з психічного здоров’я. За їхніми спостереженнями, оновлена версія ChatGPT «відповідає більш доречно та послідовно, ніж попередні».
«OpenAI стверджує, що оновлена версія GPT-5 видає “бажані відповіді” на питання про психічне здоров’я приблизно на 65% частіше, ніж попередня версія. За результатами оцінювання відповідей ШІ на суїцидальні теми, GPT-5 дотримується бажаної моделі поведінки у 91% випадків, порівняно з 77% у попередника».
Виклики, ризики та додаткові заходи захисту
Серед актуальних загроз компанія виділяє зростання кількості повідомлень про негативний вплив чат-ботів зі штучним інтелектом на людей із психічними труднощами. Дослідники фіксують, що такі системи можуть підсилювати хибні переконання користувачів, підштовхуючи до деструктивних сценаріїв.
Питання безпеки виходить на передній план для OpenAI, зокрема після позову батьків 16-річного підлітка, який ділився з ChatGPT своїми суїцидальними думками незадовго до власної смерті. Генеральні прокурори Каліфорнії та Делаверу наголошують на необхідності захисту молоді від потенційних ризиків використання таких технологій, що може вплинути на плани реструктуризації компанії.
У жовтні гендиректор OpenAI Сем Альтман заявив, що компанія змогла «пом’якшити серйозні проблеми з психічним здоров’ям» у ChatGPT, хоча конкретних деталей не надав. Водночас він повідомив про послаблення деяких обмежень, зокрема щодо можливості для дорослих користувачів вести еротичні бесіди з чат-ботом.
Серед нових заходів — впровадження додаткових оцінок для аналізу найсерйозніших психологічних викликів, які виникають під час користування ChatGPT. Тепер базові тести безпеки для моделей ШІ включатимуть перевірку на емоційну залежність та несуїцидальні психічні кризи. OpenAI також представила покращені батьківські контролі та систему розпізнавання віку для автоматичного виявлення дітей, що використовують сервіс, із подальшим застосуванням суворіших заходів безпеки.
Попри вдосконалення, компанія визнає, що питання психічного здоров’я серед користувачів ChatGPT залишається складним і потребує подальшої уваги. Хоча GPT-5 демонструє кращі показники безпеки порівняно з попередниками, певна частина відповідей бота все ще класифікується як небажана. При цьому OpenAI продовжує надавати доступ до старіших і менш захищених моделей, таких як GPT-4o, мільйонам платних підписників.
