OpenAI оприлюднила результати масштабного аналізу, який розкриває особливості користування ChatGPT серед 800 мільйонів активних користувачів щотижня. Дослідження показало, що мільйони людей звертаються до чат-бота для обговорення особистих проблем, пов’язаних із психічним здоров’ям, що робить штучний інтелект не лише інструментом для пошуку інформації, а й своєрідною довіреною особою для багатьох у кризових ситуаціях.
Про це розповідає ProIT
Виявлені тривожні тенденції у спілкуванні з ChatGPT
За даними компанії, понад 1 мільйон користувачів щотижня ведуть розмови з ChatGPT, у яких фіксуються явні ознаки планування або намірів самогубства. Це становить приблизно 0,15% від загальної активної аудиторії за тиждень. Хоча у відсотковому співвідношенні ця частка здається невеликою, абсолютна кількість охоплених людей свідчить про значний масштаб явища.
Крім того, близько 0,07% користувачів демонструють ознаки психозу або манії, а ще 0,15% виявляють сильну емоційну залежність від штучного інтелекту. Подібні тенденції висувають серйозні етичні питання перед розробниками та підкреслюють необхідність посиленої відповідальності з боку технологічних платформ.
Дії OpenAI щодо підвищення безпеки користувачів
З огляду на отримані результати, OpenAI вжила низку заходів для підвищення безпеки своїх продуктів. Компанія залучила понад 170 експертів із психічного здоров’я для розробки рекомендацій та впровадила оновлення, завдяки яким останні версії ChatGPT навчилися делікатніше реагувати на чутливі теми. Відтепер чат-бот намагається скеровувати користувачів, які перебувають у кризі, до спеціалізованих служб підтримки.
“Згідно з опублікованою статистикою, щотижня понад мільйон користувачів ведуть розмови, які містять явні ознаки потенційного планування або намірів самогубства, що становить близько 0,15% від усієї активної тижневої аудиторії”.