OpenAI опубликовала результаты масштабного анализа, который раскрывает особенности использования ChatGPT среди 800 миллионов активных пользователей каждую неделю. Исследование показало, что миллионы людей обращаются к чат-боту для обсуждения личных проблем, связанных с психическим здоровьем, что делает искусственный интеллект не только инструментом для поиска информации, но и своеобразным доверенным лицом для многих в кризисных ситуациях.
Об этом сообщает ProIT
Выявленные тревожные тенденции в общении с ChatGPT
По данным компании, более 1 миллиона пользователей каждую неделю ведут разговоры с ChatGPT, в которых фиксируются явные признаки планирования или намерений самоубийства. Это составляет примерно 0,15% от общей активной аудитории за неделю. Хотя в процентном соотношении эта доля кажется небольшой, абсолютное количество охваченных людей свидетельствует о значительном масштабе явления.
Кроме того, около 0,07% пользователей демонстрируют признаки психоза или мании, а еще 0,15% проявляют сильную эмоциональную зависимость от искусственного интеллекта. Подобные тенденции ставят серьезные этические вопросы перед разработчиками и подчеркивают необходимость усиленной ответственности со стороны технологических платформ.
Действия OpenAI по повышению безопасности пользователей
С учетом полученных результатов, OpenAI предприняла ряд мер для повышения безопасности своих продуктов. Компания привлекла более 170 экспертов в области психического здоровья для разработки рекомендаций и внедрила обновления, благодаря которым последние версии ChatGPT научились более деликатно реагировать на чувствительные темы. Теперь чат-бот пытается направлять пользователей, находящихся в кризисе, к специализированным службам поддержки.
«Согласно опубликованной статистике, каждую неделю более миллиона пользователей ведут разговоры, которые содержат явные признаки потенциального планирования или намерений самоубийства, что составляет около 0,15% от всей активной недельной аудитории».