OpenAI анонсировала значительное обновление для ChatGPT, которое должно повысить безопасность и этичность взаимодействия с пользователями. Новая версия искусственного интеллекта, созданная в сотрудничестве с профильными экспертами и консультативными группами, получит расширенные возможности по выявлению признаков психоэмоционального дистресса. Это решение было принято в ответ на ряд жалоб о том, что ранее ChatGPT мог поддерживать опасные ошибки пользователей или даже ухудшать их состояние.
Об этом сообщает ProIT
Улучшение этичности и безопасности
В компании подчеркивают, что текущая версия GPT-4o еще не всегда эффективно распознает проявления эмоциональной зависимости или психологических проблем, особенно у людей, которые склонны воспринимать ИИ как особенно чуткого собеседника. Именно поэтому разработчики планируют интегрировать новые алгоритмы, которые помогут лучше идентифицировать такие ситуации и вовремя реагировать на них.
«Компания открыто признает, что текущая модель GPT-4o не всегда эффективно распознает признаки эмоциональной зависимости или состояний, свидетельствующих о психологических проблемах, особенно у уязвимых пользователей, которым ИИ может казаться особенно чутким».
Функции для предотвращения эмоциональной зависимости
В будущем ChatGPT будет уведомлять пользователей о необходимости сделать перерыв, если чат продолжается слишком долго. Такие напоминания должны помочь снизить риск формирования зависимости от общения с ботом. Кроме того, ИИ станет более осторожным в неоднозначных ситуациях. Например, когда пользователь задает вопросы о личных отношениях, такие как «Должен ли я расстаться с партнером?», ChatGPT не будет давать прямого ответа, а вместо этого предложит рассмотреть различные варианты развития событий и возможные последствия. Благодаря этому пользователи смогут принимать более взвешенные и осознанные решения.
Благодаря этим усовершенствованиям OpenAI планирует сделать ChatGPT более безопасным инструментом для всех пользователей, с особым акцентом на уязвимые группы, которые могут быть склонны к эмоциональной зависимости от цифровых сервисов.