OpenAI объявила о отказе от планов по созданию и внедрению так называемого «взрослого режима» и эротического контента в своем чат-боте ChatGPT. Такое решение компания приняла на неопределенный срок, сосредоточив внимание на развитии основных технологий и разработке универсального приложения на базе искусственного интеллекта.
Об этом сообщает ProIT
Причины пересмотра планов по «взрослому режиму»
Отказ от идеи связан со значительными внутренними дискуссиями внутри OpenAI. Сотрудники и инвесторы выразили обеспокоенность потенциальным негативным влиянием такого контента на общество. Основные риски касаются эмоциональной зависимости пользователей от искусственного интеллекта, а также вопросов защиты детей и эффективной модерации чувствительных материалов.
«Решение связано с внутренними дискуссиями: сотрудники и инвесторы выразили беспокойство по поводу влияния такого контента на общество. В частности, речь идет о рисках эмоциональной зависимости от ИИ и проблемах с защитой детей и модерацией».
Пересмотр стратегических приоритетов OpenAI
Ранее генеральный директор OpenAI Сэм Альтман рассматривал возможность смягчения ограничений и внедрения системы проверки возраста для доступа к «взрослому режиму». Однако эти идеи вызвали резкую критику среди общественности и регуляторов, особенно на фоне судебных процессов, касающихся влияния чат-ботов на подростков.
Помимо отказа от «взрослого режима», OpenAI также временно приостановила разработку проекта Sora, который был ориентирован на генерацию видео с помощью искусственного интеллекта. Усилия компании теперь сосредоточены на совершенствовании основных моделей ИИ и проведении новых исследований в этой области.