OpenAI начала глобальное развертывание новой системы определения возраста для пользователей ChatGPT. Цель новой функции — автоматически защищать несовершеннолетних, анализируя стиль общения, контекст запросов, историю аккаунта и другие сигналы. Однако на практике система часто ошибочно идентифицирует взрослых как подростков, из-за чего последним приходится сталкиваться с ограниченным доступом к контенту.
Об этом сообщает ProIT
Как работает система проверки возраста
OpenAI объясняет, что алгоритм анализирует совокупность факторов: историю аккаунта, стиль коммуникации и общую активность пользователя. Если система не уверена в возрасте, она действует максимально осторожно, поэтому новые или «нетипичные» аккаунты могут автоматически попасть в подростковую категорию. Такая осторожность сохраняется с этапа тестирования, однако не стала препятствием для глобального запуска функции.
«Мы внедряем прогнозирование возраста в ChatGPT, чтобы определять, когда аккаунт, вероятно, принадлежит лицу до 18 лет, и соответственно применять необходимые меры безопасности и настройки для подростков. Взрослые, ошибочно определенные как подростки, могут подтвердить свой возраст в настройках аккаунта…»
Проверка возраста через сторонний сервис и вопросы конфиденциальности
Чтобы подтвердить свой возраст, пользователям предлагают пройти идентификацию через сторонний сервис Persona. Для этого может потребоваться предъявление удостоверения личности или видео селфи. OpenAI подчеркивает, что не имеет доступа к личным данным: компания получает лишь ответ «да» или «нет», а все предоставленные сведения удаляются после проверки. Однако такая практика вызывает беспокойство среди пользователей относительно защиты приватности и потенциального развития систем идентификации в будущем.
Схожие инструменты ранее внедряли YouTube и Instagram — и они тоже столкнулись с многочисленными жалобами от взрослых, которых система ошибочно определяла как подростков. В ChatGPT эта проблема проявляется особенно остро, поскольку сервис широко используется для обучения, работы и даже психологической поддержки. OpenAI обещает совершенствовать свои алгоритмы на основе отзывов сообщества, однако на данный момент многие пользователи негативно воспринимают такие ограничения, считая их навязчивыми, особенно если система безосновательно определяет их как несовершеннолетних.