OpenAI внедрила новую функцию «возрастного распознавания» в чат-боте ChatGPT, чтобы повысить защиту молодых пользователей от опасного контента. Этот шаг стал ответом на усиливающееся беспокойство относительно влияния искусственного интеллекта на детей и подростков.
Об этом сообщает ProIT
Как работает новая система возрастного распознавания
OpenAI привлекла специальный алгоритм, который анализирует ряд поведенческих и аккаунтных сигналов, чтобы определить вероятный возраст пользователя. К таким сигналам относятся указанный возраст пользователя, продолжительность существования аккаунта и время суток, когда аккаунт обычно используется. Если система идентифицирует пользователя как лицо младше 18 лет, к его аккаунту автоматически применяются ограничения на доступ к контенту, связанному с сексуальностью, насилием и другими потенциально опасными темами.
Причины усиления защиты несовершеннолетних
В последние годы OpenAI неоднократно подвергалась критике из-за возможного негативного влияния ChatGPT на подростков. В СМИ сообщалось о случаях самоубийств среди молодежи, которые связывали с работой чат-бота, а также о допуске к обсуждению сексуальных тем с несовершеннолетними. В апреле прошлого года компания решала проблему с багом, который позволял генерировать эротический контент для пользователей младше 18 лет.
OpenAI уже длительное время работает над решением проблемы доступа несовершеннолетних к опасному контенту, а новая функция «возрастного распознавания» стала очередным этапом защиты молодежи.
Для пользователей, которых система ошибочно идентифицирует как несовершеннолетних, предусмотрена возможность восстановления взрослого статуса. Для этого нужно отправить селфи своему партнеру по верификации документов — компании Persona. После успешной проверки ограничения будут сняты.
