OpenAI и Anthropic вводят новые ограничения для защиты подростков в своих чат-ботах, реагируя на растущее беспокойство по поводу влияния искусственного интеллекта на психическое здоровье молодежи. Теперь компании усиливают контроль за возрастом пользователей и адаптируют функционал ботов для более безопасного взаимодействия с несовершеннолетними.
Об этом сообщает ProIT
Обновленные правила и функции безопасности ChatGPT
OpenAI пересмотрела политику использования ChatGPT для подростков в возрасте от 13 до 17 лет. В обновленных правилах подчеркивается, что вопросы безопасности подростков имеют приоритет над другими целями продукта. Если определенные интересы пользователя могут создать риски, чат-бот предложит альтернативные, более безопасные варианты ответа или ограничит предоставление информации.
Бот поощряет подростков обращаться за поддержкой к взрослым или специалистам в реальной жизни, а также поддерживает офлайн-общение. Кроме того, ChatGPT четко разъясняет правила использования и придерживается доброжелательной, но в то же время уместной для возраста манеры общения.
«Главный принцип – безопасность подростков должна быть важнее других целей. Если интересы пользователя могут угрожать его безопасности, чат-бот будет предлагать более безопасные варианты и ограничивать ответы».
Новые меры вводятся на фоне усиленного контроля со стороны законодателей из-за рисков для психического здоровья детей. Ранее OpenAI уже добавила функцию родительского контроля и заблокировала обсуждение самоубийства с подростками. Компания считает, что такие ограничения помогут молодым пользователям вовремя обращаться за помощью к кризисным службам. Дополнительно OpenAI разрабатывает инструменты автоматического определения возраста пользователей для активации защиты для лиц до 18 лет.
Anthropic внедряет более строгий подход
Anthropic полностью запрещает использование чат-бота Claude для несовершеннолетних. В настоящее время компания работает над внедрением системы, которая будет определять возраст пользователей по языковым характеристикам и автоматически блокировать аккаунты подростков. Кроме того, Claude обучают правильно реагировать на разговоры, связанные с самоповреждением или суицидом, чтобы обеспечить дополнительный уровень безопасности для молодежи.