Компания OpenAI объявила о внедрении системы родительского контроля в чат-боте ChatGPT, ориентированной на защиту подростков во время использования искусственного интеллекта. В течение ближайшего месяца, после запуска новых функций, родители получат возможность связать свои аккаунты с аккаунтами подростков, контролировать ответы чат-бота на их запросы, а также отключать историю переписки и память модели.
Об этом сообщает ProIT
Новые функции безопасности и поддержка подростков
Платформа OpenAI также внедряет систему автоматических уведомлений: если алгоритм обнаружит у подростка признаки острого дистресса, родители получат соответствующее сообщение. К разработке этого механизма привлечены эксперты, чтобы сохранить баланс доверия между детьми и их родителями. Кроме того, компания планирует взаимодействовать со специалистами по подростковому здоровью, расстройствам пищевого поведения и употреблению психоактивных веществ для дополнительной настройки поведения моделей искусственного интеллекта.
«Механизм разрабатывается с участием экспертов, чтобы поддерживать доверие между родителями и детьми».
Реакция на судебный иск и усовершенствование безопасности
Анонс новых функций состоялся после того, как OpenAI стала ответчиком в первом в мире судебном процессе, связанном со смертью подростка с участием ИИ. По словам родителей, ChatGPT знал о прошлых попытках самоубийства их ребенка и предоставил советы по осуществлению трагического поступка.
С целью повышения безопасности пользователей OpenAI также внедряет новый механизм маршрутизации – «реальный распределение в реальном времени». Он позволит автоматически направлять чувствительные разговоры к моделям с дискурсивным выравниванием, которые устойчивы к провокационным запросам. Если модель распознает у пользователя тяжелое эмоциональное состояние, диалог перенаправляется на специальную модель, ориентированную на поддержку и размышления.
Компания подчеркивает, что работа над усовершенствованием системы безопасности продолжится и после старта родительского контроля. В ближайшие 120 дней OpenAI планирует продемонстрировать прогресс и внедрить максимальное количество новых функций безопасности до конца года.