Компания Meta заявила о временном приостановлении доступа подростков к AI-персонажам во всех своих приложениях по всему миру. Это решение принято накануне запуска обновленной версии AI-персонажей, которая будет ориентирована на более безопасное взаимодействие подростков с искусственным интеллектом.
Об этом сообщает ProIT
Решение связано с судебными разбирательствами и требованиями родителей
Объявление о ограничении доступа было сделано за несколько дней до начала судебного процесса против Meta в штате Нью-Мексико, где компанию обвиняют в недостаточной защите детей от сексуальной эксплуатации в своих приложениях. Также Meta пыталась ограничить расследование влияния социальных сетей на психическое здоровье подростков.
Еще в октябре Meta представила функции родительского контроля для AI-персонажей, которые позволяют родителям и опекунам отслеживать темы разговоров и блокировать доступ к определенным персонажам. Предполагалось, что эти возможности станут доступными в этом году, но в настоящее время компания полностью отключает AI-персонажей для подростков, чтобы подготовить новую, более безопасную версию продукта.
«Начиная с ближайших недель, подростки больше не смогут пользоваться AI-персонажами в наших приложениях до тех пор, пока не будет готов обновленный продукт. Это касается всех, кто указал дату рождения как подросток, а также пользователей, которых мы можем идентифицировать как подростков с помощью нашей технологии прогнозирования возраста», — говорится в обновленном блоге компании.
Повышение защиты подростков в цифровой среде
Meta отметила, что решение принято с учетом пожеланий родителей о большем контроле и прозрачности во взаимодействии их детей с AI-персонажами. Обновленные AI-персонажи будут иметь встроенные родительские настройки и будут давать возрастные ответы, ограничиваясь темами образования, спорта и хобби.
Кроме того, компания активно внедряет дополнительные ограничения для подростков в своих приложениях. В октябре Meta обновила Instagram, где появились новые функции родительского контроля, которые ограничивают подросткам доступ к темам, связанным с насилием, обнаженностью или наркотиками.
Регуляторные органы все чаще обращают внимание на деятельность социальных платформ в отношении защиты подростков. Кроме судебного процесса в Нью-Мексико, на следующей неделе Meta должна предстать перед судом по обвинению в содействии формированию зависимости от социальных сетей. Ожидается, что генеральный директор компании Марк Цукерберг будет свидетельствовать по этому делу.
Другие компании в сфере искусственного интеллекта также вынуждены усиливать защиту подростков. Например, стартап Character.AI в октябре ограничил возможность открытого общения с чат-ботами для несовершеннолетних, а в ноябре объявил о разработке интерактивных историй для детей. OpenAI в последние месяцы внедрила новые правила безопасности для подростков в ChatGPT и начала применять возрастные ограничения на контент.
Meta подчеркнула, что после запуска новой версии AI-персонажей доступ к ним будут иметь все пользователи, но с обязательными функциями родительского контроля для подростков.