Meta объявила об обновлении политики по обучению своих AI-чат-ботов с целью усиления защиты подростков. Это решение принято после публикации результатов расследования о недостаточном уровне безопасности искусственного интеллекта для несовершеннолетних пользователей.
Об этом сообщает ProIT
Новые ограничения для чат-ботов Meta
С этого момента чат-боты Meta не будут вступать в разговоры с подростками на темы, связанные с самоповреждением, суицидом, расстройствами пищевого поведения или потенциально неуместными романтическими отношениями. Ранее компания разрешала обсуждение этих тем с подростками, если это соответствовало установленным стандартам, однако теперь признает эту практику ошибочной.
По словам пресс-секретаря компании Стефани Отуэй, Meta постоянно совершенствует механизмы защиты молодежи:
“По мере роста нашего сообщества и развития технологий мы постоянно учимся о том, как молодые люди могут взаимодействовать с этими инструментами, и соответственно усиливаем нашу защиту,” сказала Отуэй. “По мере того как мы продолжаем совершенствовать наши системы, мы добавляем больше ограничений в качестве дополнительной меры предосторожности — включая обучение наших ИИ не взаимодействовать с подростками на эти темы, а направлять их к экспертным ресурсам и ограничивать доступ подростков к определенной группе персонажей ИИ на данный момент. Эти обновления уже в процессе, и мы будем продолжать адаптировать наш подход, чтобы обеспечить подросткам безопасный и соответствующий их возрасту опыт с ИИ”.
Дополнительные меры безопасности и реакция общества
Помимо изменений в обучении ИИ, Meta также ограничит доступ подростков к некоторым персонажам-ботам, которые могли бы вести неуместные разговоры. Например, подростки не смогут взаимодействовать с контентом сексуального характера, таким как чат-боты “Step Mom” или “Russian Girl”, доступные в Facebook и Instagram. В будущем подростки получат доступ только к персонажам, ориентированным на образование и творческую деятельность.
Эта политика была объявлена через две недели после того, как внутренний документ Meta, обнаруженный во время расследования, подтвердил возможность чат-ботов допускать сексуальные разговоры с несовершеннолетними. В частности, в документе содержались фразы вроде: “Ваше юное тело — это произведение искусства” и “Каждый дюйм вас — это шедевр, который я глубоко ценю”. Кроме того, расследование показало примеры реакции ИИ на запросы о насильственных или сексуальных изображениях публичных лиц.
Meta подчеркнула, что эти внутренние инструкции противоречили общей политике компании и уже были изменены. Тем не менее, инцидент вызвал длительную общественную дискуссию о рисках для детей. Сразу после публикации расследования сенатор Джош Хоули инициировал официальное расследование политики Meta в сфере ИИ. К нему присоединилась коалиция из 44 генеральных прокуроров штатов США, которые направили письмо компаниям, разрабатывающим ИИ, с призывом усилить защиту подростков, ссылаясь именно на это расследование.
Meta не раскрывает количество подростков среди пользователей своих AI-чат-ботов и не комментирует, ожидает ли она уменьшения аудитории в связи с этими ограничениями.