Meta объявила о запуске усовершенствованных систем искусственного интеллекта для более эффективного контроля контента на своих платформах. Эти инновационные AI-решения призваны автоматизировать выявление и удаление материалов, связанных с терроризмом, эксплуатацией детей, наркотиками, мошенничеством и аферами, что позволит компании значительно сократить зависимость от сторонних подрядчиков.
Об этом сообщает ProIT
AI-системы нового поколения: преимущества и эффективность
В Meta отмечают, что разработанные системы искусственного интеллекта будут внедрены во всех приложениях компании, как только докажут свое превосходство над текущими методами модерации. Параллельно компания планирует сократить объем задач, которые передаются на аутсорсинг сторонним компаниям, и сосредоточиться на автоматизации процессов контроля контента.
“Хотя у нас все еще будут люди, которые проверяют контент, эти системы смогут взять на себя работу, которая лучше подходит для технологий, такую как повторяющиеся проверки графического контента или области, где противодействующие акторы постоянно меняют свои тактики, такие как продажа наркотиков или мошенничество,” объяснила Meta в блоге.
По словам представителей Meta, новые AI-системы способны точнее выявлять нарушения, обеспечивать более быструю реакцию на актуальные события, лучше предотвращать мошенничество и снижать количество ложных блокировок контента.
Первые результаты и новые возможности для пользователей
Во время тестирования системы искусственного интеллекта продемонстрировали значительное повышение эффективности: они выявляют вдвое больше контента с сексуальными домогательствами для взрослых, чем человеческие модераторы, а уровень ошибок снизился более чем на 60%. Кроме того, новые алгоритмы лучше распознают аккаунты-двойники публичных лиц и оперативно реагируют на попытки захвата профилей, фиксируя подозрительные входы, изменения паролей или редактирование профиля.
Ежедневно благодаря новым AI-системам удается выявлять и блокировать около 5 000 попыток мошенничества, когда злоумышленники пытаются получить чужие данные для входа.
Meta подчеркивает, что ключевые, сложные и критически важные решения, в том числе касающиеся апелляций на блокировку или обращений к правоохранительным органам, останутся в ведении экспертов, которые продолжат обучать, контролировать и оценивать эффективность AI-решений.
Стоит отметить, что эти изменения внедряются на фоне смягчения политики модерации контента, которое продолжается в течение последнего года — с момента, когда Дональд Трамп во второй раз занял пост президента США. В прошлом году Meta отказалась от программы проверки фактов сторонними организациями в пользу модели Community Notes и ослабила ограничения по “темам, которые входят в мейнстримную дискуссию”, призывая пользователей к персонализированному подходу во взаимодействии с политическим контентом.
Кроме того, Meta и другие крупные технологические компании в настоящее время находятся под давлением судебных исков, в которых речь идет о ответственности соцсетей за влияние на детей и молодежь.
Также Meta сообщила о запуске собственного AI-помощника поддержки, который обеспечит круглосуточную помощь пользователям. Новый ассистент уже доступен в мобильных приложениях Facebook и Instagram для iOS и Android, а также в разделе Help Center на десктопных версиях этих платформ.