Компания Meta подала в суд на разработчика скандального приложения на базе искусственного интеллекта Crush AI, которое распространяло тысячи объявлений с предложениями создания фейковых обнаженных изображений людей на платформах Meta. Кроме судебного иска, Meta объявила о введении новых мер против подобных приложений.
Об этом сообщает ProIT
Детали иска против Crush AI и схемы обхода модерации
Иск был подан в Гонконге против компании Joy Timeline HK, которая стоит за разработкой Crush AI. По данным Meta, эта компания пыталась обойти процесс проверки рекламного контента для продвижения своих сервисов генерации фейковых обнаженных фото с помощью ИИ. Несмотря на неоднократное удаление таких объявлений за нарушение политик платформы, Joy Timeline HK продолжала размещать новые рекламные материалы.
Согласно сообщению автора информационной рассылки Faked Up Алексиса Мандзарлиса, только за первые две недели 2025 года Crush AI разместила более 8 000 рекламных объявлений своих «AI undresser» сервисов в Facebook и Instagram. Также отмечается, что около 90% трафика вебсайтов Crush AI поступало именно с этих платформ. Мандзарлис сообщил, что лично информировал Meta о нескольких таких вебресурсах.
Чтобы избежать блокировки, Crush AI создавала десятки рекламных аккаунтов и постоянно меняла доменные имена. Многие из рекламных аккаунтов имели названия «Eraser Annyone’s Clothes» с разными номерами. В определенный момент у Crush AI даже была собственная страница в Facebook, посвященная популяризации сервиса.
Проблемы модерации контента и ответы индустрии
Meta не единственная компания, которая сталкивается с подобными вызовами. С ростом интеграции генеративного ИИ в соцсети, такие платформы, как X, Reddit и YouTube, также столкнулись с всплеском рекламы и ссылок на приложения для создания фейковых обнаженных фото, что особенно опасно для несовершеннолетних пользователей. Исследователи сообщают, что в 2024 году количество таких ссылок значительно возросло, а миллионы пользователей YouTube просматривали подобную рекламу.
«Meta сообщила, что разработала новую технологию для идентификации рекламы сервисов искусственного интеллекта для создания фейковых обнаженных фото даже в случаях, когда в самих объявлениях отсутствует изображение наготы».
Сейчас Meta использует так называемые технологии сопоставления для более быстрого выявления и удаления копий подобных объявлений, а также расширила список слов, фраз и эмодзи, которые автоматически блокируются системой.
Компания также применяет свои традиционные методы борьбы с сетями злоумышленников к новым группам аккаунтов, рекламирующим подобные сервисы на основе ИИ. Начиная с 2025 года, Meta смогла заблокировать четыре отдельные сети, которые занимались продвижением таких приложений.
Meta планирует распространять информацию о подобных сервисах через инициативу Lantern Tech Coalition, в которую входят Google, Meta, Snap и другие компании, борющиеся с эксплуатацией детей онлайн. С марта компания предоставила этой сети более 3 800 уникальных URL-адресов, связанных с AI nudify-приложениями.
На законодательном уровне Meta заявила, что и впредь поддерживает инициативы, которые позволяют родителям контролировать загрузку приложений подростками. В частности, компания сотрудничает с законодателями по внедрению закона Take It Down в США, который она уже поддерживала ранее.