Компанія Meta подала до суду на розробника скандального застосунка на базі штучного інтелекту Crush AI, який поширював тисячі оголошень із пропозиціями створення фейкових оголених зображень людей на платформах Meta. Окрім судового позову, Meta оголосила про запровадження нових заходів проти подібних додатків.
Про це розповідає ProIT
Деталі позову проти Crush AI та схеми обходу модерації
Позов було подано в Гонконзі проти компанії Joy Timeline HK, яка стоїть за розробкою Crush AI. За даними Meta, ця компанія намагалася обійти процес перевірки рекламного контенту для просування своїх сервісів генерації фейкових оголених фото за допомогою ШІ. Незважаючи на неодноразове видалення таких оголошень через порушення політик платформи, Joy Timeline HK продовжувала розміщувати нові рекламні матеріали.
Згідно з повідомленням автора інформаційної розсилки Faked Up Алексіоса Мандзарліса, лише за перші два тижні 2025 року Crush AI розмістила понад 8 000 рекламних оголошень своїх «AI undresser» сервісів у Facebook та Instagram. Також зазначається, що близько 90% трафіку вебсайтів Crush AI надходило саме з цих платформ. Мандзарліс повідомив, що особисто інформував Meta про кілька таких вебресурсів.
Щоб уникнути блокування, Crush AI створювала десятки рекламних акаунтів і постійно змінювала доменні імена. Багато з рекламних акаунтів мали назви «Eraser Annyone’s Clothes» з різними номерами. У певний момент у Crush AI навіть була власна сторінка у Facebook, присвячена популяризації сервісу.
Проблеми модерації контенту та відповіді індустрії
Meta не єдина компанія, яка стикається з подібними викликами. Зі зростанням інтеграції генеративного ШІ у соцмережі, такі платформи, як X, Reddit і YouTube, також зіштовхнулися зі сплеском реклами та посилань на застосунки для створення фейкових оголених фото, що особливо небезпечно для неповнолітніх користувачів. Дослідники повідомляють, що у 2024 році кількість таких посилань значно зросла, а мільйони користувачів YouTube переглядали подібну рекламу.
“Meta повідомила, що розробила нову технологію для ідентифікації реклами сервісів штучного інтелекту для створення фейкових оголених фото навіть у випадках, коли у самих оголошеннях відсутнє зображення наготи”.
Зараз Meta використовує так звані технології зіставлення для більш швидкого виявлення та видалення копій подібних оголошень, а також розширила список слів, фраз і емодзі, які автоматично блокуються системою.
Компанія також застосовує свої традиційні методи боротьби з мережами зловмисників до нових груп акаунтів, що рекламують подібні сервіси на основі ШІ. Починаючи з 2025 року, Meta змогла заблокувати чотири окремі мережі, які займалися просуванням таких застосунків.
Meta планує поширювати інформацію про подібні сервіси через ініціативу Lantern Tech Coalition, до якої входять Google, Meta, Snap та інші компанії, що борються з експлуатацією дітей онлайн. З березня компанія надала цій мережі понад 3 800 унікальних URL-адрес, пов’язаних з AI nudify-додатками.
На законодавчому рівні Meta заявила, що й надалі підтримує ініціативи, які дозволяють батькам контролювати завантаження застосунків підлітками. Зокрема, компанія співпрацює з законодавцями щодо впровадження закону Take It Down у США, який вона вже підтримувала раніше.