Meta оголосила про запуск удосконалених систем штучного інтелекту для ефективнішого контролю контенту на своїх платформах. Ці інноваційні AI-рішення покликані автоматизувати виявлення та видалення матеріалів, пов’язаних із тероризмом, експлуатацією дітей, наркотиками, шахрайством і аферами, що дозволить компанії значно зменшити залежність від сторонніх підрядників.
Про це розповідає ProIT
AI-системи нового покоління: переваги та ефективність
У Meta зазначають, що розроблені системи штучного інтелекту будуть впроваджені у всіх застосунках компанії, щойно доведуть свою перевагу над поточними методами модерації. Паралельно компанія планує скоротити обсяг завдань, які передаються на аутсорсинг стороннім компаніям, і зосередитися на автоматизації процесів контролю контенту.
“While we’ll still have people who review content, these systems will be able to take on work that’s better-suited to technology, like repetitive reviews of graphic content or areas where adversarial actors are constantly changing their tactics, such as with illicit drug sales or scams,” Meta explained in a blog post.
За словами представників Meta, нові AI-системи здатні точніше виявляти порушення, забезпечувати швидшу реакцію на актуальні події, краще запобігати шахрайствам та зменшувати кількість помилкових блокувань контенту.
Перші результати та нові можливості для користувачів
Під час тестування системи штучного інтелекту продемонстрували значне підвищення ефективності: вони виявляють удвічі більше контенту із сексуальними домаганнями для дорослих, ніж людські модератори, а рівень помилок знизився більш ніж на 60%. Окрім цього, нові алгоритми краще розпізнають акаунти-двійники публічних осіб і оперативно реагують на спроби захоплення профілів, фіксуючи підозрілі входи, зміну паролів чи редагування профілю.
Щоденно завдяки новим AI-системам вдається виявляти та блокувати близько 5 000 спроб шахрайства, коли зловмисники намагаються отримати чужі дані для входу.
Meta підкреслює, що ключові, складні та критично важливі рішення, зокрема щодо апеляцій на блокування чи звернень до правоохоронців, залишатимуться у віданні експертів, які продовжать навчати, контролювати й оцінювати ефективність AI-рішень.
Варто зазначити, що ці зміни впроваджуються на тлі пом’якшення політики модерації контенту, яке триває протягом останнього року — з моменту, коли Дональд Трамп вдруге обійняв посаду президента США. Минулого року Meta відмовилася від програми перевірки фактів сторонніми організаціями на користь моделі Community Notes та послабила обмеження щодо “тем, які входять до мейнстрімної дискусії”, закликаючи користувачів до персоналізованого підходу у взаємодії з політичним контентом.
Окрім цього, Meta та інші великі технологічні компанії нині перебувають під тиском судових позовів, у яких йдеться про відповідальність соцмереж за вплив на дітей та молодь.
Також Meta повідомила про запуск власного AI-помічника підтримки, який забезпечить цілодобову допомогу користувачам. Новий асистент вже доступний у мобільних додатках Facebook і Instagram для iOS та Android, а також у розділі Help Center на десктопних версіях цих платформ.