Сервіс мікроблогів Tumblr зіткнувся з хвилею скарг від користувачів через автоматизовану систему фільтрації контенту, яка масово й безпідставно позначає пости як «для дорослих». За словами користувачів, навіть повністю безпечні дописи, зокрема зображення домашніх тварин, фанатські матеріали, малюнки та навіть фото рук, потрапляють під обмеження, унаслідок чого їхня видимість суттєво зменшується.
Про це розповідає ProIT
Масові скарги та підозри на штучний інтелект
Багато користувачів Tumblr підозрюють, що причиною хибної модерації стала автоматизована система, заснована на штучному інтелекті. Подібні проблеми нещодавно відзначалися і на інших соціальних платформах. Зокрема, Pinterest визнав внутрішню помилку, яка призвела до масових блокувань користувачів, а Instagram відмовився коментувати власні труднощі з масовими банами. Однак, у випадку Tumblr, компанія не деталізує, чи саме ШІ спричинив ці хибні спрацьовування.
«As we work to make Tumblr a safer place for all users, we aim to respect a diverse set of interests and content preferences, which can be adjusted in settings. We view this as an ongoing process as we continue to fine-tune how we detect and address mature content», – зазначив представник Tumblr у своїй заяві електронною поштою.
Оновлення системи модерації та реакція компанії
За інформацією компанії, проблема виникла після запуску оновлення додатка для Android, у межах якого тестуються нові шари модерації та покращення системи маркування контенту. Представники Tumblr підтвердили, що експерименти тривають, і з урахуванням відгуків користувачів систему планують вдосконалити до впровадження оновлень на інші платформи.
Крім того, команда Tumblr офіційно визнала проблему на своєму блозі, зазначивши, що відомо про «помилки у класифікації» та ведеться активна робота над їх зменшенням. Також найближчим часом планується оновлення процедури оскарження рішень модерації, аби обробляти більшу кількість скарг від користувачів.
Точна причина збільшення кількості помилкових фільтрацій залишається невідомою. Проте, ймовірно, вплив має і скорочення штату сервісу. Після придбання Tumblr компанією Automattic у 2019 році, частину співробітників перевели на інші проєкти, а минулого року було оголошено про міграцію внутрішньої інфраструктури Tumblr на платформу WordPress для оптимізації управління та зменшення фінансових втрат.
