Сервис микроблогов Tumblr столкнулся с волной жалоб от пользователей из-за автоматизированной системы фильтрации контента, которая массово и безосновательно помечает посты как «для взрослых». По словам пользователей, даже совершенно безопасные записи, включая изображения домашних животных, фанатские материалы, рисунки и даже фотографии рук, попадают под ограничения, в результате чего их видимость существенно уменьшается.
Об этом сообщает ProIT
Массовые жалобы и подозрения на искусственный интеллект
Многие пользователи Tumblr подозревают, что причиной ложной модерации стала автоматизированная система, основанная на искусственном интеллекте. Подобные проблемы недавно отмечались и на других социальных платформах. В частности, Pinterest признал внутреннюю ошибку, которая привела к массовым блокировкам пользователей, а Instagram отказался комментировать собственные трудности с массовыми банами. Однако в случае Tumblr компания не уточняет, действительно ли ИИ стал причиной этих ложных срабатываний.
«Работая над тем, чтобы сделать Tumblr более безопасным местом для всех пользователей, мы стремимся уважать разнообразные интересы и предпочтения контента, которые можно настроить в параметрах. Мы рассматриваем это как продолжающийся процесс, так как продолжаем уточнять, как мы обнаруживаем и решаем проблемы с контентом для взрослых», – отметил представитель Tumblr в своем заявлении по электронной почте.
Обновление системы модерации и реакция компании
По информации компании, проблема возникла после запуска обновления приложения для Android, в рамках которого тестируются новые уровни модерации и улучшения системы маркировки контента. Представители Tumblr подтвердили, что эксперименты продолжаются, и с учетом отзывов пользователей систему планируют усовершенствовать перед внедрением обновлений на другие платформы.
Кроме того, команда Tumblr официально признала проблему на своем блоге, отметив, что известно о «ошибках в классификации» и ведется активная работа над их уменьшением. Также в ближайшее время планируется обновление процедуры обжалования решений модерации, чтобы обрабатывать большее количество жалоб от пользователей.
Точная причина увеличения количества ложных фильтраций остается неизвестной. Однако, вероятно, влияние оказывает и сокращение штата сервиса. После приобретения Tumblr компанией Automattic в 2019 году часть сотрудников была переведена на другие проекты, а в прошлом году было объявлено о миграции внутренней инфраструктуры Tumblr на платформу WordPress для оптимизации управления и уменьшения финансовых потерь.
