YouTube оголосив про розширення своєї технології виявлення діпфейків, створених штучним інтелектом, на нову пілотну групу, до якої увійдуть державні посадовці, політичні кандидати та журналісти. Учасники цієї програми отримають доступ до спеціального інструменту, що дозволяє знаходити несанкціонований AI-контент із використанням їх зовнішності та за необхідності подавати запит на його видалення, якщо він порушує політику YouTube.
Про це розповідає ProIT
Як працює нова система та кого вона захищає
Система була вперше запроваджена торік для приблизно 4 мільйонів творців, які входять до Партнерської програми YouTube, після попередніх тестувань. Новий інструмент, подібно до вже відомої системи Content ID, зосереджується на виявленні змодельованих облич, створених за допомогою AI. Такі технології часто використовують для поширення дезінформації, коли штучний інтелект імітує зовнішність відомих осіб, зокрема політиків чи держслужбовців, змушуючи їх «говорити» або «робити» те, чого вони не робили насправді.
Пілотна програма має на меті знайти баланс між свободою вираження поглядів користувачів та ризиками, які виникають через стрімкий розвиток AI, здатного реалістично відтворювати публічних осіб.
“This expansion is really about the integrity of the public conversation. We know that the risks of AI impersonation are particularly high for those in the civic space. But while we are providing this new shield, we’re also being careful about how we use it”, — наголосила Леслі Міллер, віцепрезидентка YouTube з питань урядової політики.
Міллер уточнила, що не всі знайдені збіги будуть автоматично видалятися — кожен запит розглядатиметься відповідно до чинної політики конфіденційності YouTube. Особливу увагу приділятимуть тому, чи є контент пародією або політичною критикою, що охороняється свободою слова.
Додаткові заходи безпеки і плани розвитку
YouTube підтримує впровадження на федеральному рівні закону NO FAKES Act у Вашингтоні, який має врегулювати використання AI для несанкціонованого відтворення голосу або зовнішності людини. Щоб скористатися інструментом виявлення діпфейків, учасники пілотної програми мають підтвердити свою особу, завантаживши селфі та державне посвідчення особи. Після цього вони можуть створити профіль, переглядати знайдені збіги й, за потреби, подавати запит на видалення відео.
У майбутньому YouTube планує надати учасникам можливість запобігати публікації відео, що порушують правила, ще до їх появи на платформі. Також розглядається опція монетизації окремих відео, подібно до того, як це працює у системі Content ID.
Поки що компанія не розголошує імена перших учасників пілотної програми, однак підкреслює, що технологія буде поступово доступна ширшому колу осіб.
AI-відео маркуються відповідним позначенням, проте його розташування може відрізнятися: для чутливих тем мітка з’являється на початку відео, для інших — лише в описі. Це відповідає загальній політиці компанії щодо роботи з AI-контентом.
За словами Амджада Ханіфа, віцепрезидента з продуктів для творців, поки що кількість видалених AI-діпфейків невелика, адже більшість таких відео виявляється нешкідливими або навіть корисними для творців. У майбутньому YouTube планує поширити технологію виявлення діпфейків на розпізнавання голосу і захист інших об’єктів інтелектуальної власності, зокрема популярних персонажів.