YouTube объявил о расширении своей технологии обнаружения дипфейков, созданных искусственным интеллектом, на новую пилотную группу, в которую войдут государственные должностные лица, политические кандидаты и журналисты. Участники этой программы получат доступ к специальному инструменту, позволяющему находить несанкционированный AI-контент с использованием их внешности и при необходимости подавать запрос на его удаление, если он нарушает политику YouTube.
Об этом сообщает ProIT
Как работает новая система и кого она защищает
Система была впервые внедрена в прошлом году для примерно 4 миллионов создателей, входящих в Партнёрскую программу YouTube, после предварительных тестирований. Новый инструмент, подобно уже известной системе Content ID, сосредоточен на обнаружении смоделированных лиц, созданных с помощью AI. Такие технологии часто используются для распространения дезинформации, когда искусственный интеллект имитирует внешность известных личностей, в частности политиков или госслужащих, заставляя их «говорить» или «делать» то, чего они не делали на самом деле.
Пилотная программа направлена на поиск баланса между свободой выражения мнений пользователей и рисками, возникающими из-за стремительного развития AI, способного реалистично воспроизводить публичных лиц.
“Это расширение действительно касается целостности общественного обсуждения. Мы знаем, что риски AI-имитации особенно высоки для тех, кто находится в гражданской сфере. Но, предоставляя этот новый щит, мы также осторожны в том, как мы его используем”, — подчеркнула Лесли Миллер, вице-президент YouTube по вопросам государственной политики.
Миллер уточнила, что не все найденные совпадения будут автоматически удаляться — каждый запрос будет рассматриваться в соответствии с действующей политикой конфиденциальности YouTube. Особое внимание будет уделено тому, является ли контент пародией или политической критикой, защищенной свободой слова.
Дополнительные меры безопасности и планы развития
YouTube поддерживает внедрение на федеральном уровне закона NO FAKES Act в Вашингтоне, который должен регулировать использование AI для несанкционированного воспроизведения голоса или внешности человека. Чтобы воспользоваться инструментом обнаружения дипфейков, участники пилотной программы должны подтвердить свою личность, загрузив селфи и государственное удостоверение личности. После этого они могут создать профиль, просматривать найденные совпадения и, при необходимости, подавать запрос на удаление видео.
В будущем YouTube планирует предоставить участникам возможность предотвращать публикацию видео, нарушающих правила, еще до их появления на платформе. Также рассматривается опция монетизации отдельных видео, подобно тому, как это работает в системе Content ID.
Пока компания не раскрывает имена первых участников пилотной программы, однако подчеркивает, что технология будет постепенно доступна более широкому кругу лиц.
AI-видео маркируются соответствующим обозначением, однако его расположение может отличаться: для чувствительных тем метка появляется в начале видео, для других — только в описании. Это соответствует общей политике компании по работе с AI-контентом.
По словам Амджада Ханифа, вице-президента по продуктам для создателей, пока количество удаленных AI-дипфейков невелико, так как большинство таких видео оказывается безвредными или даже полезными для создателей. В будущем YouTube планирует расширить технологию обнаружения дипфейков на распознавание голоса и защиту других объектов интеллектуальной собственности, в частности популярных персонажей.