OpenAI представила новий соціальний застосунок Sora, який нагадує TikTok за форматом, однак вже після запуску платформа стала відомою завдяки численним відео з реалістичними дипфейками генерального директора компанії Сема Олтмана. У відео, створених користувачами, Олтман з’являється у найнеймовірніших ситуаціях: спостерігає за фабрикою свиней із телефонами, подає напої Пікачу та Еріку Картману у Starbucks, свариться з відвідувачем у McDonald’s, або тікає з графічними процесорами NVIDIA з магазину Target.
Про це розповідає ProIT
Відеогенератор Sora: як працює та які виклики створює
Головна особливість Sora — можливість створити власний дипфейк, так званий “cameo”, завантаживши біометричні дані. Для цього користувачі записують коротке відео із читанням чисел і поворотами голови. Опції налаштування дозволяють обирати, хто може генерувати відео з вашим образом: лише ви, обрані користувачі, взаємні підписники чи всі бажаючі.
Сем Олтман відкрив доступ до свого “cameo” для кожного, що призвело до хвилі пародійних та провокаційних відео, де, наприклад, персонажі на кшталт Пікачу чи Спанч Боба просять Олтмана припинити використовувати їх для тренування ШІ. Цей крок Олтмана, ймовірно, є демонстрацією власної впевненості у безпечності продукту, однак багато користувачів ставлять під сумнів етичність подібних експериментів.
Безпека, авторське право та ризики маніпуляції
Платформа Sora вже стикається з обхідними маневрами — користувачі знаходять способи обходити обмеження та створювати відео не лише зі знаменитостями, а й з історичними особистостями. Система не дозволяє генерувати контент із реальною людиною без її дозволу, але менш суворо ставиться до давно померлих історичних постатей. Зокрема, у стрічці можна побачити вигадані сцени з Авраамом Лінкольном чи Джоном Кеннеді.
Ще одне питання — дотримання авторських прав. Sora пропонує власникам авторських прав самостійно відмовитися від використання їхнього контенту, що суттєво відрізняється від загальноприйнятої практики і викликає юридичні суперечки. До того ж, експерти застерігають: чим реалістичнішим стає відео, тим легше його використовувати для маніпуляцій, поширення дезінформації чи кібербулінгу.
“Цей контент може порушувати наші правила щодо використання зовнішньої схожості третіх осіб”, — зазначає штучний Олтман в одному з відео, після чого починає сміятися, ніби розуміє абсурдність ситуації.
OpenAI стверджує, що приділяє увагу безпеці та пропонує батьківський контроль, а також інструменти для контролю доступу до “cameo”. Проте критики вважають безвідповідальним надавати у вільний доступ технологію, здатну створювати реалістичні дипфейки будь-кого.
Уже зараз Sora розглядають як потенційне джерело дезінформації та етичних викликів для суспільства. Адже, коли додаток стане доступний широкій публіці, створювати подібні відео зможе кожен — і наслідки цього важко передбачити.