OpenAI представила новое социальное приложение Sora, которое напоминает TikTok по формату, однако уже после запуска платформа стала известна благодаря многочисленным видео с реалистичными дипфейками генерального директора компании Сэма Олтмана. В видео, созданных пользователями, Олтман появляется в самых невероятных ситуациях: наблюдает за свинофермой с телефонами, подает напитки Пикачу и Эрику Картману в Starbucks, ссорится с посетителем в McDonald’s или убегает с графическими процессорами NVIDIA из магазина Target.
Об этом сообщает ProIT
Видеогенератор Sora: как работает и какие вызовы создает
Главная особенность Sora — возможность создать собственный дипфейк, так называемый «cameo», загрузив биометрические данные. Для этого пользователи записывают короткое видео с чтением чисел и поворотами головы. Опции настройки позволяют выбирать, кто может генерировать видео с вашим образом: только вы, избранные пользователи, взаимные подписчики или все желающие.
Сэм Олтман открыл доступ к своему «cameo» для каждого, что привело к волне пародийных и провокационных видео, где, например, персонажи вроде Пикачу или Спанч Боба просят Олтмана прекратить использовать их для тренировки ИИ. Этот шаг Олтмана, вероятно, является демонстрацией собственной уверенности в безопасности продукта, однако многие пользователи ставят под сомнение этичность подобных экспериментов.
Безопасность, авторское право и риски манипуляции
Платформа Sora уже сталкивается с обходными маневрами — пользователи находят способы обходить ограничения и создавать видео не только со знаменитостями, но и с историческими личностями. Система не позволяет генерировать контент с реальным человеком без его разрешения, но менее строго относится к давно умершим историческим фигурам. В частности, в ленте можно увидеть вымышленные сцены с Авраамом Линкольном или Джоном Кеннеди.
Еще один вопрос — соблюдение авторских прав. Sora предлагает владельцам авторских прав самостоятельно отказаться от использования их контента, что существенно отличается от общепринятой практики и вызывает юридические споры. Кроме того, эксперты предупреждают: чем реалистичнее становится видео, тем легче его использовать для манипуляций, распространения дезинформации или кибербуллинга.
«Этот контент может нарушать наши правила относительно использования внешнего сходства третьих лиц», — отмечает искусственный Олтман в одном из видео, после чего начинает смеяться, будто понимает абсурдность ситуации.
OpenAI утверждает, что уделяет внимание безопасности и предлагает родительский контроль, а также инструменты для контроля доступа к «cameo». Однако критики считают безответственным предоставлять в свободный доступ технологию, способную создавать реалистичные дипфейки кого угодно.
Уже сейчас Sora рассматривают как потенциальный источник дезинформации и этических вызовов для общества. Ведь, когда приложение станет доступно широкой публике, создавать подобные видео сможет каждый — и последствия этого трудно предсказать.