Платформа Character.AI, специализирующаяся на общении и ролевых играх с персонажами на основе искусственного интеллекта, анонсировала внедрение новых мультимедийных функций. Пользователям стала доступна технология AvatarFX — собственная модель для генерации видео, а также инструменты Scenes и Streams, позволяющие создавать видеоролики с собственными персонажами и делиться ими в новой социальной ленте.
Об этом сообщает ProIT
Новые функции AvatarFX, Scenes и Streams
Разработчики Character.AI подчеркивают, что платформа начинала как сервис для индивидуального текстового чата, но сейчас существенно расширяет свои возможности в соответствии с пожеланиями пользователей. Ранее функция AvatarFX была доступна только для подписчиков, однако теперь все пользователи могут создавать до пяти видео в день. Для генерации видео необходимо загрузить фотографию, выбрать голос персонажа и написать текст, который он должен озвучить. Кроме того, можно загрузить аудиофайл для настройки голоса, хотя эта функция пока работает не идеально.
Готовые видеоролики можно преобразовывать в Scenes — интерактивные сцены, в которых персонажи взаимодействуют в подготовленных сюжетах. Пока что Scenes доступны только в мобильном приложении. Другой новинкой являются Streams, которые позволяют создавать динамичные моменты между любыми двумя персонажами. Streams появятся в ближайшее время как в веб-версии, так и в мобильном приложении. Оба формата можно будет опубликовать в новой общественной ленте, которая также вскоре станет доступной.
Безопасность и потенциальные риски
Несмотря на инновационность, платформа Character.AI не раз подвергалась критике за злоупотребления ее возможностями. Родители подавали иски против компании, утверждая, что чат-боты подстрекали детей к самоповреждению, суициду или даже агрессии по отношению к родителям. Известен трагический случай, когда 14-летний подросток совершил самоубийство после общения с ботом Character.AI, с которым у него сложились нездоровые, навязчивые отношения.
“Character.AI начинала как 1:1 текстовый чат, и сегодня мы эволюционируем, чтобы делать гораздо больше, вдохновленные тем, что наши пользователи говорят [нам], что они хотят видеть на платформе,” — написала компания в блоге.
С расширением мультимедийных функций возрастает и риск злоупотреблений — например, создание deepfake-видео или манипуляций с внешностью людей. Character.AI ограничивает возможность загрузки настоящих фотографий известных личностей или любых людей, автоматически искажая их сходство до менее узнаваемого. В то же время, если загружается рисунок знаменитости, платформа не распознает его как реального человека, однако такие изображения менее склонны вводить пользователей в заблуждение относительно их подлинности.
Каждое созданное видео Character.AI маркирует водяными знаками, хотя некоторые пользователи могут обходить это ограничение. Примером являются попытки создания deepfake-видео по иллюстрациям, например, Илона Маска, где даже при использовании настоящего голоса персонаж выглядит как анимированная версия изображения, но риски злоупотреблений остаются.
Компания подчеркивает, что ее цель — создать безопасное пространство для творчества, одновременно обеспечивая безопасность всех пользователей.