Character.AI объявила о запуске нового формата «Stories» — интерактивных историй, которые позволяют пользователям создавать собственное художественное повествование с участием любимых персонажей. Эта функция станет альтернативой чат-ботам компании, доступ к которым с этой недели полностью ограничен для пользователей до 18 лет.
Об этом сообщает ProIT
Причины ограничения доступа к чат-ботам для подростков
В последнее время возросли опасения по поводу влияния чат-ботов с искусственным интеллектом на психическое здоровье молодежи. Эти сервисы работают круглосуточно и могут инициировать общение самостоятельно, что, по словам экспертов, может способствовать зависимости и негативно влиять на пользователей. Против Character.AI и других компаний, таких как OpenAI, уже подано несколько судебных исков из-за вероятной причастности к трагедиям среди пользователей. В течение последнего месяца Character.AI постепенно ограничивала доступ несовершеннолетних к чат-ботам, а теперь подростки вообще не могут взаимодействовать с AI-персонажами в открытом чате.
“Stories предлагают направленный способ создания и исследования художественной литературы вместо открытого общения,” — говорится в блоге компании. “Это будет предложено вместе с нашими другими мультимодальными функциями, чтобы подростки могли продолжать взаимодействовать с любимыми персонажами в безопасной обстановке”.
Реакция сообщества и дальнейшее развитие функции Stories
Интерактивная художественная литература в последние годы становится все более популярной, поэтому переход Character.AI к формату Stories выглядит вполне логичным. В то же время часть пользователей, которые уже привыкли к полноценному общению с чат-ботами, могут остаться недовольными этим решением. На форуме Character.AI в Reddit мнения подростков разделились: некоторые признаются, что скучают по предыдущей функциональности, однако признают правильность шага компании.
- Один из подростков написал: “Я так зол на запрет, но также так счастлив, потому что теперь я могу заниматься другими вещами, и моя зависимость, наконец, может закончиться”.
- Другой пользователь добавил: “как человек, которому меньше 18, это просто разочаровывающе. но также справедливо, потому что люди моего возраста здесь становятся зависимыми от этого”.
Формат Stories разработан как более безопасный вариант для подростков, так как он предполагает контролируемое взаимодействие и не позволяет искусственному интеллекту самостоятельно инициировать разговоры. Это должно снизить риски психологической зависимости, которые возникали при использовании открытых чат-ботов.
Ограничения Character.AI совпали с принятием в Калифорнии первых в США правил по регулированию AI-компаньонов. Кроме того, сенаторы Джош Хоули и Ричард Блументаль предложили общенациональный законопроект, который может запретить использование AI-компаньонов для подростков по всей стране.
Как подростки будут использовать новый инструмент Stories, станет понятно позже, однако компания подчеркивает, что эта функция соответствует современным требованиям безопасности и поможет снизить риски чрезмерной зависимости от искусственного интеллекта среди молодежи.
