Стартап Character.AI, который специализируется на развитии искусственного интеллекта для ролевых игр, объявил о радикальных изменениях в функционировании своей платформы для подростков. С ноября 2025 года компания постепенно ограничит возможность использования чат-ботов для лиц младше 18 лет, окончательно прекратив такие разговоры к концу месяца.
Об этом сообщает ProIT
Причины изменений и новая стратегия Character.AI
Платформа Character.AI столкнулась с серьезной критикой и исками после несчастных случаев самоубийства подростков, произошедших после длительного общения с чат-ботами. В результате компания решила усилить защиту несовершеннолетних пользователей: подростки больше не смогут вести открытые диалоги с ИИ, которые, по словам экспертов, способны чрезмерно вовлекать и влиять на эмоциональное состояние молодежи.
“Первое, что мы решили в Character.AI, это убрать возможность для пользователей младше 18 лет участвовать в любых открытых разговорах с ИИ на нашей платформе,” сказал Карандийп Ананд, генеральный директор Character.AI, в интервью TechCrunch.
Теперь компания переориентируется с формата “AI-компаньона” на ролевую платформу для творчества. Подростки смогут использовать Character.AI для совместного создания историй и визуального контента вместо общения с чат-ботом-другом. Таким образом, акцент смещается от диалога к креативу.
Технические меры и новые возможности платформы
Начиная с конца октября, для несовершеннолетних вводится двухчасовое ограничение на общение с чат-ботами, которое постепенно будет сокращаться до полной запрета. Для контроля возраста пользователей Character.AI будет использовать собственный инструмент верификации, анализ поведения, сторонние сервисы, такие как Persona, а в случае необходимости – даже распознавание лиц и проверку документов.
Ранее Character.AI уже внедрила несколько мер для защиты подростков: ограничение романтических диалогов, фильтрацию персонажей, родительский контроль и уведомления о времени, проведенном в приложении. Однако, по словам Карандийпа Ананда, эти шаги уже привели к потере значительной части подростковой аудитории, а новые изменения могут усилить этот отток. Тем не менее, компания надеется, что пользователи младше 18 лет перейдут к новым форматам взаимодействия, таким как AI-игры, короткие видео и сторителлинг.
Летом Character.AI представила ряд новых функций: видеогенератор AvatarFX, интерактивные сюжеты Scenes, динамические взаимодействия между персонажами в Streams и Community Feed — социальную ленту для обмена созданным контентом.
В обращении к молодежи компания подчеркнула, что не закрывает доступ к платформе для подростков полностью, а лишь ограничивает открытые диалоги с ИИ, чтобы стимулировать переход на более безопасные, творческие сервисы.
Ананд также признал, что часть подростков может перейти на другие AI-платформы, такие как OpenAI, которые все еще позволяют открытые беседы с чат-ботами. При этом он надеется, что пример Character.AI станет новым стандартом в сфере защиты несовершеннолетних в цифровой среде. За последние месяцы ряд законодателей в США инициировал законопроекты о запрете AI-компаньонов для детей, а штат Калифорния уже ввел соответствующее регулирование.
Кроме технических изменений, Character.AI планирует создать и финансировать независимую некоммерческую лабораторию AI Safety Lab, которая будет заниматься разработкой стандартов безопасности для будущих развлекательных AI-функций. Руководство компании считает, что именно безопасность пользователей должна стать ключевым приоритетом в развитии искусственного интеллекта для развлечений.
