Стартап Character.AI, який спеціалізується на розвитку штучного інтелекту для рольових ігор, оголосив про радикальні зміни у функціонуванні своєї платформи для підлітків. З листопада 2025 року компанія поступово обмежить можливість користування чат-ботами для осіб віком до 18 років, остаточно припинивши такі розмови до кінця місяця.
Про це розповідає ProIT
Причини змін та нова стратегія Character.AI
Платформа Character.AI зіштовхнулася із серйозною критикою та позовами після нещасних випадків самогубства підлітків, що відбулися після тривалого спілкування з чат-ботами. Внаслідок цього компанія вирішила посилити захист неповнолітніх користувачів: підлітки більше не зможуть вести відкриті діалоги з ШІ, які, за словами експертів, здатні надмірно залучати й впливати на емоційний стан молоді.
“The first thing that we’ve decided as Character.AI is that we will remove the ability for under 18 users to engage in any open-ended chats with AI on our platform,” Karandeep Anand, CEO of Character.AI, told TechCrunch.
Відтепер компанія переорієнтується з формату “AI-компаньйона” на рольову платформу для творчості. Підлітки зможуть використовувати Character.AI для спільного створення історій і візуального контенту замість спілкування з чат-ботом-другом. Таким чином, акцент зміщується від діалогу до креативу.
Технічні заходи й нові можливості платформи
Починаючи з кінця жовтня, для неповнолітніх запроваджується двогодинне обмеження на спілкування з чат-ботами, яке поступово скорочуватиметься до повної заборони. Для контролю віку користувачів Character.AI використовуватиме власний інструмент верифікації, аналіз поведінки, сторонні сервіси на зразок Persona, а у разі необхідності – навіть розпізнавання обличчя та перевірку документів.
Раніше Character.AI вже впровадила декілька заходів для захисту підлітків: обмеження романтичних діалогів, фільтрацію персонажів, батьківський контроль та сповіщення про час, проведений у додатку. Однак, за словами Карандіпа Ананда, ці кроки вже призвели до втрати значної частини підліткової аудиторії, а нові зміни можуть посилити цей відтік. Тим не менш, компанія сподівається, що користувачі віком до 18 років перейдуть до нових форматів взаємодії, таких як AI-ігри, короткі відео та сторітелінг.
Влітку Character.AI презентувала низку нових функцій: відеогенератор AvatarFX, інтерактивні сюжети Scenes, динамічні взаємодії між персонажами у Streams та Community Feed — соціальну стрічку для обміну створеним контентом.
У зверненні до молоді компанія наголосила, що не закриває доступ до платформи для підлітків повністю, а лише обмежує відкриті діалоги з ШІ, щоб стимулювати перехід на безпечніші, творчі сервіси.
Ананд також визнав, що частина підлітків може перейти на інші AI-платформи, такі як OpenAI, які все ще дозволяють відкриті бесіди з чат-ботами. При цьому він сподівається, що приклад Character.AI стане новим стандартом у сфері захисту неповнолітніх у цифровому середовищі. За останні місяці низка законодавців у США ініціювала законопроєкти щодо заборони AI-компаньйонів для дітей, а штат Каліфорнія вже ввів відповідне регулювання.
Крім технічних змін, Character.AI планує створити та фінансувати незалежну некомерційну лабораторію AI Safety Lab, яка займатиметься розробкою стандартів безпеки для майбутніх розважальних AI-функцій. Керівництво компанії вважає, що саме безпека користувачів має стати ключовим пріоритетом у розвитку штучного інтелекту для розваг.
