Платформа Character.ai, яка дозволяє користувачам створювати та взаємодіяти з різноманітними чат-ботами, оголосила про суттєві зміни у своїй політиці щодо неповнолітніх користувачів. Від 25 листопада 2025 року особи до 18 років втратять можливість брати участь у відкритих чатах із штучним інтелектом на цій платформі.
Про це розповідає ProIT
Нові умови доступу для неповнолітніх
У період з 30 жовтня до 25 листопада 2025 року Character.ai поступово зменшуватиме максимально дозволений час спілкування з чат-ботами для підлітків — від двох годин на добу до повної заборони. Команда розробників пояснює це рішення турботою про безпеку молодших користувачів та необхідністю адекватного реагування на потенційні ризики взаємодії зі ШІ.
Для неповнолітніх планується створити окремий розділ із «дозволеними» чат-ботами, котрі проходитимуть спеціальний відбір. Крім того, на платформі запроваджується система підтвердження віку, у рамках якої буде використано сервіс Persona.
Реакція на інциденти та подальші кроки компанії
Ініціатива щодо обмежень виникла після ретельних консультацій із наглядовими органами, юристами та батьками, а також у зв’язку з низкою трагічних випадків, пов’язаних із використанням чат-ботів підлітками. Зокрема, у лютому 2024 року 14-річний Сьюелл Сетцер III, який активно спілкувався з ботом-персонажем, натхненним Дейенеріс Таргарієн із «Пісні льоду і вогню», вчинив самогубство.
“Зміни в політиці в компанії пояснили занепокоєнням щодо того, який ефект ШІ може чинити на дітей і підлітків. Команда Character.ai ухвалила таке рішення після ретельної консультації з наглядовими органами, юристами та батьками неповнолітніх користувачів”.
Після цього випадку мати хлопця, Меган Гарсія, подала судовий позов проти Character.ai. Попри спроби компанії домогтися скасування справи, суд вирішив продовжити її розгляд. У вересні 2025 року розробники зіткнулися з ще одним позовом, пов’язаним із роботою платформи.
Додатково Character.ai анонсувала створення некомерційної організації AI Safety Lab, яка займатиметься розробкою нових методів забезпечення безпеки під час взаємодії зі штучним інтелектом.
Ці зміни відображають загальносвітову тенденцію до посилення контролю за доступом неповнолітніх до ШІ. Наприклад, компанія OpenAI зробила свій чат-бот ChatGPT більш співчутливим після того, як понад мільйон користувачів щотижня ділилися із ним думками про самогубство.