Character.AI оголосила про запуск нового формату «Stories» — інтерактивних історій, що дозволяють користувачам створювати власну художню оповідь за участі улюблених персонажів. Ця функція стане альтернативою чат-ботам компанії, доступ до яких з цього тижня повністю обмежено для користувачів до 18 років.
Про це розповідає ProIT
Причини обмеження доступу до чат-ботів для підлітків
Останнім часом зростали побоювання щодо впливу чат-ботів зі штучним інтелектом на психічне здоров’я молоді. Ці сервіси працюють цілодобово та можуть ініціювати спілкування самостійно, що, за словами експертів, може сприяти залежності та негативно впливати на користувачів. Проти Character.AI та інших компаній, таких як OpenAI, вже подано кілька судових позовів через ймовірну причетність до трагедій серед користувачів. Упродовж останнього місяця Character.AI поступово обмежувала доступ неповнолітніх до чат-ботів, а відтепер підлітки взагалі не можуть взаємодіяти з AI-персонажами у відкритому чаті.
“Stories offer a guided way to create and explore fiction, in lieu of open-ended chat,” the company said in the blog post. “It will be offered along with our other multimodal features, so teens can continue engaging with their favorite Characters in a safety-first setting”.
Реакція спільноти та подальший розвиток функції Stories
Інтерактивна художня література останніми роками стає дедалі популярнішою, тому перехід Character.AI до формату Stories виглядає цілком логічним. Водночас частина користувачів, які вже звикли до повноцінного спілкування з чат-ботами, може залишитися незадоволеною цим рішенням. На форумі Character.AI у Reddit думки підлітків розділилися: деякі зізнаються, що сумують за попередньою функціональністю, проте визнають правильність кроку компанії.
- Один із підлітків написав: “I’m so mad about the ban but also so happy because now I can do other things and my addiction might be over finally”.
- Інший користувач додав: “as someone who is under 18 this is just disappointing. but also rightfully so bc people over here my age get addicted to this”.
Формат Stories розроблений як більш безпечний варіант для підлітків, адже він передбачає контрольовану взаємодію та не дозволяє штучному інтелекту самостійно ініціювати розмови. Це має зменшити ризики психологічної залежності, які виникали під час користування відкритими чат-ботами.
Обмеження Character.AI збіглися з ухваленням у Каліфорнії перших у США правил щодо регулювання AI-компаньйонів. Окрім цього, сенатори Джош Гоулі та Річард Блументаль запропонували загальнонаціональний законопроєкт, що може заборонити використання AI-компаньйонів для підлітків по всій країні.
Як підлітки будуть використовувати новий інструмент Stories, стане зрозуміло згодом, однак компанія наголошує, що ця функція відповідає сучасним вимогам безпеки та допоможе знизити ризики надмірної залежності від штучного інтелекту серед молоді.
