Компанія Meta заявила про тимчасове призупинення доступу підлітків до AI-персонажів у всіх своїх застосунках по всьому світу. Це рішення ухвалено напередодні запуску оновленої версії AI-персонажів, яка буде орієнтована на безпечнішу взаємодію підлітків із штучним інтелектом.
Про це розповідає ProIT
Рішення пов’язане із судовими розглядами та вимогами батьків
Оголошення про обмеження доступу було зроблено за кілька днів до початку судового процесу проти Meta у штаті Нью-Мексико, де компанію звинувачують у недостатньому захисті дітей від сексуальної експлуатації у своїх застосунках. Також Meta намагалася обмежити розслідування щодо впливу соцмереж на психічне здоров’я підлітків.
Ще у жовтні Meta представила функції батьківського контролю для AI-персонажів, які дозволяють батькам і опікунам відстежувати теми розмов і блокувати доступ до певних персонажів. Передбачалося, що ці можливості стануть доступними цього року, але наразі компанія повністю вимикає AI-персонажів для підлітків, щоб підготувати нову, безпечнішу версію продукту.
“Починаючи з найближчих тижнів, підлітки більше не зможуть користуватися AI-персонажами в наших застосунках до тих пір, поки не буде готовий оновлений продукт. Це стосується всіх, хто вказав дату народження як підліток, а також користувачів, яких ми можемо ідентифікувати як підлітків за допомогою нашої технології прогнозування віку”, — йдеться в оновленому блозі компанії.
Підвищення захисту підлітків у цифровому середовищі
Meta зазначила, що рішення ухвалене з урахуванням побажань батьків щодо більшого контролю та прозорості у взаємодії їхніх дітей з AI-персонажами. Оновлені AI-персонажі матимуть вбудовані батьківські налаштування і будуть давати вікові відповіді, обмежуючись темами освіти, спорту та хобі.
Окрім цього, компанія активно впроваджує додаткові обмеження для підлітків у своїх застосунках. У жовтні Meta оновила Instagram, де з’явилися нові функції батьківського контролю, які обмежують підліткам доступ до тем, пов’язаних із насильством, оголеністю чи наркотиками.
Регуляторні органи все частіше звертають увагу на діяльність соціальних платформ щодо захисту підлітків. Окрім судового процесу у Нью-Мексико, наступного тижня Meta має постати перед судом за обвинуваченням у сприянні формуванню залежності від соцмереж. Очікується, що генеральний директор компанії Марк Цукерберг буде свідчити у цій справі.
Інші компанії у сфері штучного інтелекту також змушені посилювати захист підлітків. Наприклад, стартап Character.AI у жовтні обмежив можливість відкритого спілкування з чат-ботами для неповнолітніх, а в листопаді оголосив про розробку інтерактивних історій для дітей. OpenAI протягом останніх місяців впровадила нові правила безпеки для підлітків у ChatGPT і почала застосовувати вікові обмеження на контент.
Meta підкреслила, що після запуску нової версії AI-персонажів доступ до них матимуть усі користувачі, але з обов’язковими функціями батьківського контролю для підлітків.