Генеральний прокурор Техасу Кен Пакстон ініціював розслідування щодо діяльності компаній Meta AI Studio та Character.AI через підозри у використанні оманливих маркетингових стратегій і поданні себе як інструментів для підтримки ментального здоров’я дітей. За словами представників офісу прокурора, ці сервіси можуть порушувати закони про захист споживачів штату.
Про це розповідає ProIT
Проблеми конфіденційності та цільової реклами
Розслідування розпочалося невдовзі після того, як сенатор Джош Гоулі оголосив про власну перевірку Meta на тлі повідомлень про неприйнятну взаємодію чат-ботів з дітьми, зокрема флірт. Офіс прокурора Техасу звинувачує Meta та Character.AI у створенні штучних персон, які позиціонуються як професійні терапевтичні інструменти, незважаючи на відсутність відповідної медичної кваліфікації чи належного нагляду.
Зокрема, серед багатомільйонного вибору персонажів Character.AI великою популярністю користується бот Psychologist, якого часто використовують молоді користувачі. Хоча Meta не пропонує терапевтичних ботів спеціально для дітей, жодних обмежень щодо використання чат-бота Meta AI чи сторонніх персонажів для психологічних порад не існує.
“В умовах цифрової епохи ми маємо продовжувати захищати дітей Техасу від оманливих і експлуатативних технологій. Під виглядом джерел емоційної підтримки AI-платформи можуть вводити в оману вразливих користувачів, особливо дітей, змушуючи їх вірити, що вони отримують справжню психологічну допомогу. Насправді ж їм часто пропонують шаблонні відповіді, створені на основі зібраних персональних даних і подані як терапевтичні поради”, – зазначив Кен Пакстон.
Представник Meta Раян Деніелс наголосив, що компанія чітко маркує AI-персонажі та додає попередження про те, що їх відповіді генеруються штучним інтелектом, а не людьми. Водночас, за його словами, ці сервіси не є ліцензованими професіоналами, а користувачі у разі потреби спрямовуються до кваліфікованих спеціалістів. Однак експерти зазначають, що діти часто ігнорують або не розуміють такі попередження.
Політика приватності та недоліки законодавчого регулювання
Додаткову стурбованість викликає збір і використання даних неповнолітніх. Відповідно до політики конфіденційності Meta, платформа збирає підказки, фідбек та інші взаємодії з чат-ботами для покращення своїх AI-технологій. Хоч офіційно не згадується про рекламу, інформація може бути передана третім сторонам для персоналізації результатів, що фактично означає таргетовану рекламу. Character.AI також реєструє ідентифікатори, демографічні дані, місцезнаходження, історію переглядів та іншу інформацію про користувачів, яку використовує для тренування AI і формування персоналізованої реклами, а також ділиться цими даними з рекламодавцями та аналітичними компаніями.
Обидві компанії зазначають, що їх сервіси не призначені для дітей до 13 років, проте Meta не завжди ефективно контролює створення акаунтів неповнолітніми, а Character.AI пропонує персонажів, які приваблюють молодшу аудиторію. Відомо, що навіть шестирічна донька гендиректора Character.AI Карандіпа Ананда користується чат-ботами платформи.
Законодавчі ініціативи на кшталт KOSA (Закон про безпеку дітей онлайн) покликані захищати малолітніх користувачів від подібних зловживань. KOSA був повторно внесений до Сенату США в травні 2025 року сенаторами Маршею Блекберн та Річардом Блюменталем, проте раніше законопроєкт блокувався через лобіювання з боку техноринку, насамперед Meta, яка стверджувала, що нові вимоги нашкодять її бізнес-моделі.
Генеральний прокурор Техасу видав обом компаніям юридичні запити щодо надання документів, даних та свідчень для з’ясування, чи порушували вони законодавство штату про захист прав споживачів.