Генеральный прокурор Техаса Кен Пакстон инициировал расследование в отношении компаний Meta AI Studio и Character.AI из-за подозрений в использовании обманчивых маркетинговых стратегий и представлении себя как инструментов для поддержки ментального здоровья детей. По словам представителей офиса прокурора, эти сервисы могут нарушать законы о защите потребителей штата.
Об этом сообщает ProIT
Проблемы конфиденциальности и целевой рекламы
Расследование началось вскоре после того, как сенатор Джош Хоули объявил о своей проверке Meta на фоне сообщений о неприемлемом взаимодействии чат-ботов с детьми, включая флирт. Офис прокурора Техаса обвиняет Meta и Character.AI в создании искусственных персонажей, которые позиционируются как профессиональные терапевтические инструменты, несмотря на отсутствие соответствующей медицинской квалификации или надлежащего надзора.
В частности, среди многомиллионного выбора персонажей Character.AI большой популярностью пользуется бот Psychologist, который часто используется молодыми пользователями. Хотя Meta не предлагает терапевтических ботов специально для детей, никаких ограничений на использование чат-бота Meta AI или сторонних персонажей для психологических советов не существует.
«В условиях цифровой эпохи мы должны продолжать защищать детей Техаса от обманчивых и эксплуататорских технологий. Под видом источников эмоциональной поддержки AI-платформы могут вводить в заблуждение уязвимых пользователей, особенно детей, заставляя их верить, что они получают настоящую психологическую помощь. На самом деле им часто предлагают шаблонные ответы, созданные на основе собранных персональных данных и поданные как терапевтические советы», – отметил Кен Пакстон.
Представитель Meta Райан Дэниелс подчеркнул, что компания четко маркирует AI-персонажи и добавляет предупреждения о том, что их ответы генерируются искусственным интеллектом, а не людьми. В то же время, по его словам, эти сервисы не являются лицензированными профессионалами, а пользователи в случае необходимости направляются к квалифицированным специалистам. Однако эксперты отмечают, что дети часто игнорируют или не понимают такие предупреждения.
Политика конфиденциальности и недостатки законодательного регулирования
Дополнительную озабоченность вызывает сбор и использование данных несовершеннолетних. Согласно политике конфиденциальности Meta, платформа собирает подсказки, отзывы и другие взаимодействия с чат-ботами для улучшения своих AI-технологий. Хотя официально не упоминается о рекламе, информация может быть передана третьим сторонам для персонализации результатов, что фактически означает таргетированную рекламу. Character.AI также регистрирует идентификаторы, демографические данные, местоположение, историю просмотров и другую информацию о пользователях, которую использует для тренировки AI и формирования персонализированной рекламы, а также делится этими данными с рекламодателями и аналитическими компаниями.
Обе компании отмечают, что их сервисы не предназначены для детей до 13 лет, однако Meta не всегда эффективно контролирует создание аккаунтов несовершеннолетними, а Character.AI предлагает персонажей, которые привлекают младшую аудиторию. Известно, что даже шестилетняя дочь генерального директора Character.AI Карандипа Ананда пользуется чат-ботами платформы.
Законодательные инициативы, такие как KOSA (Закон о безопасности детей в интернете), призваны защищать малолетних пользователей от подобных злоупотреблений. KOSA был повторно внесен в Сенат США в мае 2025 года сенаторами Маршей Блэкберн и Ричардом Блюменталем, однако ранее законопроект блокировался из-за лоббирования со стороны технорынка, прежде всего Meta, которая утверждала, что новые требования навредят ее бизнес-модели.
Генеральный прокурор Техаса выдал обеим компаниям юридические запросы на предоставление документов, данных и свидетельств для выяснения, нарушали ли они законодательство штата о защите прав потребителей.