Губернатор Калифорнии Гэвин Ньюсом подписал исторический закон SB 243, который впервые в Соединенных Штатах устанавливает четкие правила для операторов чат-ботов-компаньонов с использованием искусственного интеллекта. С этого момента компании, разрабатывающие такие сервисы, обязаны внедрить обязательные протоколы безопасности для защиты детей и уязвимых пользователей.
Об этом сообщает ProIT
Главные требования нового законодательства
SB 243 обязывает компании — от гигантов индустрии, таких как Meta и OpenAI, до специализированных стартапов вроде Character AI и Replika — соблюдать строгие стандарты безопасности. Закон был разработан после ряда трагических случаев, в том числе самоубийства подростка Адама Рейна после длительного общения с ChatGPT и инцидентов с допущением «романтических» или «эротических» диалогов между чат-ботами и детьми. В последнее время семья из Колорадо подала иск к Character AI из-за самоубийства 13-летней девочки после сексуализированных разговоров с чат-ботом компании.
“Новые технологии, такие как чат-боты и социальные сети, могут вдохновлять, обучать и соединять — но без реальных ограничений технологии также могут эксплуатировать, вводить в заблуждение и ставить под угрозу наших детей”, — заявил Ньюсом в своем заявлении. “Мы видели поистине ужасные и трагические примеры молодых людей, пострадавших от нерегулируемых технологий, и мы не будем стоять в стороне, пока компании продолжают действовать без необходимых ограничений и ответственности. Мы можем продолжать лидировать в области ИИ и технологий, но мы должны делать это ответственно — защищая наших детей на каждом шагу. Безопасность наших детей не продается”.
Закон вступит в силу 1 января 2026 года. Согласно его положениям, компании должны внедрить проверку возраста пользователей, предупреждения о рисках общения в социальных сетях и с чат-ботами-компаньонами, а также усилить наказания за незаконные дипфейки — штраф может достигать 250 000 долларов за каждый случай. Также требуется создание протоколов для реагирования на случаи суицида и самоповреждения, которые следует предоставлять Департаменту здравоохранения штата вместе со статистикой по информированию пользователей о службах поддержки.
Дополнительные ограничения и реакция индустрии
Платформы должны четко сообщать, что любые взаимодействия происходят с искусственным интеллектом, а чат-боты не должны выдавать себя за медицинских работников. Несовершеннолетним пользователям следует предоставлять напоминания о перерывах и предотвращать просмотр сексуализированных изображений, созданных ИИ.
Некоторые компании уже начали внедрять дополнительные меры защиты детей. OpenAI, например, запустила родительский контроль, системы фильтрации контента и выявления самоповреждений в ChatGPT. Replika, ориентированная на взрослых от 18 лет, заявляет о значительных инвестициях в фильтрацию контента и перенаправление пользователей к надежным кризисным службам, а также о готовности соблюдать действующие нормы.
Character AI, в свою очередь, отмечает, что все чаты имеют дисклеймер о их искусственной природе, и компания готова сотрудничать с регуляторами и выполнять требования SB 243. Сенатор Стив Падилья, один из инициаторов закона, подчеркивает важность быстрых действий для защиты уязвимых слоев населения и призывает другие штаты присоединиться к законодательным инициативам.
SB 243 стал уже второй значимой инициативой Калифорнии в сфере регулирования искусственного интеллекта за последний месяц. В конце сентября Ньюсом подписал закон SB 53, который обязывает крупные AI-компании, в том числе OpenAI, Anthropic, Meta и Google DeepMind, отчитываться о своих протоколах безопасности и защищает правозащитников, которые сообщают о нарушениях. Другие штаты, такие как Иллинойс, Невада и Юта, также ввели ограничения или запреты на использование чат-ботов вместо лицензированной психологической помощи.