В Калифорнии законопроект SB 243, который предполагает строгое регулирование деятельности AI-чатботов-компаньонов для защиты несовершеннолетних и уязвимых пользователей, получил поддержку обеих палат законодательного органа штата и был направлен на подпись губернатору Гэвину Нуссому. Если губернатор подпишет документ до 12 октября, новый закон вступит в силу с 1 января 2026 года, сделав Калифорнию первым штатом США, где операторы AI-чатботов обязаны внедрять протоколы безопасности и нести юридическую ответственность за их нарушения.
Об этом сообщает ProIT
Что предполагает законопроект SB 243
Законопроект определяет AI-компаньонов как системы, которые имитируют человеческие ответы и способны удовлетворять социальные потребности пользователей. Он запрещает чатботам вступать в разговоры о суицидальных мыслях, самоповреждении или сексуально откровенном контенте. Для повышения прозрачности SB 243 устанавливает требования к платформам относительно ежечасных напоминаний пользователям — каждые три часа для несовершеннолетних — о том, что они общаются с искусственным интеллектом, а не с реальным человеком, а также призывает делать перерывы во время пользования. Закон также предполагает ежегодную отчетность и требования к прозрачности для компаний-разработчиков, в том числе OpenAI, Character.AI и Replika, которые начнут действовать с 1 июля 2027 года.
Пользователи, которые понесли ущерб в результате нарушений, смогут подавать иски против AI-компаний с требованием прекратить нарушения, взыскать убытки (до 1000 долларов США за каждое нарушение) и компенсировать судебные расходы.
Причины усиления контроля и реакция отрасли
Толчком к активному рассмотрению законопроекта стало самоубийство подростка Адама Рейна, который после длительного общения с ChatGPT от OpenAI планировал причинить себе вред. Дополнительно, в СМИ появилась информация о том, что чатботы Meta позволяли «романтические» и «чувственные» разговоры с детьми. В настоящее время законодатели США и регуляторы усиливают внимание к защите детей в цифровом пространстве: Федеральная торговая комиссия готовится расследовать влияние AI-чатботов на психическое здоровье детей, а генеральный прокурор Техаса уже начал расследование в отношении Meta и Character.AI из-за возможных манипуляций с психическим состоянием детей. Отдельные сенаторы США также инициировали проверки деятельности Meta.
«Я считаю, что потенциальный ущерб очень велик, поэтому мы должны действовать быстро. Мы можем внедрить разумные предосторожности, чтобы особенно несовершеннолетние знали, что общаются не с реальным человеком, чтобы эти платформы направляли людей к соответствующим ресурсам в случаях, когда они заявляют о намерениях причинить себе вред или находятся в стрессе, а также чтобы избежать недопустимого контакта с нежелательным контентом».
Законопроект SB 243 изначально содержал еще более строгие ограничения, в том числе запрет на использование тактик «переменной награды», которые могут вызывать зависимость у пользователей, а также требования по отслеживанию случаев, когда чатботы инициируют разговоры о самоубийстве. Однако эти положения были смягчены во время обсуждения.
В то время как калифорнийские законодатели продвигают SB 243, в штате также рассматривается еще один законопроект — SB 53, который обяжет AI-компании к всеобъемлющей прозрачности. Против него активно выступают ведущие технологические корпорации, такие как Meta, Google и Amazon, в то время как Anthropic поддерживает этот закон.
Платформы OpenAI, Character.AI и Replika в настоящее время не комментируют SB 243. Представители Character.AI подчеркивают, что уже внедрили заметные предупреждения для пользователей о том, что чатбот является вымышленным персонажем. В компании Meta от комментариев воздержались.
Таким образом, Калифорния может стать пионером в создании правовых механизмов защиты детей и уязвимых категорий пользователей от потенциальных рисков, связанных с использованием AI-чатботов.