У Каліфорнії законопроєкт SB 243, який передбачає суворе регулювання діяльності AI-чатботів-компаньйонів для захисту неповнолітніх та вразливих користувачів, отримав підтримку обох палат законодавчого органу штату й надійшов на підпис губернатору Гевіну Ньюсому. Якщо губернатор підпише документ до 12 жовтня, новий закон набуде чинності з 1 січня 2026 року, зробивши Каліфорнію першим штатом США, де оператори AI-чатботів зобов’язані впроваджувати протоколи безпеки й нестимуть юридичну відповідальність за їх порушення.
Про це розповідає ProIT
Що передбачає законопроєкт SB 243
Законопроєкт визначає AI-компаньйонів як системи, що імітують людські відповіді й здатні задовольняти соціальні потреби користувачів. Він забороняє чатботам вступати у розмови щодо суїцидальних думок, самошкоди чи сексуально відвертого контенту. Для підвищення прозорості SB 243 встановлює вимоги до платформ щодо щогодинних нагадувань користувачам — кожні три години для неповнолітніх — про те, що вони спілкуються з штучним інтелектом, а не реальною людиною, а також закликає робити перерви під час користування. Закон також передбачає щорічну звітність та вимоги до прозорості для компаній-розробників, зокрема OpenAI, Character.AI та Replika, які почнуть діяти з 1 липня 2027 року.
Користувачі, які зазнали шкоди внаслідок порушень, зможуть подавати позови проти AI-компаній із вимогою припинення порушень, стягнення збитків (до 1 000 доларів США за кожне порушення) та компенсації судових витрат.
Причини посилення контролю та реакція галузі
Поштовхом до активного розгляду законопроєкту стало самогубство підлітка Адама Рейна, який після тривалого спілкування з ChatGPT від OpenAI планував завдати собі шкоди. Додатково, у ЗМІ з’явилася інформація про те, що чатботи Meta дозволяли «романтичні» й «чуттєві» розмови з дітьми. Зараз законодавці США й регулятори посилюють увагу до захисту дітей у цифровому просторі: Федеральна торгова комісія готується розслідувати вплив AI-чатботів на психічне здоров’я дітей, а генеральний прокурор Техасу вже розпочав розслідування щодо Meta та Character.AI через можливі маніпуляції з психічним станом дітей. Окремі сенатори США також ініціювали перевірки діяльності Meta.
“Я вважаю, що потенційна шкода дуже велика, тому ми повинні діяти швидко. Ми можемо впровадити розумні запобіжники, щоб особливо неповнолітні знали, що спілкуються не з реальною людиною, щоб ці платформи спрямовували людей до відповідних ресурсів у випадках, коли вони заявляють про наміри нашкодити собі або перебувають у стресі, а також щоб уникнути недоречного контакту з небажаним контентом”.
Законопроєкт SB 243 спочатку містив ще суворіші обмеження, зокрема заборону використання тактик «змінної винагороди», які можуть викликати залежність у користувачів, а також вимоги щодо відстеження випадків, коли чатботи ініціюють розмови про самогубство. Проте ці положення були пом’якшені під час обговорення.
У той час, коли каліфорнійські законодавці просувають SB 243, у штаті також розглядається ще один законопроєкт — SB 53, який зобов’яже AI-компанії до всеохоплюючої прозорості. Проти нього активно виступають провідні технологічні корпорації, такі як Meta, Google та Amazon, тоді як Anthropic підтримує цей закон.
Платформи OpenAI, Character.AI та Replika наразі не коментують SB 243. Представники Character.AI наголошують, що вже впровадили помітні попередження для користувачів про те, що чатбот є вигаданим персонажем. У компанії Meta від коментарів утрималися.
Таким чином, Каліфорнія може стати піонером у створенні правових механізмів захисту дітей та вразливих категорій користувачів від потенційних ризиків, пов’язаних із використанням AI-чатботів.
