Законодавці штату Нью-Йорк підтримали законопроєкт RAISE, спрямований на запобігання масштабним катастрофам, які можуть бути спричинені передовими моделями штучного інтелекту від таких компаній, як OpenAI, Google і Anthropic. Документ встановлює чіткі вимоги до прозорості для лабораторій, що розробляють передові AI-моделі, і передбачає відповідальність у разі ігнорування стандартів безпеки.
Про це розповідає ProIT
Основні положення RAISE Act та його вплив
RAISE Act є значною перемогою для руху за безпеку штучного інтелекту, який останніми роками стикався з опором через пріоритети інновацій у Кремнієвій долині та політику адміністрації Трампа. Серед відомих прихильників законопроєкту — лауреат Нобелівської премії Джеффрі Хінтон і піонер досліджень AI Йошуа Бенджіо. Якщо губернатор штату Кеті Гочул підпише закон, це стане першим у США юридично зобов’язуючим стандартом прозорості для лабораторій штучного інтелекту.
Згідно з положеннями RAISE Act, найбільші AI-лабораторії світу повинні будуть публікувати детальні звіти щодо безпеки й захисту своїх передових AI-моделей, а також інформувати про інциденти, пов’язані з безпекою — наприклад, небезпечну поведінку моделі чи викрадення AI-моделі зловмисниками. За невиконання цих вимог компаніям загрожують цивільні штрафи до 30 мільйонів доларів, які може накладати генеральний прокурор штату Нью-Йорк.
Відмінності від інших законопроєктів та реакція індустрії
RAISE Act частково повторює положення резонансного каліфорнійського законопроєкту SB 1047, який був ветований, однак, як зазначає сенатор Ендрю Гунардес, один зі співавторів RAISE Act, цей документ розробляли з урахуванням критики попередніх ініціатив. Зокрема, він не містить вимоги щодо обов’язкової наявності «kill switch» у моделях AI та не покладає відповідальність на компанії, які донавчають вже створені моделі.
Критики законопроєкту, зокрема представники Кремнієвої долини, вважають, що нові вимоги можуть загальмувати інновації. Водночас автори RAISE Act наголошують, що регулювання стосується лише компаній, які витратили на обчислювальні ресурси для навчання своїх моделей понад 100 мільйонів доларів, і не поширюється на стартапи чи академічні установи. Аналогічно, співзасновник Anthropic Джек Кларк заявив, що компанія не визначилася щодо підтримки законопроєкту, але зауважив, що
«RAISE Act міг би створити ризики для менших компаній».
Ще одне поширене побоювання — що розробники AI-моделей можуть відмовитися запускати передові продукти в Нью-Йорку через жорстке регулювання. Проте законодавці запевняють, що адміністративне навантаження не є суттєвим і не повинно змусити компанії залишати ринок штату, враховуючи його економічну вагу.
OpenAI, Google та Meta не прокоментували ухвалення законопроєкту.