Законодатели штата Нью-Йорк поддержали законопроект RAISE, направленный на предотвращение масштабных катастроф, которые могут быть вызваны передовыми моделями искусственного интеллекта от таких компаний, как OpenAI, Google и Anthropic. Документ устанавливает четкие требования к прозрачности для лабораторий, разрабатывающих передовые AI-модели, и предусматривает ответственность в случае игнорирования стандартов безопасности.
Об этом сообщает ProIT
Основные положения RAISE Act и его влияние
RAISE Act является значительной победой для движения за безопасность искусственного интеллекта, которое в последние годы сталкивалось с сопротивлением из-за приоритетов инноваций в Кремниевой долине и политики администрации Трампа. Среди известных сторонников законопроекта — лауреат Нобелевской премии Джеффри Хинтон и пионер исследований AI Йошуа Бенджио. Если губернатор штата Кэти Хочул подпишет закон, это станет первым в США юридически обязательным стандартом прозрачности для лабораторий искусственного интеллекта.
Согласно положениям RAISE Act, крупнейшие AI-лаборатории мира должны будут публиковать детализированные отчеты по безопасности и защите своих передовых AI-моделей, а также информировать о происшествиях, связанных с безопасностью — например, о небезопасном поведении модели или похищении AI-модели злоумышленниками. За невыполнение этих требований компаниям грозят гражданские штрафы до 30 миллионов долларов, которые может накладывать генеральный прокурор штата Нью-Йорк.
Отличия от других законопроектов и реакция индустрии
RAISE Act частично повторяет положения резонансного калифорнийского законопроекта SB 1047, который был ветован, однако, как отмечает сенатор Эндрю Гунардес, один из соавторов RAISE Act, этот документ разрабатывался с учетом критики предыдущих инициатив. В частности, он не содержит требования о наличии «kill switch» в моделях AI и не возлагает ответственность на компании, которые дообучают уже созданные модели.
Критики законопроекта, в частности представители Кремниевой долины, считают, что новые требования могут замедлить инновации. В то же время авторы RAISE Act подчеркивают, что регулирование касается только компаний, которые потратили на вычислительные ресурсы для обучения своих моделей более 100 миллионов долларов, и не распространяется на стартапы или академические учреждения. Аналогично, соучредитель Anthropic Джек Кларк заявил, что компания не определилась со своей поддержкой законопроекта, но отметил, что
«RAISE Act мог бы создать риски для меньших компаний».
Еще одно распространенное беспокойство — что разработчики AI-моделей могут отказаться запускать передовые продукты в Нью-Йорке из-за жесткого регулирования. Однако законодатели уверяют, что административная нагрузка не является существенной и не должна заставить компании покидать рынок штата, учитывая его экономическую значимость.
OpenAI, Google и Meta не прокомментировали принятие законопроекта.