В США группа ведущих экспертов, общественных деятелей и бывших чиновников представила «Pro-Human Declaration» — комплексную дорожную карту ответственного развития искусственного интеллекта. Этот документ призван заполнить пробел в законодательном регулировании и очерчивает четкие правила, которые до сих пор не были официально приняты властью.
Об этом сообщает ProIT
Ключевые принципы и ограничения для разработчиков ИИ
Декларация, подписанная сотнями влиятельных деятелей, очерчивает два возможных сценария будущего: «гонка на замену» людей машинами или внедрение ИИ для раскрытия человеческого потенциала. Авторы подчеркивают необходимость сохранить контроль за технологиями в руках человека, не допустить концентрации власти в корпорациях, защитить человеческий опыт и свободы, а также привлекать компании, работающие с ИИ, к юридической ответственности.
Среди конкретных пунктов декларации — полное запрещение разработки сверхмощного ИИ (superintelligence), пока не будет научного консенсуса относительно его безопасности и поддержки демократии; обязательные «выключатели» для сложных систем; запрет архитектур, способных к самовоспроизведению, самостоятельному совершенствованию или сопротивлению остановке.
“В Америке произошло нечто довольно замечательное всего за последние четыре месяца,” сказал Макс Тегмарк, физик из MIT и исследователь ИИ, который помог организовать эту инициативу, в разговоре с этим редактором. “Опросы внезапно [показывают], что 95% всех американцев выступают против нерегулируемой гонки к сверхинтеллекту.”
Декларация как ответ на правительственное бездействие и общественный запрос
Публикация декларации совпала с громким конфликтом между Пентагоном и компанией Anthropic относительно контроля над применением ее ИИ на военных платформах. В ответ на отказ Anthropic предоставить неограниченный доступ к своим технологиям, компанию признали «риском для цепочки поставок», а OpenAI вскоре подписала собственное соглашение с военными.
По мнению аналитиков, эти события ярко демонстрируют, насколько опасным является игнорирование законодательного регулирования отрасли. Декан Болл из Фонда американских инноваций подчеркнул: «Это не просто спор по контракту, а первое общегосударственное обсуждение контроля над системами ИИ».
Один из инициаторов декларации, физик из MIT Макс Тегмарк, провел аналогию с фармацевтическим рынком, где новые препараты не попадают на рынок без тщательной проверки на безопасность. Он считает, что именно вопрос защиты детей может стать ключевым в продвижении более строгого регулирования ИИ. Декларация требует обязательного тестирования продуктов для детей — в частности чат-ботов и виртуальных спутников — на предмет рисков эмоционального манипулирования, ухудшения психического здоровья или подталкивания к суицидальным мыслям.
Тегмарк убежден, что внедрение принципа предварительной проверки для детских продуктов станет основой для расширения этого подхода и на другие сферы, включая предотвращение использования ИИ для создания биологического оружия или угроз национальной безопасности.
Декларация объединила представителей различных политических и идеологических лагерей, от бывшего советника Трампа Стива Беннона до экс-советницы президента США Сьюзан Райс и влиятельных лидеров религиозных общин. По словам Макса Тегмарка, их объединяет прежде всего общая человечность и видение будущего, в котором именно люди, а не машины, должны оставаться в центре принятия решений.