Почти 70 тысяч ученых, инженеров, предпринимателей и общественных деятелей со всего мира призвали временно остановить разработку суперинтеллекта до создания действенных механизмов контроля и этических стандартов. Открытое обращение, инициированное Future of Life Institute в конце октября, уже подписали такие известные личности, как лауреаты Нобелевской премии Джеффри Хинтон и Йошуа Бенджио, а также сооснователь Apple Стив Возняк и основатель Virgin Group Ричард Брэнсон.
Об этом сообщает ProIT
Главные риски развития неконтролируемого ИИ
В открытом письме ученые предупреждают о серьезной экзистенциальной угрозе, связанной с появлением искусственного интеллекта, способного превзойти человека во всех сферах. Среди основных рисков, которые выделяют эксперты, — экономическое старение, лишение прав и свобод, угроза достоинству, потеря контроля над собственными творениями, а также опасность для национальной безопасности и даже потенциальное вымирание человечества. Эти предостережения перекликаются с прогнозами Алана Тьюринга, который еще в 1950-х годах выражал опасения по поводу потери контроля над мощными ИИ-системами.
«Хотя инновационные инструменты искусственного интеллекта, безусловно, обещают ‘беспрецедентное здоровье и процветание’, разработка суперинтеллекта, который сможет ‘значительно превзойти всех людей практически во всех когнитивных задачах’, вызывает глубокую озабоченность».
Технологический прогресс опережает регулирование
Актуальность призыва усиливается тем, что ведущие компании в области ИИ уже нацелены создать суперинтеллект в течение ближайших десяти лет. При этом темпы развития технологий существенно опережают формирование соответствующих законодательных и социальных барьеров. Ученые подчеркивают, что лишь пауза для осмысления и разработки эффективных стратегий управления позволит избежать необратимых последствий для человечества. Это обращение, по мнению подписантов, является настоятельным предупреждением, призванным защитить будущее цивилизации от потенциальных рисков неконтролируемого развития самого мощного инструмента человечества.
На момент публикации открытое письмо подписали 68 448 ученых, исследователей, бизнесменов и общественных деятелей.
