Папа Римский Лев XIV опубликовал свою первую энциклику под названием Magnifica Humanitas, посвященную защите человеческого достоинства в эпоху искусственного интеллекта. Документ объемом 200 страниц, представленный вместе со соучредителем Anthropic Крисом Олахом, поднимает вопросы не столько о самой технологии, сколько о более глубоких социальных проблемах: неравенство, войны, упадок демократии и концентрация власти в руках узкого круга лиц, которым безразлична судьба человечества.
Об этом сообщает ProIT
Угрозы концентрации технологической власти
По мнению Папы Льва XIV, современные технологические достижения, включая искусственный интеллект, разрабатываются и контролируются ограниченным кругом людей, что делает невозможным служение общему благу. Он подчеркивает, что концентрация такой власти ведет к непрозрачности, уклонению от общественного контроля, появлению новых зависимостей, манипуляций и усилению социальной неравенства.
“Когда такая власть сосредоточена в руках немногих, она становится непрозрачной и избегает общественного надзора, увеличивая риск искаженных форм развития, которые порождают новые зависимости, исключения, манипуляции и неравенства,” пишет он.
Папа также подчеркивает, что каждая технологическая революция, в частности искусственный интеллект, усиливает влияние тех, кто уже обладает ресурсами и знаниями, позволяя им формировать информационные потоки, влиять на потребительские привычки, демократические процессы и экономическую динамику в своих интересах.
Призыв к прозрачности и общественному участию
Энциклика была опубликована через несколько дней после того, как президент США Дональд Трамп отложил подписание указа о контроле правительства над новыми моделями искусственного интеллекта. Этот шаг, по сообщениям, был инициирован венчурным инвестором и бывшим советником Белого дома по вопросам ИИ Дэвидом Саксом.
Папа Лев XIV выступает за четкие критерии и эффективный надзор за развитием ИИ, которые должны основываться на участии и мнении обществ, на которые будут влиять эти технологии. Он также призывает прекратить гонку вооружений в сфере искусственного интеллекта, направленную на создание все более мощных алгоритмов и масштабных наборов данных для достижения геополитического или коммерческого преимущества.
Папа утверждает, что отказ от этой гонки означает опровержение идеи, будто техническая мощь автоматически дает право управлять.
Указанные тенденции существовали еще до появления ИИ. Например, в энциклике Папы Льва XIII 1891 года Rerum Novarum также поднимались вопросы концентрации власти во время индустриальной революции. Современные примеры, такие как приобретение Илоном Маском Twitter и использование его для поддержки Трампа, а также финансирование влиятельными игроками техсектора супераполитических комитетов для блокировки регулирования ИИ, иллюстрируют актуальность послания Льва XIV.
Папа приходит к выводу, что беспрецедентная мощь современного искусственного интеллекта значительно повышает риски для общества. Профессор юридического факультета Университета Нотр-Дам Паоло Карозза, член Папской академии социальных наук и председатель Наблюдательного совета Meta, подчеркивает, что дезинформация и дипфейки на основе ИИ уже подрывают способность общества различать правду и ложь, что имеет серьезные последствия для демократии. Он добавляет, что практика сбора и манипулирования личными данными представляет собой фундаментальные вызовы для когнитивной свободы человека.