Папа Римський Лев XIV оприлюднив свою першу енцикліку під назвою Magnifica Humanitas, присвячену захисту людської гідності в епоху штучного інтелекту. Документ обсягом 200 сторінок, представлений разом із співзасновником Anthropic Крісом Олахом, піднімає питання не стільки про саму технологію, скільки про глибші суспільні проблеми: нерівність, війни, занепад демократії та концентрацію влади в руках вузького кола осіб, яким байдужа доля людства.
Про це розповідає ProIT
Загрози концентрації технологічної влади
На думку Папи Лева XIV, сучасні технологічні досягнення, включно зі штучним інтелектом, розробляються та контролюються обмеженим колом людей, що унеможливлює служіння загальному благу. Він наголошує, що концентрація такої влади веде до непрозорості, уникнення громадського контролю, появи нових залежностей, маніпуляцій та посилення соціальної нерівності.
“When such power is concentrated in the hands of a few, it tends to become opaque and evade public oversight, increasing the risk of distorted forms of development that give rise to new dependencies, exclusions, manipulations and inequalities,” he writes.
Папа також підкреслює, що кожна технологічна революція, зокрема штучний інтелект, посилює вплив тих, хто вже володіє ресурсами й знаннями, дозволяючи їм формувати інформаційні потоки, впливати на споживчі звички, демократичні процеси та економічну динаміку у власних інтересах.
Заклик до прозорості та суспільної участі
Енцикліка була оприлюднена через кілька днів після того, як президент США Дональд Трамп відклав підписання указу щодо контролю уряду над новими моделями штучного інтелекту. Цей крок, за повідомленнями, був ініційований венчурним інвестором та колишнім радником Білого дому з питань ШІ Девідом Саксом.
Папа Лев XIV виступає за чіткі критерії та ефективний нагляд за розвитком ШІ, які мають ґрунтуватися на участі та думці громад, на які впливатимуть ці технології. Він також закликає припинити гонитву озброєнь у сфері штучного інтелекту, спрямовану на створення дедалі потужніших алгоритмів та масштабніших наборів даних для досягнення геополітичної або комерційної переваги.
Папа стверджує, що відмова від цієї гонки означає спростування ідеї, нібито технічна могутність автоматично дає право керувати.
Зазначені тенденції існували ще до появи ШІ. Наприклад, у енцикліці Папи Лева XIII 1891 року Rerum Novarum також піднімалися питання концентрації влади під час індустріальної революції. Сучасні приклади, такі як придбання Ілоном Маском Twitter і використання його для підтримки Трампа, а також фінансування впливовими гравцями техсектору супераполітичних комітетів для блокування регулювання ШІ, ілюструють актуальність послання Лева XIV.
Папа доходить висновку, що безпрецедентна потужність сучасного штучного інтелекту значно підвищує ризики для суспільства. Професор юридичного факультету Університету Нотр-Дам Паоло Карозза, член Папської академії соціальних наук та голова Наглядової ради Meta, наголошує, що дезінформація та дипфейки на основі ШІ вже підривають здатність суспільства розрізняти правду й неправду, що має серйозні наслідки для демократії. Він додає, що практика збору та маніпулювання особистими даними становить фундаментальні виклики для когнітивної свободи людини.