Генеральний директор OpenAI Сем Альтман оголосив про підписання угоди між його компанією та Міністерством оборони США, яка дозволяє використовувати штучний інтелект OpenAI у класифікованих мережах оборонного відомства. Особливістю цієї співпраці стали впроваджені технічні запобіжники, що враховують ключові етичні питання, які раніше викликали суперечки на ринку AI.
Про це розповідає ProIT
Конфлікт навколо етики використання штучного інтелекту
Угоду з OpenAI підписано на тлі гучного протистояння між Пентагоном і компанією Anthropic, яка відмовилася надати свої моделі для “усіх законних цілей” через занепокоєння щодо масового внутрішнього стеження та використання автономної зброї. Відповідно до заяви генерального директора Anthropic Даріо Амодеї, компанія не виступала проти окремих військових операцій, однак вважає, що в окремих випадках AI може підривати демократичні цінності, а не захищати їх.
“У вузькому колі випадків ми вважаємо, що штучний інтелект може підривати, а не захищати демократичні цінності”.
Понад 60 співробітників OpenAI та 300 працівників Google підписали відкритий лист із закликом підтримати позицію Anthropic щодо етичного використання штучного інтелекту. Однак, після провалу переговорів Anthropic із Пентагоном, президент США Дональд Трамп розкритикував компанію та доручив федеральним агентствам припинити співпрацю із нею протягом шести місяців. А міністр оборони Піт Гегсет оголосив Anthropic ризиком для ланцюга постачань, заборонивши будь-яким підрядникам та партнерам Міноборони взаємодіяти з цією компанією.
Особливості угоди OpenAI та подальші кроки
OpenAI, зі свого боку, погодилася на умови Пентагону, впровадивши у договір положення, які забороняють масове внутрішнє стеження та гарантують людську відповідальність у застосуванні сили, зокрема щодо автономного озброєння. Сем Альтман наголосив, що компанія створить технічні механізми захисту, аби AI-моделі працювали згідно з визначеними стандартами, а також направить своїх інженерів до Пентагону для контролю безпеки впроваджених систем.
Альтман також закликав Міністерство оборони США надати аналогічні умови всім AI-компаніям, щоб сприяти деескалації юридичних і державних протистоянь та переходу до розумних домовленостей. Він повідомив, що уряд дозволить OpenAI створити власний “safety stack” — багаторівневу систему безпеки для запобігання потенційному зловживанню AI-моделями. Зазначено, що якщо модель відмовляється виконувати певне завдання, уряд не зможе змусити компанію змінити її поведінку.
Заява Альтмана пролунала напередодні повідомлень про початок спільних бомбардувань Ірану урядами США та Ізраїлю, а також після заклику Дональда Трампа до зміни іранського режиму.