Кейтлін Каліновскі, керівниця напрямку робототехніки в компанії OpenAI, оголосила про своє звільнення у відповідь на нещодавню угоду між компанією та Міністерством оборони США. За словами Каліновскі, це рішення стало наслідком оголошення співпраці OpenAI з Пентагоном, яка викликала резонанс у суспільстві.
Про це розповідає ProIT
Причини звільнення та позиція Каліновскі
Каліновскі, яка приєдналася до OpenAI в листопаді 2024 року після роботи над проєктом окулярів доповненої реальності в Meta, зазначила, що її відставка обґрунтована принципами, а не особистими відносинами з колегами чи керівництвом. Вона підкреслила свою повагу до генерального директора Сема Альтмана й команди OpenAI, але висловила занепокоєння відсутністю достатньої дискусії щодо етичних меж використання штучного інтелекту у сфері національної безпеки.
“AI has an important role in national security. But surveillance of Americans without judicial oversight and lethal autonomy without human authorization are lines that deserved more deliberation than they got”.
Каліновскі також акцентувала увагу на тому, що оголошення угоди було поспішним і відбулося без попереднього визначення чітких обмежень та механізмів контролю. Вона назвала це питанням належного управління й наголосила на необхідності ретельного підходу до рішень, які можуть вплинути на суспільство.
Реакція OpenAI та ситуація на ринку
У компанії підтвердили звільнення Каліновскі та заявили, що угода з Пентагоном забезпечує відповідальне використання технологій штучного інтелекту для потреб національної безпеки. В OpenAI наголосили на чітких обмеженнях: недопущення внутрішнього спостереження та автономної зброї без участі людини. Представники компанії підкреслили, що продовжать діалог із співробітниками, урядом, громадськими організаціями та світовою спільнотою щодо етичного впровадження AI.
Угода OpenAI з Міністерством оборони США була укладена невдовзі після невдалих переговорів між Пентагоном та компанією Anthropic. Остання наполягала на гарантіях щодо недопущення використання її технологій для масового стеження чи створення повністю автономної зброї, але не досягла консенсусу. Згодом Anthropic була визнана ризиком для ланцюга постачань, хоча компанія заявила про намір оскаржити це рішення у суді. Тим часом Microsoft, Google та Amazon продовжують надавати доступ до Claude користувачам, які не співпрацюють із оборонними структурами.
OpenAI, зі свого боку, оголосила про власну угоду, яка дозволяє використовувати її розробки в секретних середовищах, запроваджуючи багаторівневий підхід до безпеки: окрім контрактних зобов’язань, застосовуються й технічні запобіжники для дотримання етичних меж, подібних до вимог Anthropic.
Попри зусилля компанії пояснити свою позицію, скандал навколо співпраці з Пентагоном вплинув на репутацію OpenAI. Кількість видалень додатка ChatGPT зросла на 295%, тоді як додаток Claude очолив рейтинги App Store у США. Станом на сьогодні Claude та ChatGPT займають перші два місця серед безкоштовних програм в американському App Store.