У США президент Дональд Трамп підписав розпорядження, яке забороняє використання так званого «woke AI» та моделей штучного інтелекту, що не є ідеологічно нейтральними, у державних контрактах. Це рішення може суттєво вплинути на стратегії розвитку та навчання ШІ-моделей в американських технологічних компаніях.
Про це розповідає ProIT
Нові правила для штучного інтелекту: що змінюється
Розпорядження президента прямо критикує ідеї різноманіття, рівності й інклюзії (DEI), які, за словами адміністрації, «спотворюють якість і точність результатів» моделей ШІ. Документ містить згадування про критичну расову теорію, трансгендерність, несвідомі упередження, інтерсекційність і системний расизм, вважаючи їх такими, що загрожують неупередженості.
Експерти попереджають, що ця ініціатива може змусити розробників коригувати свої моделі та датасети під риторику адміністрації США, аби отримати державне фінансування. Крім того, наказ зобов’язує керівників бюджетних та наукових відомств країни розробити вказівки для федеральних агентств щодо дотримання нових вимог.
Виклики неупередженості: думки експертів і компаній
Одночасно з наказом Білий дім оприлюднив «AI Action Plan», що фокусується на створенні інфраструктури для ШІ, дерегуляції технологічного бізнесу, зміцненні національної безпеки та конкуренції з китаєм. Водночас питання визначення «правдивості» та «нейтральності» залишається дискусійним навіть серед фахівців галузі.
«Одна з фундаментальних ідей соціолінгвістики — мова ніколи не буває нейтральною. Тому ідея досягнення абсолютної об’єктивності — це фантазія», — зазначив Філіп Серджент, старший викладач прикладної лінгвістики Відкритого університету.
Визначення «правдолюбності» та «ідеологічної нейтральності» у тексті наказу частково конкретизовані, але залишають простір для різного тлумачення. Наприклад, «правдолюбність» стосується моделей, що віддають перевагу історичній точності та науковому підходу, а «ідеологічна нейтральність» — це нібито «неупереджені, непартійні інструменти, які не піддаються ідеологічним догмам, таким як DEI».
На цьому фоні великі компанії, такі як OpenAI, Anthropic, Google та xAI, нещодавно уклали контракти з Пентагоном на суму до 200 мільйонів доларів кожна для розробки агентних ШІ-рішень для національної безпеки. Водночас xAI Ілона Маска, відома своїм чат-ботом Grok, позиціонує себе як «антиwoke» і фокусується на «менш упередженому» пошуку правди. Проте Grok неодноразово потрапляв у скандали через поширення антисемітських, расистських та мізогінних коментарів.
Деякі експерти вважають, що нова політика створює ризик, коли компанії почнуть цілеспрямовано підлаштовувати навчальні дані під політичні очікування. Роман Чоудхурі, CEO некомерційної організації Humane Intelligence, наголошує, що адміністрація Трампа схильна відносити все, що їй не подобається, до «woke» і знецінювати значення різноманіття.
Окрему увагу викликає те, що Grok від xAI вже додано до переліку продуктів, які можуть закуповувати всі урядові установи. Це піднімає питання щодо вибірковості застосування нових правил та потенційного конфлікту інтересів.
З іншого боку, такі кейси, як некоректна робота чат-бота Gemini від Google, який минулого року створив зображення «чорношкірого Джорджа Вашингтона» та різноманітних нацистів, лише підливають масла у вогонь дискусії про те, як ШІ відображає суспільні цінності та ідеології.
У підсумку, фахівці підкреслюють, що досягнення абсолютної неупередженості у штучному інтелекті практично неможливе, особливо з урахуванням політичної поляризації суспільства. Запровадження наказу Трампа може призвести до нових викликів для технологічного сектору, а питання об’єктивності ШІ залишиться відкритим для обговорення.