В США президент Дональд Трамп подписал распоряжение, которое запрещает использование так называемого «woke AI» и моделей искусственного интеллекта, не являющихся идеологически нейтральными, в государственных контрактах. Это решение может существенно повлиять на стратегии развития и обучения ИИ-моделей в американских технологических компаниях.
Об этом сообщает ProIT
Новые правила для искусственного интеллекта: что меняется
Распоряжение президента прямо критикует идеи разнообразия, равенства и инклюзии (DEI), которые, по словам администрации, «искажают качество и точность результатов» моделей ИИ. Документ содержит упоминания о критической расовой теории, трансгендерности, бессознательных предвзятостях, интерсекциональности и системном расизме, считая их угрожающими беспристрастности.
Эксперты предупреждают, что эта инициатива может заставить разработчиков корректировать свои модели и датасеты под риторику администрации США, чтобы получить государственное финансирование. Кроме того, указ обязывает руководителей бюджетных и научных ведомств страны разработать рекомендации для федеральных агентств по соблюдению новых требований.
Вызовы беспристрастности: мнения экспертов и компаний
Одновременно с указом Белый дом опубликовал «AI Action Plan», который сосредоточен на создании инфраструктуры для ИИ, дерегуляции технологического бизнеса, укреплении национальной безопасности и конкуренции с Китаем. В то же время вопрос определения «правдивости» и «нейтральности» остается дискуссионным даже среди специалистов отрасли.
«Одна из фундаментальных идей социолингвистики — язык никогда не бывает нейтральным. Поэтому идея достижения абсолютной объективности — это фантазия», — отметил Филип Серджент, старший преподаватель прикладной лингвистики Открытого университета.
Определения «правдолюбия» и «идеологической нейтральности» в тексте указа частично конкретизированы, но оставляют пространство для различного толкования. Например, «правдолюбие» касается моделей, которые отдают предпочтение исторической точности и научному подходу, а «идеологическая нейтральность» — это якобы «беспристрастные, непартийные инструменты, которые не поддаются идеологическим догмам, таким как DEI».
На этом фоне крупные компании, такие как OpenAI, Anthropic, Google и xAI, недавно заключили контракты с Пентагоном на сумму до 200 миллионов долларов каждая для разработки агентных ИИ-решений для национальной безопасности. В то же время xAI Илона Маска, известная своим чат-ботом Grok, позиционирует себя как «антиwoke» и фокусируется на «менее предвзятом» поиске правды. Однако Grok неоднократно попадал в скандалы из-за распространения антисемитских, расистских и мизогинных комментариев.
Некоторые эксперты считают, что новая политика создает риск, когда компании начнут целенаправленно подстраивать учебные данные под политические ожидания. Роман Чоудхури, CEO некоммерческой организации Humane Intelligence, подчеркивает, что администрация Трампа склонна относить все, что ей не нравится, к «woke» и обесценивать значение разнообразия.
Отдельное внимание вызывает то, что Grok от xAI уже добавлен в список продуктов, которые могут закупать все государственные учреждения. Это поднимает вопросы о выборочности применения новых правил и потенциальном конфликте интересов.
С другой стороны, такие случаи, как некорректная работа чат-бота Gemini от Google, который в прошлом году создал изображение «чернокожего Джорджа Вашингтона» и различных нацистов, лишь подливают масла в огонь дискуссии о том, как ИИ отражает общественные ценности и идеологии.
В итоге, специалисты подчеркивают, что достижение абсолютной беспристрастности в искусственном интеллекте практически невозможно, особенно с учетом политической поляризации общества. Введение указа Трампа может привести к новым вызовам для технологического сектора, а вопрос объективности ИИ останется открытым для обсуждения.