Компания Deloitte Australia оказалась в центре скандала из-за использования генеративного искусственного интеллекта при создании аналитического отчета для федерального правительства Австралии стоимостью 440 тысяч долларов. В документе эксперты обнаружили многочисленные ошибки, вымышленные ссылки и фрагменты текста, созданные с помощью инструментов на базе ИИ.
Об этом сообщает ProIT
Генеративный ИИ и последствия для аналитики
Отчет, подготовленный для Министерства занятости и трудовых отношений (DEWR), был опубликован в июле 2025 года и касался автоматизации санкций в социальной сфере. После публикации документа эксперты установили, что большая часть текста создана генеративным ИИ, в частности с использованием Azure OpenAI GPT-4o. Это привело к появлению множества ошибок, так называемых «галлюцинаций» и фиктивных источников в списке литературы.
В ответ на критику со стороны ученых Deloitte провела внутренний аудит и обновила отчет: более десяти фиктивных ссылок были удалены, исправлены ошибки в сносках, а также переписан список литературы. Обновленная методология прямо указывает на использование инструментов генеративного ИИ.
Реакция экспертов и дальнейшие шаги
«Суть обзора сохранена» и рекомендации не изменились, – заявили представители DEWR.
Ученый из Сиднейского университета Кристофер Радж подчеркнул, что ошибки в отчете являются следствием «галлюцинаций» ИИ, а отсутствие начального раскрытия технологии ставит под сомнение достоверность рекомендаций. Инцидент вызвал обеспокоенность среди местного профессионального сообщества по поводу прозрачности и надежности применения ИИ для подготовки аналитических материалов.
Правительство Австралии получит компенсацию от Deloitte, однако точная сумма не раскрывается. Власти не уточнили, вернут ли все средства полностью и продолжится ли сотрудничество с компанией в дальнейшем.
В процессе проверки также были выявлены более широкие проблемы в работе DEWR: недостаточная документация, просчеты во внутренних процессах и «карательная модель соблюдения требований». Эти выводы совпадают с предыдущими замечаниями омбудсмена Содружества, который выявил сотни незаконных случаев приостановления социальных выплат.
Специалисты подчеркивают, что этот инцидент актуализирует вопрос прозрачности и контроля при применении новейших цифровых технологий в государственных и бизнес-процессах. Для Deloitte, которая активно внедряет ИИ в свою деятельность, ситуация угрожает репутационными потерями из-за недостаточной открытости относительно использования инновационных решений.