Компанія Deloitte Australia опинилася в центрі скандалу через використання генеративного штучного інтелекту під час створення аналітичного звіту для федерального уряду Австралії вартістю 440 тисяч доларів. У документі експерти виявили численні помилки, вигадані посилання та фрагменти тексту, які створені за допомогою інструментів на базі ШІ.
Про це розповідає ProIT
Генеративний ШІ та наслідки для аналітики
Звіт, підготовлений для Міністерства зайнятості та трудових відносин (DEWR), був оприлюднений у липні 2025 року та стосувався автоматизації санкцій у соціальній сфері. Після опублікування документа експерти встановили, що велика частина тексту створена генеративним ШІ, зокрема за допомогою Azure OpenAI GPT-4o. Це призвело до появи численних помилок, так званих «галюцинацій» та фіктивних джерел у списку літератури.
У відповідь на критику з боку науковців Deloitte провела внутрішній аудит та оновила звіт: понад десять фіктивних посилань були вилучені, виправлені помилки у виносках, а також переписаний список літератури. Оновлена методологія прямо вказує на використання інструментів генеративного ШІ.
Реакція експертів і подальші кроки
«Суть огляду збережено» і рекомендації не змінилися, – заявили представники DEWR.
Вчений із Сіднейського університету Крістофер Радж наголосив, що помилки у звіті є наслідком «галюцинацій» ШІ, а відсутність початкового розкриття технології ставить під сумнів достовірність рекомендацій. Інцидент викликав занепокоєння серед місцевої професійної спільноти щодо прозорості та надійності застосування ШІ для підготовки аналітичних матеріалів.
Уряд Австралії отримає компенсацію від Deloitte, проте точна сума не розкривається. Влада не уточнила, чи повернуть усі кошти повністю та чи продовжиться співпраця з компанією надалі.
У процесі перевірки також було виявлено ширші проблеми в роботі DEWR: недостатню документацію, прорахунки у внутрішніх процесах і «каральну модель дотримання вимог». Ці висновки збігаються із попередніми зауваженнями омбудсмена Співдружності, який виявив сотні незаконних випадків призупинення соціальних виплат.
Фахівці наголошують, що цей інцидент актуалізує питання прозорості та контролю під час застосування новітніх цифрових технологій у державних і бізнес-процесах. Для Deloitte, яка активно впроваджує ШІ у свою діяльність, ситуація загрожує репутаційними втратами через недостатню відкритість щодо використання інноваційних рішень.