Жодна з відомств у Великій Британії не зареєструвала використання систем штучного інтелекту, хоча уряд оголосив, що це стане обов’язковою вимогою. Це викликало застереження про те, що державний сектор «діє всліпу» щодо впровадження алгоритмічних технологій, які впливають на життя мільйонів людей.
Про це розповідає ProIT
Штучний інтелект вже застосовується у державному управлінні для прийняття рішень від виплат соціальних допомог до імміграційного контролю. Раніше було укладено десятки контрактів на алгоритмічні послуги для державних органів. Один з останніх контрактів на програмне забезпечення для розпізнавання облич, вартістю до 20 мільйонів фунтів, був запропонований поліцейським закупівельним органом.
Однак, на загальному реєстрі опубліковано деталі лише дев’яти алгоритмічних систем, серед яких немає жодної з програм, що використовуються у системі соціального захисту, МВС чи поліції. Уряд оголосив, що з лютого цього року використання реєстру стане обов’язковим для всіх відомств, але інформації все ще бракує.
Виклики та побоювання
Експерти застерігають, що некритичне впровадження штучного інтелекту може завдати шкоди, особливо якщо системи працюють неправильно. У Вайтхоллі вже тестується система Microsoft Copilot, автоматизовані перевірки шахрайства та помилок у системі соціальних виплат.
Пітер Кайл, міністр науки і технологій, визнає, що державний сектор недостатньо серйозно ставиться до потреби прозорості в застосуванні алгоритмів, заявивши, що суспільство має право знати, як використовуються ці технології.
Занепокоєння висловила також організація Big Brother Watch, вказавши на відсутність законодавства для регулювання систем розпізнавання облич, що використовуються поліцією.
Небезпека втрати довіри
Імоджен Паркер, асоційований директор дослідницької організації, наголосила, що брак прозорості не лише залишає громадськість у невіданні, але й позбавляє можливості державного сектору аналізувати ефективність цих інструментів.
З кінця 2022 року на національному реєстрі було записано лише три алгоритми. Між тим, у лютому було укладено 164 контракти, що стосуються штучного інтелекту. Компанії на зразок Microsoft і Meta активно просувають свої системи в уряді. Google Cloud підтримав дослідження, яке стверджує, що ширше впровадження генеративного штучного інтелекту може зекономити до 38 мільярдів фунтів у державному секторі до 2030 року.
Деякі контракти не стосуються даних про громадян. Наприклад, 7-мільйонний контракт з міською радою Дербі спрямований на «Трансформацію ради за допомогою AI», а 4,5-мільйонний контракт з департаментом освіти на «покращення роботи AI у системі освіти».