Управління соціального забезпечення Великої Британії (DWP) стикається з серйозними викликами через велике навантаження на свою поштову службу. Щодня від громадян надходить до 25,000 листів та електронних повідомлень, серед яких — численні прохання про допомогу від найбільш вразливих верств населення.
Про це розповідає ProIT
Штучний інтелект як рішення для обробки кореспонденції
DWP вважає, що одним із можливих рішень є використання штучного інтелекту для первинного аналізу кореспонденції, включаючи рукописні листи. Раніше обробка листів займала тижні, і це призводило до затримок у наданні допомоги тим, хто її найбільше потребує. Зараз же система, названа «white mail», може виконувати цю роботу за один день, намагаючись пріоритизувати найбільш вразливі випадки.
Але разом з цим виникає питання: як саме ця система приймає рішення і наскільки точні її оцінки? Хоча міністерство запровадило цю технологію, деякі алгоритми все ще не відображені у реєстрі прозорості державних AI.
Турбуючі питання щодо захисту даних
За інформацією, яку вдалося отримати, DWP не повідомляє заявників про використання цієї системи, і внутрішня оцінка ризиків стверджує, що «листи не повинні знати про свою участь у цій ініціативі». Вона також зазначає, що кореспонденція може містити чутливу інформацію, зокрема номери національного страхування, дати народження, адреси, телефонні номери та фінансові дані.
Представники організацій, що працюють з особами, які отримують соціальні виплати, висловлюють «серйозні занепокоєння» щодо обробки чутливих даних. Міган Левін, менеджер з політики та громадських справ у благодійній організації Turn2us, зазначила, що система «піднімає питання, особливо в аспекті відсутності прозорості та обробки високочутливих даних, включаючи медичні записи».
На даний момент інформація про використання даних свідчить про те, що дані шифруються перед видаленням оригіналів і зберігаються DWP та її постачальником хмарних технологій. Однак ім’я постачальника є однією з багатьох закритих інформацій.
В DWP стверджують, що нова система є додатковою до існуючих механізмів і тільки підкреслює кореспонденцію, яка потім перевіряється агентами для визначення потенційної вразливості кореспондента. Однак жодне рішення не приймається на основі даних, оброблених штучним інтелектом.
Левін підкреслила: «Пріоритизація деяких випадків неминуче знижує пріоритет інших, тому важливо зрозуміти, як ці рішення приймаються, та забезпечити їх справедливість. DWP повинно публікувати дані про ефективність системи та впровадити заходи безпеки.»
Управління соціального забезпечення обіцяло надати коментарі з цього приводу.
