Інструмент штучного інтелекту, розміщений на серверах Amazon, ставить під загрозу безпеку даних військовослужбовців Великої Британії, йдеться в урядовій оцінці. Цей інструмент, призначений для покращення набору персоналу в Міністерстві оборони Великої Британії, використовує персональні дані, такі як імена, ролі та електронні адреси, які зберігаються в США. Це, за словами урядовців, може призвести до “виявлення оборонного персоналу” у разі витоку даних.
Про це розповідає ProIT
Уряд оцінює цей ризик як «низький», і Міністерство оборони запевняє, що постачальники, включаючи Textio, Amazon Web Services і Amazon GuardDuty, впровадили «надійні заходи безпеки». Проте це лише один з багатьох ризиків, визнаних урядом щодо використання технологій штучного інтелекту в публічному секторі.
Розширення використання AI у державному секторі
Публікація документів, що розкривають деталізацію використання AI, має на меті поліпшити прозорість щодо алгоритмів, які застосовує уряд. У них наголошується на тому, що вже розроблені заходи для зниження ризиків, оскільки міністри прагнуть використовувати штучний інтелект для підвищення економічної продуктивності Великої Британії.
Кріс Вормалд, новий секретар Кабінету міністрів, підкреслив важливість використання технологій, наголошуючи на необхідності «перевлаштування системи роботи уряду» для ефективнішого використання можливостей, які надає технологія.
Інші проекти зі штучним інтелектом
Компанії Google і Meta працюють з урядом над пілотними проектами для використання AI у наданні публічних послуг. Microsoft надає свою AI-систему Co-pilot для державних службовців. Зокрема, міністр Кабінету Пат Макфадден заявив про бажання уряду діяти «як стартап».
Відомий також ризик використання AI у сфері освіти, де автоматизовані інструменти можуть створювати недоречні навчальні матеріали. Водночас, ці інструменти економлять час учителів і можуть швидко персоналізувати навчальні плани.
Інші ризики включають можливі «галюцинації» чат-ботів, розгорнутих для надання консультацій щодо сімейних судів, і неправильну роботу нових інструментів, таких як PolicyEngine. Ці ситуації вказують на потенційні небезпеки, але також демонструють, як AI може прискорити різні процеси.
Розкриття інформації про алгоритми внесено в новий реєстр прозорості алгоритмів, що охоплює 23 алгоритми, що використовуються центральним урядом. У майбутньому організації, які використовують AI, повинні будуть публікувати записи про інструменти, які безпосередньо взаємодіють з громадянами або суттєво впливають на прийняття рішень.
