Управління з питань захисту даних Великої Британії звернулося до МВС із запитом надати «термінове роз’яснення» щодо ризиків расової упередженості під час використання технології розпізнавання облич у поліції. Така вимога з’явилася після того, як Національна фізична лабораторія (NPL) провела тести та виявила, що система частіше помиляється у визначенні осіб з окремих демографічних груп.
Про це розповідає ProIT
Технологія під підозрою: результати дослідження
Згідно з даними звіту, система розпізнавання облич, яку планують використовувати для пошуку небезпечних злочинців, має вищий рівень помилкових збігів серед темношкірих та азіатських людей порівняно з білими громадянами. Експерти виявили, що під час роботи алгоритму на нижчих налаштуваннях показник хибних ідентифікацій для білих осіб становив 0,04%, для азіатських – 4%, а для темношкірих – 5,5%. Особливо високий рівень хибних спрацювань був зафіксований серед темношкірих жінок – 9,9%, тоді як серед темношкірих чоловіків цей показник був 0,4%.
Технологія аналізує обличчя людей, порівнюючи їх із базою розшукуваних або підозрюваних, і використовується як у режимі реального часу, так і для ретроспективних перевірок шляхом аналізу зображень з поліцейських, паспортних чи імміграційних баз даних.
Реакція уряду та громадськості
За словами заступниці уповноваженої з питань інформації Емілі Кіні, відомство вимагає в уряду «термінового роз’яснення» ситуації, аби оцінити ризики та визначити подальші дії. Серед можливих заходів – юридичні приписи щодо припинення використання технології, накладення штрафів, а також співпраця з поліцією та МВС для усунення недоліків.
“Ми визнаємо, що вживаються заходи для подолання цієї упередженості. Однак прикро, що нам не повідомили про це раніше, попри регулярну співпрацю з МВС та поліцією в межах ширшої роботи із забезпечення відповідального використання даних у державному секторі. Хоча ми цінуємо важливу роль технологій, довіра суспільства до їх використання має першорядне значення, а будь-яке сприйняття упередженості чи дискримінації може посилити недовіру”, — зазначила Емілі Кіні.
Комісари з поліції та боротьби зі злочинністю наголосили, що результати дослідження NPL «проливають світло на серйозну вбудовану упередженість» і закликали бути обережними щодо планів масштабного впровадження цієї технології по всій країні, зокрема встановлення камер у торгових центрах, на стадіонах та транспортних вузлах без належних гарантій захисту прав.
Міністерство внутрішніх справ Великої Британії заявило, що вже вжито заходів для вирішення проблеми, зокрема закуплено та протестовано новий алгоритм, «у якому статистично значущої упередженості не виявлено». Крім того, до перевірки використання технології поліцією залучено інспекцію поліції та регулятора судово-медичної експертизи для оцінки ефективності вжитих заходів, що також підтримує Національна рада начальників поліції.
