Управление по защите данных Великобритании обратилось в МВД с запросом предоставить «срочное разъяснение» относительно рисков расовой предвзятости при использовании технологии распознавания лиц в полиции. Такая требование возникло после того, как Национальная физическая лаборатория (NPL) провела тесты и обнаружила, что система чаще ошибается в определении лиц из отдельных демографических групп.
Об этом сообщает ProIT
Технология под подозрением: результаты исследования
Согласно данным отчета, система распознавания лиц, которую планируют использовать для поиска опасных преступников, имеет более высокий уровень ложных совпадений среди темнокожих и азиатских людей по сравнению с белыми гражданами. Эксперты выяснили, что во время работы алгоритма на низких настройках показатель ложных идентификаций для белых лиц составил 0,04%, для азиатских – 4%, а для темнокожих – 5,5%. Особенно высокий уровень ложных срабатываний был зафиксирован среди темнокожих женщин – 9,9%, тогда как среди темнокожих мужчин этот показатель составил 0,4%.
Технология анализирует лица людей, сравнивая их с базой разыскиваемых или подозреваемых, и используется как в режиме реального времени, так и для ретроспективных проверок путем анализа изображений из полицейских, паспортных или иммиграционных баз данных.
Реакция правительства и общественности
По словам заместителя уполномоченного по вопросам информации Эмили Кини, ведомство требует от правительства «срочного разъяснения» ситуации, чтобы оценить риски и определить дальнейшие действия. Среди возможных мер – юридические предписания о прекращении использования технологии, наложение штрафов, а также сотрудничество с полицией и МВД для устранения недостатков.
“Мы признаем, что принимаются меры для преодоления этой предвзятости. Однако печально, что нам не сообщили об этом раньше, несмотря на регулярное сотрудничество с МВД и полицией в рамках более широкой работы по обеспечению ответственного использования данных в государственном секторе. Хотя мы ценим важную роль технологий, доверие общества к их использованию имеет первостепенное значение, а любое восприятие предвзятости или дискриминации может усилить недоверие”, — отметила Эмили Кини.
Комиссары по полиции и борьбе с преступностью подчеркнули, что результаты исследования NPL «проливают свет на серьезную встроенную предвзятость» и призвали быть осторожными в отношении планов масштабного внедрения этой технологии по всей стране, в частности установки камер в торговых центрах, на стадионах и транспортных узлах без надлежащих гарантий защиты прав.
Министерство внутренних дел Великобритании заявило, что уже приняты меры для решения проблемы, в частности закуплен и протестирован новый алгоритм, «в котором статистически значимой предвзятости не выявлено». Кроме того, к проверке использования технологии полицией привлечена инспекция полиции и регулятор судебно-медицинской экспертизы для оценки эффективности принятых мер, что также поддерживает Национальный совет начальников полиции.
