Управление социального обеспечения Великобритании (DWP) сталкивается с серьезными вызовами из-за большой нагрузки на свою почтовую службу. Ежедневно от граждан поступает до 25,000 писем и электронных сообщений, среди которых многочисленные просьбы о помощи от наиболее уязвимых слоев населения.
Об этом сообщает ProIT
Искусственный интеллект как решение для обработки корреспонденции
DWP считает, что одним из возможных решений является использование искусственного интеллекта для первичного анализа корреспонденции, включая рукописные листы. Раньше обработка писем занимала недели, и это приводило к задержкам в оказании помощи тем, кто в ней больше всего нуждается. Сейчас система, названная «white mail», может выполнять эту работу за один день, пытаясь приоритизировать наиболее уязвимые случаи.
Но вместе с этим возникает вопрос: как именно эта система принимает решения и насколько точны ее оценки? Хотя министерство ввело эту технологию, некоторые алгоритмы все еще не отражены в реестре прозрачности государственных AI.
Беспокоящие вопросы по защите данных
По информации, которую удалось получить, DWP не сообщает заявителям об использовании этой системы, и внутренняя оценка рисков утверждает, что «письма не должны знать о своем участии в этой инициативе». Она также отмечает, что корреспонденция может содержать чувствительную информацию, включая номера национального страхования, даты рождения, адреса, телефонные номера и финансовые данные.
Представители организаций, работающих с лицами, получающими социальные выплаты, выражают «серьезные беспокойства» по обработке чувствительных данных. Миган Левин, менеджер по политике и общественным делам в благотворительной организации Turn2us, отметила, что система «поднимает вопросы, особенно в аспекте отсутствия прозрачности и обработки высокочувствительных данных, включая медицинские записи».
На данный момент информация об использовании данных свидетельствует о том, что данные шифруются перед удалением оригиналов и хранятся DWP и поставщиком облачных технологий. Однако имя поставщика является одной из множества закрытых информаций.
В DWP утверждают, что новая система дополнительной к существующим механизмам и только подчеркивает корреспонденцию, которая затем проверяется агентами для определения потенциальной уязвимости корреспондента. Однако ни одно решение не принимается на основе данных, обработанных искусственным интеллектом.
Левин подчеркнула: «Приоритизация некоторых случаев неизбежно снижает приоритет других, поэтому важно понять, как принимаются эти решения, и обеспечить их справедливость. DWP должно публиковать данные об эффективности системы и ввести меры безопасности.»
Управление социального обеспечения обещало предоставить комментарии по этому поводу.
