AI-система безопасности в школе ошибочно восприняла пакет чипсов за оружие

|
AI-система безопасности в школе ошибочно восприняла пакет чипсов за оружие

В средней школе Kenwood, расположенной в округе Балтимор, штат Мэриленд, произошла необычная ситуация: ученик был задержан после того, как система искусственного интеллекта, отвечающая за безопасность учреждения, определила пакет чипсов Doritos как вероятное огнестрельное оружие.

Об этом сообщает ProIT

Детали инцидента с учеником

По словам Таки Аллена, ученика, ставшего участником события, система наблюдения среагировала, когда он держал в руках пакет чипсов. Аллен объяснил, что держал пакет в обеих руках, а один палец был отставлен. Однако это стало основанием для подозрений, и, как утверждает школьник, его заставили встать на колени, закладывая руки за спину, и надели наручники.

“Я просто держал пакет Doritos — это были две руки и один палец, а они сказали, что это похоже на пистолет”, — рассказал Аллен. “Они заставили меня встать на колени, положить руки за спину и заковали в наручники”.

Реакция школы и компании-разработчика

Как отметила директор школы Кэти Смит в обращении к родителям, служба безопасности учреждения проверила и аннулировала сигнал тревоги по поводу оружия, однако Смит, не зная о отмене уведомления, сообщила об инциденте офицеру службы безопасности школы, который обратился в местную полицию.

Компания Omnilert, отвечающая за работу системы обнаружения оружия на основе искусственного интеллекта, выразила свои соболезнования ученику и всей общине, которая была вовлечена в события. В заявлении компании говорится, что “процесс сработал в соответствии с заданными алгоритмами”, однако они сожалеют о происшествии и его последствиях для пострадавших.