- 13,579
- 20
- 8 Ноя 2022
Как метрополитен Лондона использует распознавание лиц во время коронации короля и почему это опасно.
На заседании парламентского комитета по науке, инновациям и технологиям Великобритании было заявлено, что система распознавания лиц, используемая метрополитеном Лондона во время коронации короля, может проявлять расовую предвзятость при определенных пороговых значениях. 6 мая 2023 года в Лондоне состоялась коронация британского короля Карла III.
Доктор Тони Мэнсфилд, главный научный сотрудник Национальной физической лаборатории, сказал депутатам, что система, основанная на продукте компании NEC и применяемая крупнейшим полицейским управлением страны, склонна к предвзятости против чернокожих людей на тестовых данных, созданных для его исследований.
Было обнаружено, что, если система работает на низких и легких порогах совпадения, то она начинает показывать предвзятость против чернокожих мужчин и женщин вместе. Мэнсфилд полагает, что метрополитен не использует систему на таких пороговых значениях.
Согласно Для просмотра ссылки Войдиили Зарегистрируйся , ложноположительные идентификации увеличиваются при низких порогах совпадения лиц (0.58 и 0.56) и «начинают показывать статистически значимый дисбаланс между демографическими группами: у чернокожих больше ложноположительных срабатываний, чем у азиатских или белых».
Однако система NEC Neoface при более высоких порогах (0.64 или выше) не давала ложноположительных идентификаций и, следовательно, не имела предвзятости. При среднем пороге (0.60 – 0.62) система давала 8 ложноположительных результатов, но не имела статистически значимой предвзятости по демографическим признакам.
Представитель метрополитена заявил, что после публикации исследования система использовалась 3 раза, в том числе в некоторых районах Лондона и во время коронации короля.
В ходе операций полиции, в которых использовали 6 полицейских фургонов, было 4 оповещения, а ложноположительные результаты отсутствовали вовсе. Было 2 ареста, а по оставшимся оповещениям полицейские решили, что арест не требуется, хотя идентификация была правильной.
На каждой операции полиция создавала отдельный набор данных для «списка наблюдения» на основе местоположения и «разведывательного дела» для операции. После каждой операции список наблюдения удалялся. Никакие данные из операций по распознаванию лиц в режиме реального времени не хранились, как утверждает представитель метрополитена.
На заседании парламентского комитета по науке, инновациям и технологиям Великобритании было заявлено, что система распознавания лиц, используемая метрополитеном Лондона во время коронации короля, может проявлять расовую предвзятость при определенных пороговых значениях. 6 мая 2023 года в Лондоне состоялась коронация британского короля Карла III.
Доктор Тони Мэнсфилд, главный научный сотрудник Национальной физической лаборатории, сказал депутатам, что система, основанная на продукте компании NEC и применяемая крупнейшим полицейским управлением страны, склонна к предвзятости против чернокожих людей на тестовых данных, созданных для его исследований.
Было обнаружено, что, если система работает на низких и легких порогах совпадения, то она начинает показывать предвзятость против чернокожих мужчин и женщин вместе. Мэнсфилд полагает, что метрополитен не использует систему на таких пороговых значениях.
Согласно Для просмотра ссылки Войди
Однако система NEC Neoface при более высоких порогах (0.64 или выше) не давала ложноположительных идентификаций и, следовательно, не имела предвзятости. При среднем пороге (0.60 – 0.62) система давала 8 ложноположительных результатов, но не имела статистически значимой предвзятости по демографическим признакам.
Представитель метрополитена заявил, что после публикации исследования система использовалась 3 раза, в том числе в некоторых районах Лондона и во время коронации короля.
В ходе операций полиции, в которых использовали 6 полицейских фургонов, было 4 оповещения, а ложноположительные результаты отсутствовали вовсе. Было 2 ареста, а по оставшимся оповещениям полицейские решили, что арест не требуется, хотя идентификация была правильной.
На каждой операции полиция создавала отдельный набор данных для «списка наблюдения» на основе местоположения и «разведывательного дела» для операции. После каждой операции список наблюдения удалялся. Никакие данные из операций по распознаванию лиц в режиме реального времени не хранились, как утверждает представитель метрополитена.
- Источник новости
- www.securitylab.ru
