Полиция арестовала мужчину, обвиненного в ограблении в городе, который он никогда не посещал, после того, как программное обеспечение для сканирования лиц, развернутое по всей Великобритании, спутало его с другим человеком южноазиатского происхождения.
Алви Чаудхари, 26-летний инженер-программист, в январе тренировался у себя дома со своими родителями в Саутгемптоне, когда полиция постучала в его дверь, надела на него наручники и продержала около 10 часов, прежде чем отпустить его в 14:00.
Полиция Темз-Вэлли использовала программное обеспечение для автоматического распознавания лиц, чтобы сопоставить его с кадрами подозреваемого в краже стоимостью 3000 фунтов стерлингов в 100 милях от Милтон-Кинса, согласно документам, предоставленным Guardian Liberty Investigates.
Но на кадрах с камер видеонаблюдения виден молодой человек с разными чертами лица, кроме одинаковых вьющихся волос, сказал Чаудхари, добавив, что существует путаница относительно того, почему он был арестован.
“Я был очень зол, потому что ребенок выглядел примерно на 10 лет моложе меня”, – сказал Чаудхари, у которого есть борода. «Все было по-другому. Кожа была светлее. Подозреваемому на вид было 18 лет. Нос у него был больше. На лице не было волос. Глаза были другими. Губы были меньше моих.
«Я просто предположил, что следователь увидел, что я смуглый мужчина с вьющимися волосами, и решил меня арестовать».
Полиция Великобритании использует алгоритмы, полученные Министерством внутренних дел от немецкой компании Cognitec. Ежемесячно он выполняет около 25 000 обысков по примерно 19 миллионам полицейских фотографий, хранящихся в национальной базе данных полиции Великобритании. По мнению Национального совета начальников полиции, совпадение лиц следует считать не фактом, а разведывательной информацией. Полиция Темз-Вэлли сообщила, что решение арестовать Чаудхари также было принято после визуальной оценки человека.
Но в декабре было обнаружено, что эта технология дает гораздо более высокий уровень ложных срабатываний для чернокожих (5,5%) и азиатских (4,0%) лиц, чем для белых лиц (0,04%) в некоторых условиях, согласно исследованию, проведенному по заказу Министерства внутренних дел. Комиссары полиции и по борьбе с преступностью предупредили «относительно скрытой предвзятости» и заявили, что, хотя «нет никаких доказательств неблагоприятного воздействия в каком-либо отдельном случае, это скорее случайность, чем замысел».
С декабря полиция Темз-Вэлли также внедряет технологию распознавания лиц в реальном времени для сканирования людей в Оксфорде, Слау, Ридинге, Уикоме и Милтон-Кейнсе. Он запечатлел почти 100 000 лиц, что привело к шести арестам.
Увидев разницу между лицом мужчины, увиденного на камерах видеонаблюдения, и своим собственным лицом, Чаудхари предположил, что его скоро освободят. Он представил доказательства рабочих встреч в Саутгемптоне в день преступления, но вместо этого был взят под стражу.
Чоудхари требует возмещения ущерба полиции Темз-Вэлли и полиции Хэмпшира, которые осуществили его арест. Соседи видели, как его увозили в наручниках, отец очень переживал, что его поймают, по его словам, и на следующий день он не смог работать. Он также требует большей прозрачности в отношении количества неправомерных арестов с использованием технологии распознавания лиц.
Единственная вина Чаудхари лежит на полицейской системе, поскольку он был ошибочно арестован в 2021 году, когда на него напали ночью в университете в Портсмуте. Полиция отпустила его, не предприняв никаких действий. Теперь, когда у него есть второй снимок, он опасается, что автоматизированная система может произвести еще больше ложных арестов.
«На мой взгляд, если бы коричневый парень в Шотландии ограбил банк, они бы пришли и арестовали меня?» Он сказал.
Иногда ему требовался допуск к секретной информации для работы на правительственных клиентов, и когда его спросили об аресте, он сказал: «Это заставляет меня выглядеть подозрительно и подозрительно».
Полиция Темз-Вэлли призналась Чоудхури, что арест «мог быть результатом предвзятости в технологии распознавания лиц». Но чиновник сказал ему, что «поскольку использование распознавания лиц уже является предметом рассмотрения на стратегическом уровне, я не чувствую необходимости поднимать этот вопрос в рамках более широкого организационного обучения».
Представитель полиции Темз-Вэлли назвал арест незаконным и заявил: «Хотя мы приносим извинения за страдания, причиненные заявителю в этом случае, его арест был основан на собственной визуальной оценке следователей, согласно которой мужчина соответствовал подозреваемому на кадрах видеонаблюдения после ретроспективного распознавания лиц и не находился под влиянием расового профилирования».
Но Чоудхури сказал, что офицеры полицейского участка Хэмпшира засмеялись, когда он спросил: «Оно похоже на меня?» И он сказал, что офицеры полиции Темз-Вэлли, приехавшие его допросить, сказали: «После просмотра видеозаписи подозреваемого и моей фотографии они поняли, что я не подозреваемый».
Были неоднократные предупреждения об использовании технологии автоматического распознавания лиц. В декабре 2024 года комиссар Великобритании по биометрии и камерам наблюдения Уильям Вебстер выразил обеспокоенность тем, что полиция продолжает хранить и использовать изображения людей, которые были арестованы, но так и не были впоследствии обвинены или привлечены к ответственности. В прошлом месяце полиция Южного Уэльса использовала технологию распознавания лиц, чтобы возместить ущерб чернокожему мужчине, который был ошибочно арестован и задержан на 13 часов.
Адвокат Чаудхари Ян Гулд, партнер DPP Law, заявил, что полиция должна «обеспечить, чтобы искусственный интеллект не заменял человеческий интеллект и комплексную проверку, а использовался в тщательном сотрудничестве с ним».
Министерство внутренних дел заявило, что руководство и обучение пересматриваются Инспекцией полиции, чтобы уменьшить количество ошибок и сохранить доверие общественности к ретроспективному распознаванию лиц. В нем говорится, что разрабатывается новая национальная система сопоставления лиц с улучшенным, независимо протестированным алгоритмом.
