Etats-Unis: une femme noire affirme avoir été arrêtée à tort à cause de la reconnaissance faciale

Doit-on faire confiance aux systèmes de reconnaissance faciale quand il s'agit de la justice? A Detroit, aux Etats-Unis, Porcha Woodruff, une femme noire enceinte de huit mois, déclare avoir été arrêtée, menotée puis détenue pendant près de 11 heures, selon le New York Times. Elle a été accusée de vol de voitures, d'après un système de reconnaissance faciale qui l'aurait reconnue.
Les faits se sont déroulés en février dernier. Porcha Woodruff a été conduite au centre de détention de Detroit pour être interrogée. Elle s'est notamment fait saisir son iPhone pour rechercher des preuves puis elle a ensuite été libérée sous caution.
"J'avais des contractions dans la cellule de détention (...) J'avais des spasmes. Je pense que j'étais en état de crise de panique", raconte-t-elle au quotidien américain.
Etablir des correspondances de profils
Tout a commencé par une recherche automatisée. Un responsable de la police a demandé une analyse à partir la reconnaissance faciale sur la base de la vidéosurveillance située à la station service où a eu lieu le vol de voiture.
Le département de police de Détroit utilise le logiciel de reconnaissance faciale de DataWorks Plus. Ce système compare des visages inconnus à une base de données de photos de personnes déjà connues par les services de police. Ensuite, le système envoie une sorte de classement en fonction de la probabilité des personnes d'être l'auteur des faits. En dernier ressort, c'est un policier qui est responsable de décider si les correspondances paraissent plausibles.
Le rapport de police indique que ce policier a donné à l'enquêteur le nom de Porcha Woodruff sur la base d'une correspondance avec une photo d'identité de 2015. A cette époque, elle avait été arrêtée alors qu'elle conduisait avec un permis expiré.
Il a ensuite été demandé à la victime du vol, de reconnaître l'auteur des faits sur une base de photos de six personnes différentes. La victime a identifié Porcha Woodruff.
Un outil à l'origine de nombreuses erreurs
Le 3 août, Woodruff a déposé une plainte pour arrestation injustifiée contre la ville de Detroit. Elle est la sixième personne à déclarer avoir été faussement accusée en raison d'erreurs commises par la reconnaissance faciale. Ces six personnes étaient noires.
Le département de police de Detroit, qui effectue en moyenne 125 recherches de reconnaissance faciale par an, est actuellement visé par trois plaintes pour arrestations injustifiées basées sur l'utilisation de cette technologie. En janvier 2020, un homme avait été arrêté à tort pour vol à l'étalage.