"Vous êtes une voleuse": quand la reconnaissance faciale identifie des "coupables" par erreur

Au Royaume-Uni, Facewatch, un système de reconnaissance faciale utilisé par les commerçants et la police locale, identifie des coupables par erreur.

"Vous êtes une voleuse, vous devez quitter le magasin." Au Royaume-Uni, une habitante a été accusée par Facewatch, un système de reconnaissance faciale utilisé par de nombreux magasins dans le pays pour identifier les voleurs à l'étalage, d'être une voleuse. La jeune femme a donc été bannie de l'ensemble des établissements utilisant cette technologie. Le problème? Elle n'avait en réalité jamais rien volé.

"Je n'ai fait que pleurer et pleurer pendant tout le voyage de retour… Je me suis dit: 'Oh, est-ce que ma vie sera la même? Je vais être considérée comme un voleur à l'étalage alors que je n'ai jamais volé'", raconte la victime à la BBC.

Depuis, Facewtach a reconnu avoir commis une erreur.

Une technologie utilisée par la police

Mais les commerçants ne sont pas les seuls à utiliser Facewatch. La police londonienne expérimente également cette technologie. Concrètement, des caméras sont fixées sur des camionnettes et capturent des milliers d'images de visages de passants. Si ces personnes correspondent à des individus surveillés par la police, les agents peuvent aller facilement à leur rencontre.

"Il faut moins d'une seconde à la technologie pour créer une image biométrique du visage d'une personne, l'évaluer par rapport à la liste de surveillance sur mesure et la supprimer automatiquement lorsqu'il n'y a aucune correspondance", a déclaré Lindsey Chiswick, directrice du renseignement du Met à la BBC.

Au total, plus de 192 arrestations dans le grand Londres ont eu lieu cette année grâce à la technologie. Mais là encore, tout ne se passe pas toujours comme prévu. Plusieurs personnes ont été identifiées à tort par la technologie comme des individus "recherchés par la police".

"Cela semblait intrusif… J'ai été traité comme un coupable jusqu'à preuve du contraire", a expliqué Shaun Thompson, une des victimes des erreurs du système de reconnaissance faciale.

"Ces erreurs sont rares"

Et malgré les erreurs, le recours à la reconnaissance faciale se multiplie. Entre 2020 et 2022, la police métropolitaine a utilisé neuf fois la reconnaissance faciale. L’année suivante, ce chiffre était de 23. Depuis le début de 2024, le système a été utilisé 67 fois.

La police londonienne affirme que ces erreurs d'identification sont rares. Selon elle, une personne sur 33.000 qui passe devant les caméras est mal identifiée. Mais le nombre d’erreurs est beaucoup plus élevé une fois qu’une personne est effectivement signalée. Depuis le début de l'année, une alerte sur 40 était un faux positif.

De son côté, Facewatch a refusé de répondre aux demandes de commentaire de la BBC.

Salomé Ferraris