Au Royaume-Uni, une femme accusée à tort de vol par une IA

Une Britannique a été accusée de vol à tort par un système de reconnaissance facile à l'IA entraînant son bannissement d'une enseigne. L'incident jette à nouveau le doute sur la fiabilité de la technologie.

L'intelligence artificielle n'est toujours pas infaillible. Une Britannique a été accusée de vol par un système de caméras doté de reconnaissance faciale et bannie de l'ensemble des magasins Home Bargains. Seul souci: elle n'a pas commis l'infraction que les caméras lui imputaient.

Dans un pays où les systèmes de reconnaissance à l'IA commence à se multiplier, cet épisode vient remettre une fois de plus en question la fiabilité des systèmes de reconnaissance faciale.

Une IA qui accuse à tort

Selon la BBC, en mai 2025, une résidente de Manchester (nord-ouest de l'Angleterre) s'est rendu dans un magasin Home Bargains. Alors qu'elle faisait ses courses, un responsable lui demande de quitter l'établissement, sans explication apparente. Il lui conseille seulement de contacter l'entreprise Facewatch, spécialiste des systèmes de reconnaissance faciale et gestionnaire de l'outil de sécurité mis en place dans les lieux.

En juin, la jeune femme se rend dans un autre magasin de l'enseigne et l'histoire se répète. À peine entrée dans le bâtiment, elle se retrouve encerclée par la sécurité et expulsée du magasin, sans justification.

Un magasin Home Bargains au Royaume-Uni © Home Bargains

Ce n'est qu'après avoir insisté auprès de Facewatch et Home Bargains qu'elle comprend ce qu'il se passe et réalise qu'elle est accusée de vol des rouleaux de papier toilette. Le système de reconnaissance facial l'a identifiée comme coupable de vol et a intégré le visage de la femme à sa base de données. Dans tous les magasins Home Bargains, elle est alors fichée comme voleuse et donc interdite d'accès.

À force de protestations, de preuves apportées qu'elle n'avait pas volé les rouleaux et, au contraire, bien réglé ses achats ledit jour, elle a fini par être innocentée. À la suite de l'incident, Home Bargains a annoncé suspendre ses activités avec Facewatch.

Ce n'est pas la première qu'une telle situation implique les sociétés anglaises Facewatch et Home Bargains. En 2024, une citoyenne anglaise s'était, elle aussi, retrouvée bannie de l'ensemble des magasins après avoir été accusée à tort de vol par le système de reconnaissance faciale. Malgré ces erreurs, Facewatch connaît un certain succès dans le pays au point d'être même utilisée par la police.

Une technologie qui se déploie

Aussi appelée cybersurveillance, la reconnaissance faciale se démocratise peu à peu dans le monde. Cette technologie biométrique vise à analyser, à l'aide d'un algorithme, des traits de visage depuis une vidéo ou une photo, et à les comparer à des images stockées dans une base de données.

L'Asie est le continent le plus friand de cette technologie à l'instar de certains pays comme la Chine, mais aussi le Japon, qui utilise des caméras dans les lieux de travail ou dans les transports en commun.

La mise en place de la reconnaissance faciale dans les pays de l'Union européenne se fait plus discrètement. Le déploiement de la technologie est notamment encadré par le règlement général sur la protection des données (RGPD). La reconnaissance faciale reste interdite à l'exception de situations très particulières impliquant des enjeux de sécurité importants (événements culturels, sportifs, manifestations, etc.).

L'AI Act vient laisser le choix à chaque pays d'exploiter l'outil à condition que son utilisation soit justifiée et conforme aux restrictions imposées par le texte:

"Un État membre peut décider de prévoir la possibilité d'autoriser totalement ou partiellement l'utilisation de systèmes d'identification biométrique à distance 'en temps réel' dans des espaces accessibles au public à des fins répressives dans les limites et conditions énumérées", précise le texte.

La reconnaissance faciale en France

En France, l'utilisation de telles caméras fait encore débat. En juin 2023, le Sénat a adopté en première lecture une proposition de loi visant à encadrer la reconnaissance faciale au niveau national. Il interdit certains usages comme l'analyse d'émotions, la catégorisation des individus ou la notation sociale. Le texte est toujours en cours d'examen.

Cela n'a pas empêché les tests de premières caméras intelligentes "à titre expérimental", précise la CNIL, lors de grands événements comme le concert de Taylor Swift en mai 2024, le tournoi de tennis de Roland-Garros ou lors des Jeux olympiques de Paris.

Ces systèmes n'utilisent pas la reconnaissance faciale, mais analysent plutôt les mouvements de foule pour détecter un potentiel danger. Néanmoins, leur déploiement peut être précurseur à l'utilisation de la reconnaissance faciale en France.

Théotim Raguet