Accusé à tort par la reconnaissance faciale, un afro-américain passe une semaine en prison

Un homme noir de 28 ans a été victime d'un outil de reconnaissance faciale dans l'État de Louisiane. Une affaire qui illustre les critiques sur les biais raciaux des algorithmes.

Le 25 novembre dernier, Randal Reid circule en voiture avec sa mère en Géorgie, lorsqu'il est interpellé par les forces de l’ordre sur la base d’un mandat émis par le comté de la paroisse de Jefferson, en Louisiane. Il est aussitôt placé en détention. Sauf que Randal Reid ne s’est jamais rendu en Louisiane. Accusé (à tort) de vol, il a été désigné comme suspect par un système de reconnaissance faciale, rapporte le site américain Ars Technica. Il n’est ressorti de la prison du comté de DeKalb, en Géorgie, que le 1er décembre dernier, après que la police a reconnu son erreur.

Confiance aveugle en la technologie

Comme le précise le média local Nola, la police locale s’est appuyée sur des images de vidéosurveillance provenant de la ville de Metairie, en Louisiane. Elles remontent à l’été 2022 et montrent un homme dérober des sacs Chanel et Louis Vuitton dans un magasin, pour un butin estimé à 10.000 dollars. Des images soumises à un système de reconnaissance faciale, qui a identifié à tort Randal Reid comme l’auteur des faits.

Auprès des médias américains, Tommy Calogero, avocat de Randal Reid, regrette que les autorités locales aient accordé une pleine confiance à la technologie, sans même procéder à des vérifications élémentaires ou remarquer des différences physiques notables, à commencer par un écart de poids d’une vingtaine de kilos.

“La police aurait pu vérifier son poids et sa taille, ou faire l’effort de lui parler et lui demander d’accéder à son domicile pour rechercher des preuves. Il l’aurait accepté” estime Tommy Calogero.

Le nom de l’outil de reconnaissance faciale utilisé par la police n’a pas été rendu public. Parmi les leaders du marché, l’entreprise Clearview, récemment condamnée par la Cnil pour avoir utilisé illégalement les photos des internautes français pour vendre ses services. Pour fonctionner, ces systèmes comparent en effet les images de vidéosurveillance aux millions de photos disponibles sur Internet, par exemple sur les réseaux sociaux.

La couleur de peau de la victime de cette erreur de jugement n’est par ailleurs pas anodine: qu’il s’agisse de l’outil de ClearView ou d’Amazon, la reconnaissance faciale est régulièrement accusée de nombreux biais ethniques, en raison d’un fonctionnement moins fiable sur les peaux plus sombres.

https://twitter.com/GrablyR Raphaël Grably Rédacteur en chef adjoint Tech & Co