BFM Tech

Etats-Unis: une chaîne de pharmacies a déployé la reconnaissance faciale dans les quartiers pauvres

Des caméras de sécurité utilisant la reconnaissance faciale exposées lors d'un salon sur les systèmes de sécurité publique en octobre 2018 à Pékin

Des caméras de sécurité utilisant la reconnaissance faciale exposées lors d'un salon sur les systèmes de sécurité publique en octobre 2018 à Pékin - NICOLAS ASFOURI © 2019 AFP

L’entreprise Rite Aid a mis en place un large système de reconnaissance faciale depuis 2013, en ciblant ses magasins situés dans les quartiers à majorité afro-américaine et latino.

Sera-t-on bientôt plus ou moins exposé à la reconnaissance faciale selon sa couleur de peau? C’est en tout cas ce qu’ont vécu de nombreux clients de l’enseigne américaine Rite Aid, qui compte près de 5000 pharmacie aux Etats-Unis. Selon une enquête de l’agence britannique Reuters, 200 de ses établissements ont été équipés de systèmes de reconnaissance faciale depuis huit ans, y compris dans des villes comme New York ou Los Angeles. Principalement dans des quartiers populaires, où la population est en majorité afro-américaine.

Les Noirs et Latinos beaucoup plus exposés

Pour Rite Aid, le but était que les images des clients soient comparées par une intelligence artificielle à une base de données de malfaiteurs afin d’alerter la sécurité du magasin.

D’après une analyse statistique menée par Reuters, les magasins situés dans les quartiers les plus pauvres étaient équipés d’un tel dispositif dans trois fois plus de cas que ceux situés dans les zones les plus aisées.

Site Web de DeepCam
Site Web de DeepCam © BFMTV.COM

Ce ratio est identique en prenant cette fois le critère de l’origine ethnique des habitants: les zones à majorité afro-américaine ou latino abritaient, ainsi trois fois plus de pharmacies Rite Aid équipées d’un système de reconnaissance faciale que les zones à majorité blanche.

Comme cela a souvent été dénoncé, le système de reconnaissance faciale aurait comporté d’importants biais algorithmiques, notamment lorsqu’il pour identifier des Noirs. Selon plusieurs témoignages recueillis par Reuters-provenant d’anciens salariés ou de clients incriminés à tort, les personnes ayant la peau sombre étaient régulièrement victimes d’erreurs du système.

Rite Aid désactive le système

Toujours d’après Reuters, l’un des systèmes de reconnaissance faciale utilisé par Rite Aid était fourni par l’entreprise DeepCam LLC, elle-même partenaire avec une entreprise appartenant majoritairement à un fond gouvernemental chinois. Aucun transfert de données vers la Chine n’a toutefois été constaté par le média américain.

L'application de DeepCam destinée aux utilisateurs
L'application de DeepCam destinée aux utilisateurs © DeepCam

Interrogé par Reuters, Rite Aid se défend de toute discrimination raciale. Elle évoque sa volonté de protéger ses établissements de la violence, et précise que le déploiement du système de reconnaissance faciale ne s’est fait qu’en fonction de données liées à la criminalité locale. Elle a toutefois désactivé son système de reconnaissance faciale au milieu du mois de juillet, après avoir échangé avec les journalistes de Reuters.

En France, de nombreux systèmes de reconnaissance faciale ont été installés, notamment dans les aéroports, alors que le gouvernement déclarait en 2019 vouloir expérimenter cette technologie plus largement. Aux Etats-Unis, plusieurs grandes villes font marche arrière, face aux conséquences de ce système sur la vie privée et sur ses limites. Début 2020, San Diego (Californie) a ainsi mis fin à une expérimentation de sept ans: malgré 65.000 visages analysés, cet outil n’a pas permis la moindre arrestation depuis 2012.

https://twitter.com/GrablyR Raphaël Grably Chef de service BFM tech