BFM Business

Des chercheurs créent un logiciel gratuit pour tromper les systèmes de reconnaissance faciale

Des visages transformés par l'application Fawkes

Des visages transformés par l'application Fawkes - SAND Lab (Université de Chicago)

Mis au point par des chercheurs de l’Université de Chicago, ce logiciel baptisé “Fawkes” altère légèrement les photos des utilisateurs afin de polluer les bases de données utilisées par les systèmes de reconnaissance faciale.

Comment tromper les systèmes qui nous surveillent? C’est la question à laquelle ont tenté de répondre Emily Wenger et Shawn Shan, deux doctorants du SAND Lab, au sein de l’Université de Chicago (Etats-Unis). Avec une idée plutôt élémentaire: polluer les bases de données des outils de reconnaissance faciale déployés à grande échelle pour les induire en erreur. De leurs travaux résulte un projet, devenu logiciel opérationnel, baptisé Fawkes - en hommage au masque de Guy Fawkes popularisé par le film V pour Vendetta et le collectif Anonymous. Il est accessible à tous les internautes.

Des transformations invisibles à l’oeil nu

Pour comprendre le fonctionnement de Fawkes, il faut revenir sur celui de certains systèmes de reconnaissance faciale, parmi lesquels celui de Clearview AI. Décrite dans un article du New York Times publié en janvier 2020, l’application est utilisée par des centaines de polices américaines, ainsi que par le FBI. Sa force? “Aspirer” des millions de photos publiques provenant des réseaux sociaux -trois milliards de clichés auraient ainsi été collectés- afin de générer une immense base de données associant des images à des noms et des adresses. Des informations ensuite utilisées par la police pour identifier un suspect en quelques minutes.

Transformation réalisée par le logiciel Fawkes
Transformation réalisée par le logiciel Fawkes © SAND Lab (Université de Chicago)

Pour les créateurs de Fawkes, le meilleur moyen de venir à bout de ce système est de lui fournir des images inutilisables. Le logiciel est ainsi capable de modifier très légèrement une image -par exemple une photo de profil Facebook- en y glissant de minuscules détails provenant du visage d’un tiers n’ayant aucun ressemblance. Une transformation peu perceptible à l’oeil nu, qui, une fois la photo “aspirée” dans la base de données, va empêcher le système de reconnaissance faciale de reconnaître l’individu concerné.

Pour ses premiers essais, Fawkes a ainsi intégré des éléments du visage de l’acteur Patrick Dempsey à celui de l’actrice Gwyneth Paltrow. Avec succès.

Jeu du chat et de la souris

D’après les chercheurs, leur outil est parvenu à induire en erreur les principaux systèmes de reconnaissance faciale déployés à grande échelle, dont ceux de Microsoft et d’Amazon. Leur logiciel est disponible gratuitement pour les utilisateurs Mac et Windows. Une application devrait prochainement voir le jour.

Les promesses de Fawkes n’ont pour l’heure pas convaincu tous les spécialistes du secteur. Si le système peut à court-terme s’avérer efficace à titre individuel, il faudrait qu’il soit déployé à grande échelle pour avoir un effet systémique.

Interrogé par le New York Times, Facebook précise avoir des équipes internes dédiées à la mise au point de tels systèmes, avec la possibilité de les activer par défaut pour tous les utilisateurs. Shawn Shan, créateur de Fawkes, indique justement être en stage chez Facebook, au sein de ces équipes.

De leur côté, les géants de la reconnaissance faciale ne s’avouent pas vaincus. Toujours auprès du New York Times, un dirigeant de Clearview assure qu’il utilisera ces images volontairement altérées pour améliorer ses systèmes de reconnaissance faciale et les rendre encore plus fiables. Le début d’un jeu du chat et de la souris.

https://twitter.com/GrablyR Raphaël Grably Chef de service BFM tech