Un détecteur de mensonge dopé à l'IA: le projet européen de contrôle des frontières reste opaque

Les opposants au projet dénoncent un manque de transparence et un risque de biais discriminatoires.

C'est une déconvenue pour Patrick Breye. L'eurodéputé allemand s'est vu refuser sa demande d'accès à l'intégralité des documents concernant le projet de détecteur de mensonges basé sur l'intelligence artificielle (IA): "iBorderCtr". Une décision rendue le 7 septembre 2023 par la Cour de justice de l'Union européenne qui continue d'entretenir l'opacité autour de ce projet controversé, rapporte l'Usine Digitale.

L'outil, qui concerne les voyageurs qui souhaitent entrer dans l'Union européenne (UE), doit permettre de détecter si ces derniers mentent ou non lors d'un contrôle aux frontières à l'aéroport. Pour cela, ils doivent répondre à un "agent de contrôle" artificiel via une webcam, explique la Commission européenne.

Cet garde-frontière virtuel s'appuie sur un système d'apprentissage automatique capable de détecter des "micro-expressions" suspectes du visage lorsque les voyageurs donnent leurs réponses. Par exemple, un oeil qui va vers la gauche ou la droite en raison d'une hésitation. Si la machine considère que les réponses apportées sont vraies, le voyageur franchit la frontière. Dans le cas contraire, un contrôle plus approfondi doit être effectué par un agent humain.

Crainte de biais discriminatoires

Or, le fonctionnement précis de cette technologie demeure un mystère. Pour cette raison, l'eurodéputé Patrick Breye a souhaité consulter les documents relatifs au projet. Sa première requête a été déboutée par l'Agence exécutive européenne pour la recherche (REA), un organisme de financement qui gère les subventions de recherche de l'Union européenne (UE).

Patrick Breye s'est donc adressé à la Cour de justice et a justifié sa requête au nom de "l'intérêt public" pour un projet, par ailleurs, entièrement financé par des fonds publics, à hauteur de 4,5 millions d'euros. L'eurodéputé s'inquiète également d'éventuels biais discriminatoires liés à l'usage de cette technologie à l'égard de certaines populations. L'utilisation importante de données biométriques dans le cadre du projet iBorderCtr est également une source d'inquiétude pour Patrick Brey.

Les travaux sur ce détecteur de mensonges basé sur l'IA sont également dénoncés par Article 19. Cette association britannique de protection des droits de l'Homme a réagi, le 7 septembre, à la décision de la Cour européenne de justice.

"La Cour européenne de justice n'a pas reconnu aujourd'hui l'importance de la transparence et du contrôle démocratique des projets financés par le contribuable, en particulier ceux qui menacent la liberté d'expression, la vie privée et l'égalité", a déclaré Barbora Bukovská, directrice du service juridique et politique d'Article 19, dans un article publié sur le site de l'association.

En outre, la détection des "micro-expressions" ne s'appuie sur aucun fait scientifique et cette technologie n'est pas infaillible, estime l'association.

Fonctionnement critiqué

"Le lien entre les micro-expressions et la détection du mensonge reste très décrié" estimait ainsi Laurence Devillers, chercheuse au Laboratoire d'informatique pour la mécanique et les sciences de l'ingénieur du CNRS, auprès de Libération, en 2019. "La détection des mouvements faciaux a des limites, qui peuvent être dues à la morphologie, la couleur de peau ou au fait que la personne soit ridée ou non par exemple", ajoutait-elle alors.

Dès 2019, le média spécialisé The Intercept avait testé le système, alors en phase d'expérimentation à la frontière serbo-hongroise. Avaient alors été pointées du doigt les limites techniques de ce projet, avec un score médiocre malgré l'honnêteté des réponses du journaliste, ainsi qu'une opacité totale sur le résultat obtenu, communiqué uniquement après une demande légale en vertu du RGPD.

Ce 9 septembre, la version italienne du média Wired a publié un article évoquant les informations qu'a malgré tout pu obtenir Patrick Breye par le biais de sa demande. Des éléments limités, avec des données manquantes, comme le nom du spécialiste de l'éthique qui devait encadrer le projet, à la demande de la Commission européenne.

Louis Mbembe