IA: pourquoi la (vraie) photo de CRS devant le Conseil constitutionnel sème la confusion

Avec l’essor des générateurs d’images par intelligence artificielle, la question est souvent de savoir si une photo est réelle. Mais ce jeudi, c’est un cliché authentique qui a soulevé les interrogations.

Il y a peu de chance de croiser Emmanuel Macron en train de sortir les poubelles. Pas plus de voir le pape François se balader emmitouflé dans une doudoune blanche. Mais est-il possible d’entasser une centaine de CRS devant le Conseil constitutionnel? Une photographie prise ce jeudi a semé le trouble.

Jusqu’à maintenant, il était possible de s’étonner devant un cliché insolite. Mais depuis l’émergence des outils de génération d’images par intelligence artificielle, la stupéfaction a laissé place à la suspicion. Fin mars, plusieurs photos créées par IA ont porté à sourire. Mais lors de la douzième journée de mobilisation contre la réforme des retraites, une scène très inhabituelle, voire inédite, s’est produite: un attroupement de CRS et gendarmes mobiles protégeant le Conseil constitutionnel, avant sa décision sur la réforme des retraites ce 14 avril à 18 heures.

Les détecteurs d'IA trompés

Le cliché de Stéphane Mahé, photographe pour l’agence Reuters, a fait le tour des réseaux sociaux, mais aussi des médias, notamment en Une du journal Libération. On y voit au loin les grilles du Conseil constitutionnel et, au premier plan, une centaine de CRS et gendarmes mobiles en rangs serrés. Sur une trentaine de mètres, la rue de Montpensier, dans le 1er arrondissement de Paris, est remplie d’unités de police, casque sur la tête, bouclier en main.

Seul problème: de nombreux internautes ont cru à une image générée par intelligence artificielle. Plus perturbant, les outils censés détecter les images générées par IA se sont aussi fait avoir. Le journaliste au journal Le Parisien, Nicolas Berrod, a soumis l’image à deux outils de détection: celui d’Hugging Face, une société créée par des Français et spécialisée dans l’IA, et celui de Hive Moderation.

Dans le premier cas, Hugging Face estime à 82% la probabilité que le cliché soit un montage généré par un modèle d’IA. Dans le second, Hive Moderation assure qu’il n’y a aucun doute (0%) sur le fait que la photographie est réelle.

Des indices pour authentifier une image

Au mois de mars, de fausses images de l’arrestation de Donald Trump ont été partagées sur les réseaux sociaux. Cette représentation de marée humaine de la photographie authentique de Stéphane Mahé résonne par ailleurs avec une image créée par intelligence artificielle. Une représentation de Donald Trump, partagée par son fils, marchant dans une rue, suivi par une foule.

Toutefois, quelques indices permettent encore de détecter une fausse image. Les mains restent pour l'heure le point faible des logiciels d'IA. Compter le nombre de doigts (souvent trop important) suffit parfois à identifier une création par la machine. Les visages d'une foule peuvent également apparaître comme fondus ou déformés. Quant aux textes, ils sont souvent illisibles. Autant d'éléments parfaitement réalistes sur la photo des forces de l'ordre devant le Conseil constitutionnel. En attendant de nouvelles améliorations des intelligences artificielles.

Pierre Monnier