BFM Business

Manipulation de l’information: l'intelligence artificielle pourrait "semer le chaos"

L'illustration d'un "deep fake", sur Donald Trump.

L'illustration d'un "deep fake", sur Donald Trump. - derpfakes / YouTube

Un rapport interministériel, réalisé par les équipes de prospective des ministères des affaires étrangères et des armées et publié le 4 septembre, souligne que le pire est à venir en matière de manipulation des informations en ligne.

En ligne, il sera de plus en plus ardu de démêler le vrai du faux et d'échapper aux campagnes de désinformation. Tel est le propos d'un rapport publié ce 4 septembre par deux instituts de recherche des ministères français des Affaires étrangères et des Armées. Ces prochaines années, les progrès technologiques permettront de truquer l'information de façon quasi-indétectable pour mieux "semer le chaos", d'après les prévisions alarmistes de l'étude.

Aussi vieille que le monde

"La manipulation de l'information est aussi vieille que le monde et fait partie de l'univers dans lequel les armées opèrent (...) mais ce qui change, c'est l'avènement des nouvelles technologies, qui lui donne une ampleur nouvelle," a déclaré Florence Parly, la ministre des Armées, lors du dévoilement du rapport, avant d'ajouter que des sociétés entières et des systèmes politiques pouvaient être bousculés.

Parmi les menaces jugées les plus réalistes, les auteurs pointent du doigt les technologies permettant de rendre la désinformation indétectable. Ainsi des "deep fakes", ces reconstitutions de voix ou de discours vidéo permis par l'intelligence artificielle. En la matière, l'un des plus réussis reste celui d'un discours de Donald Trump artificiellement recréé. Les progrès rapides de ces technologies laissent imaginer des faux toujours plus réalistes ces prochaines années, pour des temps de conception de plus en plus réduits.

"Un plus grand danger encore, car plus subtil que la création d'un faux, est l'altération discrète d'une partie seulement d'un contenu audio ou vidéo, un discours par exemple", complètent les auteurs du rapport. Il sera aussi possible de truquer un discours, par exemple, et de diffuser une vingtaine de variations, "pour diluer l'authentique dans la confusion".

Des campagnes d'influence ciblées

Ces altérations des contenus pourront être mises au service de campagnes d'influence ciblées, sur lesquelles se penche également le rapport. Si les quatre auteurs se concentrent sur les "manipulations de l’information d’origine étatique et étrangère", seules quelques pages sont consacrées aux ambitions chinoises ou des pays du Golfe. La stratégie russe, dénoncée lors de la dernière élection présidentielle américaine, fait l'objet de la quasi-intégralité du rapport. 

"Les opérations informationnelles russes sont aujourd’hui un habile mélange de propagande de tradition soviétique et de divertissement à l’américaine", relève le document. L'objectif d'une telle opération revient moins à convaincre d'une idéologie alternative que d'affaiblir en divisant. Avant l'élection de Donald Trump, les contenus viraux sur Facebook et assimilés par le réseau à de la propagande russe misaient sur des sujets clivants dans le pays, tels que la question des réfugiés, le port d'armes ou encore le mouvement Black Lives Matter.

Les recommandations formulées par les auteurs du rapport pour lutter contre la désinformation restent d'ordre général. Ainsi du fait de "ne pas abandonner le web aux extrémistes", de "légiférer lorsque nécessaire", de "responsabiliser les plateformes numériques", de "développer la vérification des faits", de "mieux rétribuer un journalisme de qualité" ou encore de miser sur l'éducation des plus jeunes. D’autres prescriptions, plus précises cette fois-ci, ont été adressées directement aux autorités françaises. Elles prennent néanmoins la forme de notes confidentielles.

https://twitter.com/Elsa_Trujillo Elsa Trujillo Journaliste BFM Tech