BFM Tech

Deepfakes: Facebook interdit les vidéos truquées grâce à l'intelligence artificielle (sauf si c'est de l'humour)

Un deepfake montre Donald Trump et Vladimir Poutine en Mini moi et Dr. Evil.

Un deepfake montre Donald Trump et Vladimir Poutine en Mini moi et Dr. Evil. - Sinofis/ YouTube

Facebook avait dans un premier temps assumé de laisser en ligne des vidéos trafiquées. Le réseau social a finalement décidé de supprimer les plus réalistes, générées dans le but de tromper les utilisateurs. La "satire" et la "parodie" restent autorisées.

Les élections présidentielles américaines approchent et Facebook veut montrer patte blanche après le scandale Cambridge Analytica. Le réseau social a annoncé lundi qu’il bannirait de sa plateforme les deepfakes et autres vidéos trafiquées. Facebook avait dans un premier temps avancé le contraire, se défendant d’avoir laissé en ligne une vidéo de Nancy Pelosi, la présidente de la chambre des représentants américaine, qui prononce un discours en bafouillant. Devenu viral, le montage avait été publié partout. Y compris par Donald Trump, sans préciser qu'il s'agissait d'une fausse vidéo. 

Contrairement à YouTube, Facebook l'avait laissée en ligne tout en limitant sa portée. Le réseau social s'était justifié à l'époque par la voix de Monica Bickert, responsable des politiques globales chez Facebook:

"Il est important que les gens fassent leurs propres choix, éclairés, sur ce à quoi ils veulent croire”. 

Un deepfake de Mark Zuckerberg lui-même, se vantant publiquement de contrôler des milliards de données "volées", avait été mis en ligne peu de temps après sur Facebook, là encore sans être censuré.

Tromperie ou parodie?

Les nouvelles règles de modération en vigueur chez Facebook contiennent une subtilité. Seront supprimées les vidéos éditées ou synthétisées par des technologies d’une manière si réaliste que la majorité des utilisateurs ne pourraient pas repérer la manipulation.

Mais seront maintenues en ligne toutes celles qui ont été modifiées à des fins de “parodie” ou de “satire”, précise le billet de blog publié par l’entreprise. Selon le Washington Post, même avec le nouveau règlement, la vidéo de Nancy Pelosi serait ainsi restée en ligne. 

Le réseau social confie la lourde tâche de faire le tri à ses cinquante partenaires dans le monde entier, qui "fact-checkent" les contenus dans plus de quarante langues.

Facebook reconnaît qu’il sera parfois difficile de savoir si une vidéo est fausse ou partiellement fausse. Dans ce cas, elle ne sera pas supprimée mais elle ne pourra être mise en avant sous forme de publicité. Un avertissement sera affiché quand un utilisateur tentera de la partager. 

De son côté, Facebook rappelle:

“Nous n’avons pas de politique qui stipule que l’information que vous affichez sur Facebook doit être vraie”. 
https://twitter.com/Pauline_Dum Pauline Dumonteil Journaliste BFM Tech