"Brûlons cette vermine": en Inde, Facebook a diffusé des publicités anti-musulmans

En pleine campagne électrorale, Facebook a validé la diffusion de publicités générées par l'intelligence artificielle et appelant à la violence contre certains groupes ethniques.

En dépit des règles qu'il a lui même érigées, le réseau social Facebook, propriété de Meta, a approuvé des publicités politiques indiennes haineuses générées par de l'intelligence artificielle, alors même que le pays est en pleine campagne électorale dans le but de faire réélir le Premier ministre Narendra Modi.

Des discours de haine approuvés par Meta

Sur ces publicités, révèle le Guardian, des insultes envers les musulmans, minorité indienne, comme des "Brûlons cette vermine" ou "le sang hindou coule, ces envahisseurs doivent être brûlés", suivis de désinformations sur des dirigeants politiques concurrents de Narendra Modi. Une autre publicité a été approuvée alors qu'elle appelait à exécuter le leader de l'opposition, informant les personnes touchées qu'il voulait "effacer les hindous de l'Inde".

Ces publicités ont été soumises par deux collectifs indiens cherchant à justement pointer du doigt les failles des règles de Facebook en matière de publicités, alors que l'élection bat son plein. Elles ont été créées à partir de véritables discours incitant à la haine de la part de dirigeants politiques hindous, expliquent les deux organisations.

Narendra Modi et son parti sont régulièrement accusés par les défenseurs des droits de l'homme de manipuler l'opinion à grand renfort de fausses informations. Le Premier ministre s'est attaché à privilégier l'hindouisme au détriment de la religion musulmane.

Dans leur rapport, les chercheurs de India Civil Watch International et d'Ekö expliquent que sur les 22 publicités soumises en anglais, hindi, bengali, gujarati et kannada, 14 d'entre-elles ont été approuvées par Facebook, et 3 autres ont pu voir le jour après quelques modifications, sans que cela ne change quoi que ce soit aux messages de haine ainsi diffusés publiquement - ces pubs ont ensuite été supprimées après l'étude.

Benaouda Abdeddaïm : Le Canada accuse l'Inde d'un meurtre sur son territoire, les États-Unis ménagent la puissance asiatique - 25/09

4:13

Des garde-fous inopérants contre l'IA

Au-delà des messages de haine véhiculés sans alerter les modérateurs de la plateforme, c'est aussi la question des images générées par intelligence artificielle qui se pose. Facebook avait en effet annoncé vouloir avertir les utilisateurs si une image était manipulée, mais ici, aucun avertissement n'était visible.

Les chercheurs ont également constaté que les messages qui critiquaient le parti au pouvoir avaient davantage tendance à être retoqués que ceux appelant à la haine des musulmans, et ce, en dépit du non respect des règles de Facebook en la matière. En réponse à ces révélations, le réseau social a rappelé que les personnes diffusant des publicités étaient tenues responsables "du respect de toutes les lois applicables", ajoutant qu'il demandait également aux annonceurs de le dire lorsqu'un contenu était généré par l'IA.

Meta a par ailleurs renforcé ses équipes de modération - qui travaillent dans une vingtaine de langues indiennes, ce qui n'a pas convaincu les chercheurs: "Cette élection montre une fois de plus que Meta n'a aucun plan pour lutter contre les discours de haine et la désinformation sur sa plateforme pendant des élections importantes." Un constat qui fait office d'avertissement à quelques jours des élections européennes.

Sylvain Trinel