A cause d’un bug, Facebook a amplifié la désinformation au lieu de la pénaliser

Les systèmes de gestion du fil d’actualité de Facebook ont été déréglés pendant six mois, provoquant l’incompréhension des ingénieurs de l’entreprise.

Pour les ingénieurs de Facebook, la machine s’est emballée sans qu’ils puissent comprendre pourquoi. D’après le média américain The Verge, Facebook a connu un bug majeur touchant ses systèmes de classification des contenus pendant de longs mois. Ces derniers sont censés promouvoir les contenus jugés qualitatifs sur le fil d’actualité des internautes et limiter la diffusion des contenus mensongers ou violents. L’entreprise a confirmé le problème.

D’après les documents internes datant de la fin mars et consultés par The Verge, un bug d’ampleur a été découvert par les ingénieurs de Facebook en 2019, mais ne provoquant ses premiers effets qu’en octobre 2021.

La conséquence: des publications désignées comme “fausses” par les médias “fact-checkeurs” partenaires de Facebook ont été amplifiées par Facebook au lieu d’être “rétrogradées”, avec à l’arrivée une hausse de leur audience pouvant atteindre 30%.

Facebook reconnaît des "incohérences"

Après de longues semaines d’incompréhension, les équipes de Facebook ont finalement résolu le problème, classifié par l’entreprise comme associé au deuxième niveau de crise le plus important, le 11 mars 2022.

Toujours selon les documents internes, le bug a également touché les publications contenant des éléments violents, de nudité ou encore émanant des médias russes censés être sanctionnés.

Auprès de The Verge, Facebook confirme avoir “détecté des incohérences dans le système de rétrogradation (des contenus problématiques, ndlr) à cinq reprises, entraînant des hausses statistiques limitées et temporaires”.

L’entreprise ajoute qu’un correctif logiciel avait été appliqué pour remédier à la situation.

Ce n’est pas la première fois que l’algorithme de recommandation de contenu, qui décide ce qui est affiché ou non sur le fil d’actualité des milliards d’utilisateurs de Facebook, provoque des incompréhensions parmi les équipes de la plateforme.

Dans un rapport interne relayé fin 2021, des ingénieurs évoquaient déjà leurs incompréhensions récurrentes au sujet du fonctionnement de ces algorithmes et de l’application des très nombreux critères pour mettre en avant certaines publications.

Si les utilisateurs de Facebook ont théoriquement accès à un fil d’actualité chronologique, sans tri algorithmique, ce dernier reste difficilement accessible, dissimulé dans les menus de réglages du réseau social. Interrogé par BFMTV, Facebook n’a pas souhaité préciser le nombre d’utilisateurs qui avaient accédé à ce type d’affichage.

https://twitter.com/GrablyR Raphaël Grably Chef de service BFM tech