Addiction, opacité: pourquoi l'algorithme de TikTok inquiète autant?

L'algorithme de TikTok est l'une des clés de son succès phénoménal. Mais sa puissance lui attire aussi des critiques, tout comme son manque de transparence et ses origines chinoises.

TikTok est encore sous le feu des critiques. Partout en Europe et aux États-Unis, le réseau social est dans le viseur des autorités, qui multiplient les critiques à son encontre et agitent parfois la menace d’une interdiction pure et simple.

La plupart des reproches faits à l’application ciblent un de ses rouages en particulier. Et pas n’importe lequel: le cœur du réacteur, sa recette secrète – son algorithme. Le programme qui permet de comprendre les préférences des utilisateurs et de choisir quelles vidéos leur recommander. Et les critiques faites à cet algorithme vont bien au-delà des simples recommandations.

Il cible vos préférences comme aucun autre

“Un certain nombre des reproches qu’on fait à TikTok, on les fait à la majorité des réseaux sociaux”, tempère d’entrée pour Tech&Co Marc Faddoul, co-directeur de l’ONG AI Forensics, qui étudie le fonctionnement des algorithmes de recommandation. Mais l’algorithme de TikTok et le design si particulier du réseau social poussent ces reproches à leur paroxysme.

TikTok est par exemple accusé d’être très addictif, particulièrement pour les plus jeunes, qui peuvent y passer plusieurs heures par jour. “C’est le jeu auquel se livrent toutes les plateformes: garder l’utilisateur engagé et le retenir sur la plateforme le plus longtemps possible”, rappelle Marc Faddoul à Tech&Co. Et pour l’emporter dans cette bataille de l’attention, il faut lui proposer des contenus qui plaisent – d’où l’interêt d’un algorithme de recommandation performant.

À ce jeu-là, TikTok est loin devant: son algorithme arrive à cerner les préférences de ses utilisateurs comme aucun réseau avant lui – et peut donc vous retenir pendant des heures. S’il est aussi puissant, c’est parce qu’il accumule une quantité astronomique de données sur vos préférences.

“En une heure, on regardera peut-être une quinzaine de vidéos YouTube, mais on en aura vu plusieurs centaines sur TikTok”, souligne Marc Faddoul.

Or, chaque vidéo qui passe sur le fil vertical représente une mine d’informations: est-ce que vous l’avez regardée, aimée, partagée, ignorée… De quoi accumuler une montagne d’informations et ainsi adapter en un éclair les vidéos proposées à l’utilisateur.

C’est parce qu’il fournit constamment aux utilisateurs du contenu qui les intéresse que l’algorithme de TikTok est régulièrement accusé de favoriser les conduites addictives, ou des cercles vicieux de contenus négatifs qui ont pu être mis en cause dans des cas de dépression ou de suicide. “L’algorithme favorise aussi particulièrement les contenus polarisants ou polémiques, car ce sont les plus engageants”, ajoute Marc Faddoul.

Des origines chinoises qui inquiètent

Si l’algorithme de TikTok est tant critiqué, c’est aussi pour son manque de transparence. Comme la plupart des algorithmes des grandes plateformes, “son fonctionnement est très opaque”, rappelle Marc Faddoul: son code n’est pas disponible, on ne sait pas précisément quelles données sont collectées, ou leur poids respectif dans la détermination des préférences… Mais là aussi, TikTok est un cas à part. En particulier à cause de ses origines: la maison-mère du réseau social, ByteDance, est chinoise.

“On sait que le Parti communiste chinois contrôle l’écosystème technologique national d’une main de fer”, rappelle Marc Faddoul.

Avec une telle influence, l’algorithme de TikTok pourrait-il être utilisé par le gouvernement chinois pour pousser des contenus favorables à ses politiques? Pour s’en convaincre, il suffit de jeter un œil à la version chinoise de TikTok, Douyin, bien différente de celle disponible dans le reste du monde. Les contenus critiques du gouvernement y sont restreints par l’algorithme, voire censurés, tout comme les vidéos montrant des personnes LGBT ou qui remettent en cause des traditions culturelles. Cette censure est-elle faite à la demande du gouvernement ou à l’initiative de ByteDance elle-même? Nul ne sait vraiment.

“Aujourd’hui, il n’y a pas de preuve directe que le PCC influence la politique de modération ou éditoriale de TikTok”, souligne Marc Faddoul. “Mais c’est un risque qui est réel”.

Un risque qui a poussé plusieurs pays à envisager l’interdiction de l’application, dont les États-Unis. C’est pour éviter une telle issue que le réseau social envisagerait de se séparer de sa maison-mère chinoise. Mais si les inquiétudes liées à l’origine de TikTok pourraient être réglées, les autres questions liées à son algorithme, elles, risquent de se poser encore longtemps.

Luc Chagnon