Tiktok: quand l'IA de sa boutique en ligne associe des vidéos dramatiques de Gaza et des produits à acheter

Dans une vidéo montrant une femme avançant parmi les décombres de Gaza, l’algorithme de TikTok a automatiquement associé des produits de sa boutique en ligne à la scène, déclenchant une vive polémique.

Depuis plusieurs jours, TikTok est au centre de l’actualité. Aux États-Unis, les discussions sur son rachat progressent et les derniers détails commencent à se préciser: la nouvelle entité, majoritairement détenue par des investisseurs américains, continuera de fonctionner avec une copie de l’algorithme actuel, considéré comme le cœur même de la puissance de la plateforme.

Mais le réseau social est aussi au cœur d’une controverse inattendue. Comme l’a révélé The Verge, Tiktok a associé des vidéos montrant Gaza en ruines à des suggestions de produits en ligne. Dans l’une d’elles, on voit ainsi une femme palestinienne avancer au milieu des décombres à la recherche de proches disparus. Un contexte dramatique que les algorithmes de Tiktok n'ont visiblement pas l'intelligence de détecter et prendre en compte. En effet, à la lecture de cette vidéo, l'application propose des recommandations de robes similaires à celles du sujet à l'écran, avec des intitulés comme “Dubai Middle East Turkish Elegant Lace-Up Dress”.

Capture d'écran des suggestions de produits en ligne sur TikTok. © The Verge

Cette dérive provient d’une nouvelle fonctionnalité en cours de test, basée sur l’intelligence artificielle, qui identifie automatiquement les objets présents dans une vidéo lorsqu’elle est mise en pause, puis affiche des produits similaires vendus sur la boutique Tiktok. Mais l’entreprise semble avoir négligé de restreindre son usage à des contextes adaptés, exposant ainsi les limites de son outil.

Une dérive de l’algorithme actuel

Contactée par The Verge, Tiktok a reconnu un “test qui a mal tourné”. “Nous menons un essai limité d’une fonctionnalité de recherche visuelle qui n’aurait pas dû apparaître sur ces vidéos”, a déclaré le porte-parole Ben Rathe, précisant que l’entreprise travaille à corriger le problème.

Les grandes plateformes comme TikTok, Instagram ou YouTube cherchent depuis longtemps à combiner recommandations et ventes à leurs vidéos, en transformant chaque contenu en opportunité d’achat direct. Avec la recherche visuelle automatique, l’algorithme peut désormais associer des produits à n’importe quelle image, qu’il s’agisse d’une vidéo de mode ou d’un simple accessoire montré à l’écran. Mais la fonctionnalité a suscité l’indignation lorsqu’elle a aussi été appliquée à des contenus sensibles.

Arrivé en France en mars dernier, TikTok Shop a déjà "prouvé son efficacité" aux États-Unis, où l’essor des ventes a été fulgurant. Selon Reuters, 11 % des foyers américains y ont déjà effectué un achat et, lors du Black Friday 2023, la plateforme a généré à elle seule 100 millions de dollars de ventes, à peine un an après son lancement. En France, ce sont 61% des jeunes de 18 à 27 ans qui font du shopping via les réseaux sociaux.

Raphaël Raffray