Instagram: l'algorithme pousse de manière "délibérément provocatrice" des photos de jeunes filles de 13 ans à l'attention d'hommes adultes

Une enquête du Guardian révèle que le réseau social Instagram pousse volontairement des photos de filles mineures auprès d'hommes majeurs afin de les inciter à utiliser Threads.

Une enquête édifiante. Le Guardian dévoile les résultats de leurs investigations autour d'Instagram, et la manière dont le réseau social opéré par Meta promeut des contenus de jeunes filles mineures auprès d'hommes majeurs dans le but de les pousser à utiliser Threads, concurrent de X et de Bluesky.

C'est un homme âgé de 37 ans qui a remarqué qu'Instagram se servait de photos d'écolières pour mettre en avant des publications disponibles sur Threads, alors même que certaines de ces photos avaient été publiées sur un compte privé et non accessible au grand public.

Des photos "délibérément provocatrices"

Ces photos, associées à une publication, ont été proposées sous la forme de "fils de discussion suggérés", mais le Guardian explique aussi que ces messages prennent une forme "délibérément provocatrice" permettant, in fine, de propager des photos pouvant se retrouver sur des forums d'échanges de contenus pédopornographiques. Sur ces images, on peut ainsi voir des écolières en jupes courtes avec des jambes nues ou des bas.

"Quand j'ai découvert qu'une image d'elle avait été exploitée de manière à être sexualisée par une énorme entreprises comme (Meta) pour être ensuite commercialisée, ça m'a dégouté," explique le père d'une des adolescentes victimes de ce problème.

Pour Meta, rien ne contrevient à ses règles

Interrogé par le média anglais, Meta a expliqué que ces images n'enfreignaient pas ses conditions d'utilisation, et que son algorithme ne suggérait que des publications Threads partagées publiquement, respectant à la fois ses normes communautaires et ses directives de recommandation.

Le réseau social ajoute que ces photos ont d'abord été publiées sur des comptes appartenant à des adultes, et que son algorithme n'était pas fait pour recommander du contenu partagé par des adolescents.

Qu’est ce que le nouveau réseau social Threads?

4:19

Reste que les parents concernés, interrogés par le Guardian, font état de leur surprise: "Pour moi, c'était une photo de ma fille allant à l'école. Je n'avais aucune idée qu'Instagram l'avait récupérée et l'utilisait à des fins promotionnelles. C'est absolument dégoûtant. Elle est mineure."

Cette mère de famille explique avoir pourtant refusé de donner son consentement sur ce sujet.

Sur son compte, qui possède 267 abonnés, la publication où sa fille apparaît atteint plus de 7.000 vues, en provenance à 90% de personnes non abonnées - dont 90% sont des hommes, et 50% sont âgés de plus de 44 ans.

Sollicité, un porte parole de Meta a de nouveau expliqué qu'aucune de ces images ne violaient les politiques de recommandation du réseau social: "Nous avons mis en place des choses pour nous assurer que nous ne recommandons pas les fils de discussion partagés par des adolescents (...) les utilisateurs peuvent contrôler la manière dont Meta suggère leurs publications publiques sur Instagram."

L'homme de 37 ans qui a lancé l'alerte explique néanmoins avoir reçu pendant plusieurs jours des images exclusivement composées de jeunes filles en uniforme scolaire, avec parfois le nom de famille: "En tant que père, je trouve profondément inapproprié que Meta réutilise ces messages dans une promotion ciblée auprès d'adultes."

Il n'avait ni publié ni aimé d'images similaires: "Cela semble délibérément provocateur, et cela peut mettre en danger leur sécurité en ligne."

Le régulateur anglais appelé à prendre des mesures

Les parents ont appelé le régulateur anglais, l'Ofcom, à prendre des mesures et à vérifier si Meta fait en sorte de ne pas faciliter la mise en relation de mineurs avec des adultes. Les règles de l'Ofcom sont d'ailleurs très claires sur ce sujet: aucun profil, emplacement, liste d'amis et profil similaire ne doit être visible par d'autres si un utilisateur est mineur.

Mais un profil privé sur Instagram ne signifie pas forcément qu'il est également sur Threads. Pour pousser son concurrent de X, Meta a en effet facilité le partage de publications sur Threads en créant un profil de base qui est facilement activable, avec les conséquences que l'on connaît désormais. Il faut donc faire attention à verrouiller les deux profils, tout en refusant que Meta utilise ses publications à des fins promotionnelles.

Sylvain Trinel