BFM Business

Facebook et Google supprimeraient automatiquement les vidéos extrémistes

Des combattants de Daesh paradent en juillet 2014 dans la ville de Raqqa, en Syrie, après l'avoir prise. (Images de propagande)

Des combattants de Daesh paradent en juillet 2014 dans la ville de Raqqa, en Syrie, après l'avoir prise. (Images de propagande) - Welayat Raqa - AFP

Accusées d’être laxistes envers la propagande terroriste, les grandes plateformes américaines testeraient actuellement un nouveau système de modération leur permettant de censurer des vidéos dès leur publication.

Racisme, antisémitisme ou encore homophobie, les contenus haineux comme la propagande terroriste prolifèrent sur les réseaux sociaux. Pour la simple et bonne raison que les grandes plateformes américaines ne font l’usage de leur droit de censure qu’une fois le contenu mis en ligne. Leur attitude à ce sujet serait cependant en train d’évoluer. L’agence Reuters révèle que Google et Facebook auraient commencé à utiliser de nouveaux logiciels pour supprimer automatiquement les vidéos extrémistes. Mais aucune des deux firmes ne confirme officiellement cette expérimentation.

La même technologie que pour protéger les droits d'auteur

La méthode employée aurait été inspirée par les technologies de protection des droits d’auteur. L’INA, en France, est un pionnier en la matière. Son logiciel Signature est utilisé par Dailymotion comme Youtube pour reconnaître automatiquement des vidéos et des bandes sons piratées. Le système bloque tout nouveau fichier mis en ligne s’il constate que ce dernier est similaire à un autre contenu présent dans sa base de données. Cette dernière est constituée de toutes les œuvres fournies par des ayant-droits qui fournissent autant des empreintes numériques faciles à identifier.

On voit bien comment cette technologie pourrait être employée pour reconnaître automatiquement des vidéos extrémistes qui seraient dupliquées pour échapper à la censure. Mais l’incertitude demeure sur la possibilité de s’en servir pour bloquer de nouveaux contenus. Il existerait cependant un certain nombre de motifs -slogans, décapitations- qui pourraient être immédiatement reconnaissables par une machine.

La nouvelle demande encore à être confirmée mais elle marque un changement d’attitude important de la part de Facebook, Google et consorts qui ont longtemps défendu une conception sans limite de la liberté d’expression. Ils sont en effet devenus aujourd'hui de précieux collaborateurs des gouvernements sous la pression de l'opinion publique et après la multiplication des attentats en 2015 sur le sol parisien. Au mois d’avril dernier, Barack Obama les avait convoqué pour une conf call avec des chefs d’Etat européens. Au programme, la lutte contre la radicalisation en ligne. En voici peut-être les premiers effets.

Amélie Charnay