BFM Business

Bodyguard, l'appli qui vous protège du cyber-harcèlement

Bodyguard fonctionne avec l'intelligence artificielle

Bodyguard fonctionne avec l'intelligence artificielle - Sous licence Creative Commons CC0

Cette application entièrement gratuite repère et supprime les commentaires injurieux à la place de l'utilisateur. Grâce à l'intelligence artificielle, Bodyguard est capable de comprendre l'humour et de s'adapter au profil de l'internaute.

Internet, un milieu hostile? Du haut de ses 22 ans, Charles Cohen veut faire bouger les lignes. Il a créé l'application Bodyguard pour protéger les internautes des commentaires haineux publiés sur Twitter et Youtube. Elle est disponible depuis quelques mois sur IOS et Android. 

Charles Cohen est un passionné d’informatique. Il crée son premier site internet à 13 ans et deux ans plus tard, sa première application. Entrepreneur dans l'âme, il ne se sent pas fait pour les études. Après une année d'informatique à la fac, il décide de se lancer. “J’avais envie de développer un projet utile”, explique le jeune entrepreneur à BFM Business.

Au fil de ses lectures, Charles Cohen découvre la violence du cyberharcèlement, qui pousse certaines personnes au suicide. Les plateformes Youtube et Twitter ne proposent aucune modération des commentaires. Le réseau social à l’oiseau bleu fonctionne avec les signalements des internautes. L'hébergeur de vidéos propose à ses utilisateurs de créer une liste de mots interdits (blacklist). Mais pour le commentaire “t’es pas belle”, que faire?

Un Bodyguard bienveillant 

Bodyguard détecte les messages haineux et les modère à la place de l'internaute, grâce à l’intelligence artificielle. Il se place en rempart entre lui et les harceleurs. Les commentaires sont classifiés en injures, troll, racisme, homophobie... L'utilisateur peut tout paramétrer et décider ne pas modérer certaines catégories. Ou encore de dire s'il veut bloquer un harceleur au bout du premier, deuxième ou troisième commentaire haineux.

Charles Cohen balaye d'un revers de main les accusations de censure. "Tout ce que je supprime est pénalement répréhensible", insiste-t-il. "Je considère qu'harceler une personne en se cachant derrière son écran, ce n'est de pas la liberté d'expression. Au contraire, je libère la parole de ceux qui se savent protégés", s'exclame-t-il. 

L'application donne accès à la liste des contenus supprimés. "Mon but c'est que la personne n'y aille jamais. J'ai d'ailleurs affiché un message d'avertissement", déclare Charles Cohen. Dans une deuxième catégorie sont répertoriés tous les commentaires positifs. "C'est important de se sentir soutenu moralement", ajoute l'entrepreneur. "Beaucoup de jeunes n'osent pas se lancer sur internet de peur de se faire harceler. Je veux les rassurer et les aider", confie-t-il.

L'utilisateur peut paramétrer la modération sur l'application
L'utilisateur peut paramétrer la modération sur l'application © Bodyguard

Une base de donnée de 500.000 commentaires 

Pendant six mois, Charles Cohen a entraîné seul son intelligence artificielle par des analyses de commentaires injurieux et de disputes entre internautes. “Contrairement à des géants comme Google, je n’avais aucune base de données. J’ai dû tout faire moi-même”, explique-t-il. Aujourd’hui, il estime avoir recensé 500.000 injures. 

L'application est quasiment impossible à tromper. Bodyguard connaît des centaines de variantes orthographiques et comprend même les emojis. Il est également familier de la ruse des multiplications de lettres. Essayez, Charles Cohen a développé un simulateur en ligne. Le jeune entrepreneur se targue d'avoir une marge d'erreur de seulement 3%.

Une modération intelligente 

Bodyguard est capable d'analyser le contexte de l’injure. Il comprend l’humour et prend en compte les relations entre les internautes. Par exemple, le commentaire “t’es con” est considéré comme haineux. Mais si les internautes se suivent mutuellement et ont déjà échangé, Bodyguard ne modérera pas le message. 

Plus impressionnant encore, Bodyguard analyse le profil de l’utilisateur. Le commentaire “montre ton cul”, posté sous la vidéo d’un Youtubeur de 20 ans ne sera pas considéré comme haineux. Mais s’il est adressé à une mineure, il sera supprimé.

Bodyguard est un service gratuit. “Il le restera toujours pour les internautes”, assure Charles Cohen. Le bouche à oreille des internautes a porté ses fruits, l'application a été téléchargée 2500 fois. À l'avenir, Charles Cohen espère s'associer et exporter son service à l'étranger.

Pauline Dumonteil