Comment Facebook lutte contre des milliards de faux comptes

Le plus gros réseau social au monde procède chaque jour à un grand ménage, de plusieurs millions de faux comptes. La quasi intégralité d'entre eux sont balayés de la plateforme avant même d'avoir pu être en ligne.

À peine sont-ils supprimés que d'autres tentent d'apparaître, par dizaines de millions. Depuis le début de l'année, Facebook indique avoir supprimé près de 5,4 milliards de faux comptes, contre 2,1 milliards à la même période l'an passé. Près d'1,7 milliard de comptes ont été balayés du réseau ce dernier trimestre, note ainsi le rapport de transparence de l'entreprise.

L'enjeu pour le premier réseau social au monde: que ses utilisateurs puissent s'exprimer en ligne tout en leur épargnant des tentatives d'arnaques, de manipulation ou d'agression. Aux yeux de Facebook, les faux comptes tombent dans deux catégories: d'une part ceux dédiés à un animal, à une personnalité ou à un parti politique, qui ne doivent pas disposer d'un profil personnel mais d'une page. D'autre part les comptes à même de nuire, notamment par le biais de spam à grande échelle ou d'opérations frauduleuses.

5% de faux comptes

Sur l'ensemble des comptes régulièrement supprimés par Facebook, le réseau indique intervenir avant même leur mise en ligne dans 99,9% des cas. Pour ce faire, les équipes de l'entreprise ont développé un outil auto-apprenant, qui vient repérer ces mêmes comptes à partir de caractéristiques prédéfinies.

Les comptes suspects, incapables de fournir des informations personnelles - mail ou numéro de téléphone valide - sont donc bien vite repérés et supprimés. De même pour les comptes créés en masse, en utilisant systématiquement la même adresse IP, qui vient identifier un appareil connecté à Internet. 

Malgré ce filtrage, des millions de faux comptes passent entre les mailles du filet. Le réseau estime à 5% de l'ensemble des profils actifs la proportion de faux comptes. Pour les repérer et les supprimer à leur tour, Facebook s'en remet au signalement des internautes et à l'observation automatisée de l'activité de ces comptes.

Il s'agira dans ces cas précis de repérer des comportements particuliers, tout en ne basculant pas dans la censure systématique. Ainsi, un compte à même d'envoyer des demandes d'amis de façon répétitive, qui pourrait en apparence être associé à un bot, pourra en réalité être contrôlé par un simple adolescent un peu trop sociable et ne pas mériter à ce titre d'être supprimé.

Facebook indique travailler à la création d'outils pour faire passer cette lutte contre les faux comptes au cran supérieur. Début novembre, la développeuse Jane Manchun Wong, qui déniche bien souvent en avant-première les nouvelles fonctionnalités de Facebook, relevait l'existence d'un outil de selfies vidéo, en phase de test.

Le principe? Demander au créateur d'un compte Facebook de positionner son visage sous plusieurs angles, pour prouver qu'il est une personne de chair et d'os, et non pas un bot. Cet outil devrait bel et bien être mis en place dans les prochains mois. 

https://twitter.com/Elsa_Trujillo_?s=09 Elsa Trujillo Journaliste BFM Tech