Chat Control: contesté mais à nos portes, pourquoi ce projet de loi numérique divise profondément l’Europe

Alors que le Conseil de l'Union européenne s'apprête, le 14 octobre, à étudier un projet de règlement appelé "Child Sexual Abuse Regulation", surnommé "Chat Control", de nombreuses voix s'élèvent en Europe face à un projet jugé "liberticide" et "inefficace".

L’Europe s'apprête-t-elle à entrer dans une nouvelle ère de surveillance numérique de masse? Le 14 octobre prochain, le projet de règlement appelé “Child Sexual Abuse Regulation” (CSAR) en anglais, Règlement établissant des règles en vue de prévenir et de combattre les abus sexuels sur enfants, en français, et surnommé “Chat Control”, sera présenté devant le Conseil de l'Union européenne, composé des gouvernements des États membres.

Ce texte vise à renforcer la lutte contre les abus sexuels sur enfants en ligne. Son objectif principal est d’imposer aux fournisseurs de services de communication la détection, le signalement et le retrait automatique des contenus pédopornographiques, notamment grâce à des technologies d’intelligence artificielle.

Le projet prévoit ainsi d’obliger toutes les plateformes, y compris celles offrant un chiffrement de bout en bout comme Whatsapp ou Signal, à scanner automatiquement les messages privés des utilisateurs à la recherche de contenus suspects. Cette méthode, appelée “client-side scanning”, consiste concrètement à analyser les données directement sur les appareils des utilisateurs avant leur chiffrement.

Mais ce projet fait largement débat. Si certains y voient “un passage obligé dans la lutte contre la pédopornographie en ligne et la protection des mineurs”, de nombreux défenseurs des libertés numériques, experts en cybersécurité et certains États membres dénoncent une atteinte majeure à la vie privée en ligne et à la sécurité des communications. Même le CEPD, le contrôleur européen de la protection des données, s'en est ému.

“Chat Control n’est rien de moins qu’une intrusion généralisée dans nos vies numériques, une surveillance de masse qui menace la confidentialité des messages chiffrés, la vie privée et les libertés fondamentales de chaque citoyen européen” expose Rodrigo Arenas, député LFI de Paris et membre de la commission des Affaires culturelles et de l'Éducation, interrogé par nos soins.

L'ex-commissaire européenne aux Affaires intérieures, Ylva Johansson, a présenté à Bruxelles, le 10 mars 2023, un projet de directive initié en 2022 par la Commission européenne, que ses opposants ont rapidement surnommé "Chat Control". © Kenzo TRIBOUILLARD / AFP

Un projet contesté

Pour Estelle De Marco, juriste et docteure en droit privé et sciences criminelles, “le projet n’est pas proportionné à la finalité recherché”. “La logique pour agir sur les droits et libertés, qu’il s’agisse d’un État ou d’un acteur privé, repose sur une réflexion en trois étapes : pourquoi agir, est-ce que l’action sera efficace, et si elle est proportionnée à l’objectif”, explique la juriste.

“Dans le cas de Chat Control, la finalité est légitime, la protection des enfants, mais son efficacité est douteuse car les criminels iront vers d’autres réseaux moins accessibles. Enfin, la mesure est largement disproportionnée car elle prévoit une surveillance généralisée des communications privées, sans soupçon préalable, ce qui constitue une violation majeure de la vie privée et une démarche autoritaire incompatible avec les principes d’un régime démocratique”, met-elle en perspective.

“En revanche, surveiller tout le monde a priori, sans aucune suspicion, c’est une démarche totalitaire. Ce n’est pas un gros mot : c’est juste la disparition de la vie privée en ligne. La disproportion est donc totale”, illustre Estelle De Marco.

De son côté, Mathilde Androuët, députée européenne du Rassemblement National, reconnaît elle aussi un projet “très problématique”. “On a été alertés par les citoyens, parce que cela remet véritablement en cause la vie privée, le caractère intime des échanges entre les individus, relate-t-elle à Tech & Co. Il y a des vrais sujets: la pornographie, la prostitution des mineurs, les enfants placés… et la réponse n’est clairement pas d’espionner les messageries de 450 millions d’Européens.”

“Une menace directe contre la démocratie”

Selon l’eurodéputée, l’argumentaire de l’institution européenne et de certains défenseurs du projet, qui repose sur l’idée que "si nous n’avons rien à cacher, nous n’avons rien à craindre", est totalement dépassé et invalide. “Justement parce que je suis honnête, je n’ai pas à être scrutée. Ma vie privée reste ma vie privée”, lâche-t-elle.

“La protection de la vie privée, ce n'est pas un luxe, ce n'est pas un gadget. C'est ce qui garantit la liberté d'opinion, la liberté d'expression, la liberté d'association. Si chaque mot, chaque image, chaque message peut être analysé, classé, archivé, la liberté devient un souvenir. La protection de la vie privée, ce n'est que le maintien de la démocratie in fine”, analyse Estelle De Marco.

Et cela soulève également des interrogations en matière de sécurité industrielle et économique. “Quand vous avez la possibilité de consulter les messageries de gens qui sont concernés par le monde des affaires, qui sont pris dans des enjeux d’espionnage commercial, c’est dangereux", complète Mathilde Androuët. Imaginez qu’on puisse accéder aux messages des dirigeants d’EDF, de Dassault, ou d’autres entreprises stratégiques. Dans une négociation internationale, ça a évidemment un intérêt”.

Les références à George Orwell et à son livre 1984 sont très nombreuses sur les réseaux sociaux et sur Internet. Pour les opposants au Chat Control, les mécanismes de contrôle évoqués dans l’œuvre trouvent un écho dans le projet européen. © AFP

Intelligence artificielle et éthique

Autre question soulevée par les opposants au projet, la place et le rôle grandissant de l’intelligence artificielle dans les contrôles automatisés. Peu de certitudes subsistent, et nombreux sont les doutes concernant notamment la fiabilité et les biais inhérents aux algorithmes utilisés.

“La surveillance automatisée généralisée, même sur communications chiffrées, est un recul inacceptable des libertés numériques. C’est quelque chose de vraiment orwellien”, note un autre eurodéputé sous couvert d'anonymat.

Le député Rodrigo Arenas s’interroge: " Il y a tout un débat éthique, un débat anthropologique, y compris sur le moment où l’humanité pourrait céder ses prérogatives à la machine. Mais aussi, dès lors qu’on laisse l’IA chercher, elle peut faire des erreurs. On dit que l’erreur est humaine, mais qu’en est-il pour l’IA ?"

Plus inquiétant encore, certains députés dénoncent une négation de la liberté au profit d’une prise de décision algorithmique: "La première étape vers la décision par un algorithme est, de fait, la négation de la liberté individuelle. C’est le cheval de Troie en passe de s’installer en Europe", dénonce un autre élu. Ce mécanisme laisse craindre une dérive sécuritaire où la surveillance devient généralisée, automatisée, et difficilement contrôlable, posant ainsi un défi majeur concernant la protection des droits fondamentaux.

Interrogé par Tech & Co, Robin Wilton, directeur de la confiance en l’internet à l'Internet Society, une organisation internationale à but non lucratif fondée en 1992 par des pionniers du web, résume la situation, avec une analyse partagée aujourd’hui par de nombreux experts. “Il s’agit donc d’une approche inefficace, disproportionnée et dangereuse, qui détourne l’attention des véritables solutions: renforcer les capacités d’enquête existantes, au lieu de créer une usine à gaz ingérable et liberticide”.

“Augmenter artificiellement la masse de données à examiner n’est pas une solution: ‘justice retardée est justice niée’, que ce soit pour les victimes réelles ou pour les citoyens faussement accusés”, renchérit Robin Wilton.

L’Europe très divisée

Et ces problématiques dépassent largement l’Hexagone: les réactions à travers l’Europe sont tout aussi vives. Actuellement, 12 États membres soutiennent officiellement la proposition, mais plusieurs pays clés restent hésitants. L’Allemagne, la Belgique, l’Italie et la Suède, initialement opposés ou hésitants, reconsidèrent leur position ou penchent désormais en faveur du projet.

De nombreuses ONG, comme European Digital Rights, la Electronic Frontier Foundation (EFF) ou encore le Committee to Protect Journalists, dénoncent un risque de surveillance de masse et une atteinte grave à la vie privée. Un sondage YouGov mené dans dix pays de l’Union européenne révèle que 72% des répondants s’y opposent, et le rejet atteint 73% chez les 18-24 ans.

La mobilisation s’est aussi traduite par des pétitions et des manifestations. À Malte, des étudiants ont saisi le Parlement pour demander l’abandon du texte, tandis qu’une pétition en ligne a déjà recueilli plus de mille signatures. La plus grande d’entre elles, nommée "Stop Chat Control", compte aujourd’hui plus de 80.000 signatures. À Stockholm, plusieurs centaines de citoyens se sont rassemblés pour alerter sur une dérive qu’ils comparent à la "plus grande plateforme d’écoute de l’histoire".

“Le chiffrement, ce n’est pas une coquetterie de geek, c’est la base même de la sécurité des échanges dans le monde moderne. Si on le détruit, on fragilise tout l’écosystème numérique” analyse Estelle De Marco.

Le projet de règlement suscite également une large contestation de la classe politique européenne. Charlie Weimers, député européen des Sweden Democrats, qualifie le projet de "pas de plus vers une censure de l’internet à la chinoise". Emmanouil Fragkos, député européen grec du groupe ECR, souligne que "la proposition envisage le scan de communications privées, y compris les conversations chiffrées, soulevant de graves questions quant au respect de l’Article 7 de la Charte des droits fondamentaux".

Patrick Breyer, eurodéputé allemand du Parti Pirate, avertit dans Le Monde que "ce projet de surveillance de masse constitue un modèle pour les États autoritaires. Il compromet gravement la vie privée et affaiblit la sécurité numérique". Enfin, un eurodéputé sous couvert d’anonymat résume pour nous la crainte partagée par beaucoup: "la surveillance automatisée généralisée, même sur communications chiffrées, est un recul inacceptable des libertés numériques". Un “projet orwellien” qui ne vient pas d'une attaque à nos frontières, mais du coeur même de notre système démocratique. Comment être libre quand on devient l'esclave permanent d'une surveillance omniprésente qui pourra reprocher tout et n'importe quoi, en cas d'erreur ou de dérive autoritaire? Orwell l'a pourtant brillamment démontré, la liberté n'est pas l'esclavage...

Raphaël Raffray