BFM Business

Intelligence artificielle: Bruxelles veut interdire les systèmes de notation citoyenne

La Commission européenne va dévoiler un plan de régulation de l'intelligence artificielle.

La Commission européenne va dévoiler un plan de régulation de l'intelligence artificielle. - Kenzo TRIBOUILLARD / AFP

La Commission européenne dévoilera ce 21 avril un projet de règlementation des systèmes d'intelligence artificielle, pour leur fixer des garde-fous.

Véhicules autonomes ou reconnaissance faciale, les systèmes d'intelligence artificielle fascinent autant qu'ils inquiètent. Bruxelles doit dévoiler mercredi 21 avril dans l'après-midi un projet de réglementation pour faire la course en tête dans cette révolution industrielle, tout en rassurant les Européens.

"Qu'il soit question d'agriculture de précision, de diagnostics médicaux plus fiables ou de conduite autonome sécurisée, l'intelligence artificielle nous ouvrira de nouveaux mondes. Mais ces mondes ont aussi besoin de règles", avait déclaré en septembre la présidente de la Commission européenne, Ursula von der Leyen, dans son discours sur l'état de l'Union. L'exécutif européen, qui a fait du numérique une priorité, entend honorer la promesse de la présidente de placer "l'humain au centre" de son projet législatif.

Bruxelles est convaincue que l'intelligence artificielle, et ses techniques d'automatisation à base de logiciels et de données, ne pourront se développer qu'en apaisant les craintes des Européens. L'UE a raté la révolution de l'Internet grand public et ne possède aucun champion équivalent aux cinq géants américains Google, Apple, Facebook, Amazon et Microsoft, les fameux Gafam, ou à leurs équivalents chinois Baidu, Alibaba, Tencent et Xiaomi. Mais rien n'est perdu concernant la révolution provoquée par l'irruption massive de l'informatique dans les industries où l'Europe excelle comme les transports, l'agriculture ou le médical.

Le projet de règlement, que l'AFP a pu consulter, prévoit d'interdire un nombre restreint d'utilisations qui menacent les droits fondamentaux. Seront prohibés les systèmes de "surveillance généralisée" de la population, ceux "utilisés pour manipuler le comportement, les opinions ou les décisions" des citoyens. Des autorisations dérogatoires sont cependant prévues pour la lutte antiterroriste et la sécurité publique. Les applications militaires ne sont pas concernées.

Les peurs sont alimentées à la fois par des technologies non abouties, comme les véhicules autonomes, et les possibilités de contrôle des populations offertes aux régimes autoritaires. Les systèmes de notation citoyenne, comme ceux utilisés en Chine, seront notamment prohibés en Europe. Le texte prévoit d'introduire des tests de conformité aux normes européennes pour des applications jugées "à haut risque" avant leur arrivée sur le marché. Ces exigences viendront s'ajouter aux règles déjà existantes en matière de sécurité des produits.

L'identification biométrique à distance

Le projet, qui sera conjointement présenté par les commissaires à la Concurrence, Margrethe Vestager, et au Marché intérieur, Thierry Breton, dresse une liste précise de ces applications sensibles. Une première catégorie, incluant "l'identification biométrique à distance des personnes dans les lieux publics" et les "éléments de sécurité dans des infrastructures publiques essentielles" se verra imposer des tests de conformité réalisés par une autorité tierce.

Une deuxième catégorie comprend notamment les systèmes de priorisation des services d'urgence, les outils utilisés pour le recrutement, pour déterminer l'accès à des institutions éducatives, ou encore pour évaluer la solvabilité des personnes. Leur conformité sera garantie par une autoévaluation conduite par l'entreprise, sous le contrôle d'une autorité de surveillance. Les autres usages, considérés comme sans danger, ne se verront imposer quasiment aucune contrainte réglementaire supplémentaire.

De lourdes amendes sont prévues pour les entreprises en infraction. La nouvelle législation sera encore débattue durant des mois, notamment avec le Parlement européen et les 27 États membres, avant la mise en œuvre d'un texte définitif.

ET avec AFP