Comment le secteur de la Défense intègre les dernières innovations en matière d'IA?

L'IA générative vient bouleverser les domaines du renseignement et de la Défense. Des entreprises privées fournissent leurs logiciels aux armées, ce qui représente à la fois un enjeu de souveraineté et de protection des données.

"Dans toute opportunité, il y a un danger", annonce d’emblée Emmanuel Chiva, Délégué général pour l’Armement, à propos de l'intelligence artificielle (IA) dans le domaine militaire au micro de BFM Business le 21 juin au salon du Bourget.

"L'IA va coloniser les compartiments de notre société dont la Défense. Nos systèmes d'armes vont devenir intelligents. Mais on se fixe une ligne rouge: on ne donnera pas à la machine la capacité de créer une mission ou de changer la mission confiée par un humain", poursuit-il, fidèle à la doctrine fixée par le Ministère des affaires étrangères en 2021.

L’utilisation de l’IA dans le domaine civil est beaucoup plus avancée que dans le domaine militaire, dû aux nombreuses règles et règlements qui l'encadrent. Malgré cela, l’IA sert déjà pour de nombreuses applications militaires.

En Ukraine par exemple, une IA est capable de reconnaître si une tranchée est active depuis des images satellites en fonction d’un point rouge: il peut s’agir d’un feu ou même d’une cigarette allumée. De manière générale, l’IA est également capable d’anticiper la maintenance d'une flotte d'hélicoptères selon l'état des pièces ou le niveau de carburant. L’IA permet également de calculer des flux logistiques comme le ravitaillement en fonction des routes fermées ou encore de proposer le meilleur scénario selon les conditions météorologiques.

Très concrètement, toutes ces données que ce soit des photos, des images satellites, ou encore des sons se trouvent dans des bases de données. Le logiciel d'IA va servir à donner une information sur une situation en fonction de ce qu'il se trouve dans cette base et à envoyer une alerte à l'analyste en cas de situation anormale et proposer des scénarios possibles. L’analyste va ainsi pouvoir questionner sa base de données qui agrège 20 ans d’informations militaires françaises. La France a déjà beaucoup investi depuis le début des années 2000 notamment dans des capteurs et des satellites souverains.

L'IA, une aide à la décision

Et les solutions d’IA ce sont des entreprises privées qui les fournissent aux ministères. C’est le cas de la Direction générale des armées (DGA) avec Preligens. En 2022, un contrat cadre de 240 millions d’euros a été passé entre les deux entités.

La mission de Preligens est de livrer des logiciels d'IA à la DGA. "Notre rôle est d’alerter et présenter les données sous forme synthétique", explique Renaud Allioux cofondateur de Preligens à Tech&Co. "L’IA va ici servir à prendre une décision avec des informations de plus en plus précises et fournies".

Le système d'IA de Preligens est utilisé pour la surveillance d'un site pour détecter des avions, des bateaux et signaler des activités suspectes. L'IA est capable de compter le nombre d'avions, de détecter une situation anormale et d'envoyer une alerte. Un analyste va alors se connecter là où il y a une alerte et va voir ce qu'il se passe.

"Le reste appartient à l’humain: utiliser intelligemment l'information qu’il reçoit. Il faut former les opérateurs à savoir préparer les données puisque c’est là le coeur de l'efficacité de la machine", précise Renaud Allioux.

Cette IA fonctionne grâce au deep learning. Preligens a soumis son système à grand nombre d'images de bateaux ou d'avions pour qu'il puisse les reconnaître jusqu'au type d'engin. Il y a des images issues de fichiers satellites open source, des données commerciales comme celles d’Airbus et d’autres sources comme des images radars.

L'intelligence artificielle est au coeur du système de Preligens © Preligens

Preligens peut faire des simulations en proposant plusieurs scénarios par l'analyse d'évènements antérieurs et répétitifs. Par exemple, l'IA est capable de dire si un navire à tel pourcentage de chance de sortir du port dans les deux semaines en fonction des activités analysées. Renaud Allioux donne également l’exemple de l’aéroport en Libye: "nous avons pu détecter un débarquement d’un trafic d’armes illégales".

Une autre entreprise, Helsing, dont le vice-président en charge l’IA est un français: Antoine Bordes, ancien directeur de l'intelligence artificielle chez Meta. Helsing propose ses logiciels notamment aux armées allemandes et développe aussi des solutions pour l'armée française.

Par exemple, un logiciel Helsing peut-être installé sur un char qui a plusieurs années et des technologies un peu datées, cela s’appelle dans le jargon du "retrofit". Ce char pourra ainsi être connecté à un drone. Le drone va être utilisé pour faire du ciblage, le tir depuis le char sera alors bien plus précis et gagner en efficacité. Pour Helsing, l’idée dans un avenir proche, est aussi de pouvoir connecter des systèmes d’armes différents: un canon Cesar avec un char Leclerc ou encore un avion rafale.

"Question de souveraineté"

"L’enjeu désormais est de pouvoir créer une interaction avec les données actuellement éparpillées. Aujourd’hui, l’utilisation de l’IA sur le terrain militaire est un levier différenciant et il est nécessaire de s’emparer de ces technologies pour exister sur la scène internationale", explique à Tech&Co Alexandre Papaemmanuel, expert en renseignement et enseignant à Science Po.

"Le renseignement c’est l’anticipation et l’IA permet de plus en plus d’avoir une information précise", poursuit l’expert en renseignement.

La tech est plus que jamais un levier d’influence et de pouvoir. L’enjeu est donc la supériorité informationnelle et la valeur de l’information, plus celle-ci est précise et rapide, plus elle permet d’anticiper une situation sur le terrain.

Dans ce cadre, la France a également voulu bâtir son "Palantir à la française" il y a deux ans. Nom de code: Artemis.ia. pour Architecture de traitement et d’exploitation massive de l’information multi-sources, qui a vocation "à fournir la toute première version d’une infostructure souveraine adaptée aux techniques d’IA", explique à Tech&Co, Dominique Luzeaux, directeur de l'Agence du Numérique de Défense.

Artemis.IA doit permettre de traiter la quantité astronomique de données générées par les équipements militaires, par exemple les satellites et les capteurs. "Et à doter le Ministère des armées d’une "structure souveraine de stockage et de traitement massif de données", complète le directeur. "Artemis aura plusieurs applications: l'exploitation d'informations multi-sources, la cybersécurité, du suivi de la santé des militaires, de la maintenance prévisionnelle ou encore de la surveillance maritime", toujours dans le but d’être une aide à la décision.

Deux géants français travaillent dessus: Thales et Atos. Actuellement, le projet en est à sa phase 3, celle de l’industrialisation avec l’entreprise Athea. Ce projet est avant tout "une question de souveraineté", avance Dominique Luzeaux. "La souveraineté c’est être capable de garantir la liberté de décision et d’action". A la question, est-ce qu'une société comme Palantir peut représenter un danger pour les données de l'armée française, il affirme que l'on peut s’imaginer qu’il [Palantir] présente des risques". Artemis.IA travaille avec "des sociétés de droit français donc on maîtrise l’infostructure", souligne le directeur.

Pour assurer la sécurité des données des sociétés comme celles-ci ou Prelingens ou Helsing n’ont pas accès aux données des armées. "Preligens fournit le logiciel et déploie son algorithme sur les données de l’Etat. Ensuite, l’algorithme tourne de façon autonome sur les structures du ministère des armées. Tout est cloisonné", précise Alexandre Papaemmanuel.

Par ailleurs, pour éviter toute ingérence, une société comme Preligens qui veut vendre sa solution à un pays étranger doit avoir l’aval de l’Etat français. "Ainsi des entrepeises privées deviennent une extension de compétence de l’Etat", fait remarquer Alexandre Papaemmanuel.

"Garde-fous éthiques"

Et pour encadrer sa stratégie et ses pratiques, la France s’est dotée de plusieurs organismes dont l'Agence de Défense du Numérique. Un comité d’éthique de la défense a également été mis en place en 2020. Il a pour mission de mener une réflexion éthique sur les enjeux liés à l’évolution des armées et de leurs pratiques dans le cadre de l’émergence de nouvelles technologies dont l’intelligence artificielle.

Pour encadrer la collaboration entre une société privée et un ministère sur des solutions d'IA, l’Agence nationale de la sécurité des systèmes d'information (ANSSI) a défini des règles bien précises à travers l’IGI 1300. Cette instruction générale interministérielle "définit les exigences de sécurité des systèmes d’information amenés à traiter des informations ou supports classifiés. Ces systèmes doivent faire l’objet d’une attention particulière, notamment lorsqu’ils font l’objet d’interconnexions avec d’autres systèmes (classifiés ou non) ou qu’ils disposent de moyens permettant de traiter l’information classifiée dans un contexte de mobilité (supports amovibles, postes nomades, etc.)", précise l'ANSSI.

Et de poursuivre: "Tout système d’information, préalablement à son emploi, doit faire l’objet d’une démarche d’homologation à l’issue de laquelle l’autorité d’homologation".

"L’IGI c’est un peu la colonne vertébrale de ce qu’on peut faire ou non, tel un cadre de cohérence technique", analyse Alexandre Papaemmanuel. "Au-delà de l’ANSSI il y a aussi la CNIL, les différentes lois sur le renseignement ou encore des règles interministérielles".

Toutes ces entités forment un certain nombre de garde-fous éthiques. Cela à l'image de la doctrine de la France: il faut toujours un humain dans la boucle. De cette manière, le pays joue la carte de la sécurité vu l’allure à laquelle s'accélère l’utilisation de l’IA dans la guerre.

Actuellement, l'enjeu pour la France, selon Alexandre Papaemmanuel, est désormais de fusionner tous ses systèmes d'informations fonctionnant avec l'IA pour que l'information soit la plus précise possible. "Les informations sont disponibles mais de manière séparée, il faut désormais les rassembler".

La France s’est fixée une limite: les systèmes d’armes létaux autonomes (SALA) . Déjà utilisées à la frontière entre deux Corées. La Corée du Sud utilise depuis 2013, des sortes de mitrailleuses intelligentes, les SGR-A1, pour garder sa frontière avec la Corée du Nord en permanence à la place d'humains. "Passer ou non ce cap est question que toutes les démocraties doivent se poser", lance Alexandre Papaemmanuel.

Margaux Vulliet