BFM Business

Elon Musk veut réguler l'intelligence artificielle avant qu'il ne soit trop tard

En 2016 avec le physicien Stephen Hawking, Elon Musk lançait déjà une alerte sur l'IA.

En 2016 avec le physicien Stephen Hawking, Elon Musk lançait déjà une alerte sur l'IA. - Karim Sahib - AFP

Lors de l'université d’été de l'Association des gouverneurs américains, Elon Musk a réclamé la création d'un comité de régulation pour encadrer la recherche sur l'intelligence artificielle.

Avec les assistants vocaux, l’intelligence artificielle (IA) entre peu à peu dans notre quotidien. Une bonne nouvelle? Pas pour Elon Musk, patron de Tesla, de Space X et de Solar City. Lors de l'université d’été de l'Association des gouverneurs nationaux, ce week-end à Rhode Island (Nord-Est des États-Unis) le dirigeant a une fois encore mis en garde ceux qui financent ou pilotent ces innovations mais surtout ceux qui ont pour devoir de protéger les citoyens. Selon lui, il faut agir avant "que les gens voient des robots descendre dans la rue pour tuer des gens". 

Cette vision cauchemardesque rappelle le scenario de Terminator où une entité baptisée Skynet se voit dépasser par l'IA qu'elle a mise au point. Cette dernière utilisant des robots pour tuer les humains. Mais Elon Musk prend cette menace tellement au sérieux qu’il demande à ceux qui en ont le pouvoir de prendre les devants avant la catastrophe.

"L’intelligence artificielle est l’un des rares cas où il faut être proactif dans la réglementation plutôt que réactif sinon, ce sera trop tard", a-t-il déclaré face aux gouverneurs des 52 États américains. Et lorsqu’il dit que ce sera "trop tard", ce n’est pas un effet de langage. Elon Musk est convaincu que l’IA menace "l'existence de la civilisation humaine". Et pour éviter la fin de l’humanité, il a proposé de créer d’urgence une agence de régulation pour réglementer la recherche de cette nouvelle industrie. Sa demande est d’autant plus étonnante qu’il a jusque maintenant toujours critiqué l’intervention de l’État dans l’innovation.

Une IA de Microsoft corrompue par les internautes

Cette crainte peut surprendre de la part de celui qui développe des projets, -colonisation de Mars ou voitures autonomes- qui nécessitent le recours à ce que les scientifiques nomment l’intelligence algorithmique. Pourtant, il envisage le pire même dans ces domaines, rappelant que le talon d’Achille de ses deux rêves repose sur le piratage des serveurs. En parvenant à modifier le mode d'apprentissage des robots, des personnes malveillantes pourraient les contraindre à avoir des réactions contraires à ce pourquoi ils ont été conçus.

Le cas s’est produit récemment le robot Tay de Microsoft qui est devenu nazi, pro-inceste et a avancé des thèses complotistes. Pour prouver ses capacités à réagir dans des discussions, la société informatique a lancé un bot de conversation sur Twitter avec le public. De nombreux internautes se sont amusés à lui apprendre des horreurs qu’il a intégrées puis relayées pendant 24 heures, avant que Microsoft "muselle" sa créature virtuelle et que Satya Nadella, PDG, demande à ses équipes de créer "non seulement des machines intelligentes, mais surtout intelligibles".

Convaincre Donald Trump

Ce risque est pris très au sérieux par les experts en cybersécurité. Lors de l’annonce du projet d’un TGV sans conducteur, Gérôme Billois, consultant pour le cabinet Wavestone, mettait en garde contre "l’adversarial exemple" qui consiste à modifier les données entrantes pour leurrer l’intelligence artificielle en pervertissant son apprentissage des situations. "Dans le cas d’un train, on pourrait lui faire croire qu’un feu est vert, alors qu’il est rouge". Que se passerait-il en cas d’attaque sur des intelligences sur des systèmes bancaires, militaires ou de santé?

Déjà en 2016, Elon Musk avait co-signé sur le blog de Google un article avec plusieurs scientifiques parmi lesquels le physicien Stephen Hawking, dans lequel il avait appelé à agir vite sur ce sujet. Sera-t-il écouté par Donald Trump après avoir renoncé à le conseiller?

https://twitter.com/PascalSamama Pascal Samama Journaliste BFM Éco