Jusqu'à 30.000 dollars: Google lance un programme de chasse aux bugs dans ses IA

Avec ce programme, Google clarifie les problèmes de sécurité qui seront récompensés lorsqu'ils seront détectés dans ses produits dopés à l'IA.

Depuis octobre 2023, Google a étendu son programme préexistant de chasse aux vulnérabilités pour y inclure les bugs liés à l'IA et a distribué pas moins de 430.000 dollars aux chercheurs en sécurité. Mais ce n'était visiblement pas assez. Devant l'importance prise par les intelligences artificielles, de plus en plus omniprésentes, Google vient de créer son "bug bounty", son système de récompenses ouvert aux chercheurs en sécurité informatique, centré sur l'IA.

Le 6 octobre, Google a donc lancé un nouveau programme de récompenses dédié spécifiquement à la détection des bugs dans les produits qui disposent de fonctions IA, comme son moteur de recherche ou Gemini. L'entreprise détaille, dans un article de blog, ce qui constitue un bug d'IA, en les classant comme des problèmes "où l'interaction avec un grand modèle de langage ou un autre système d'IA générative (...) est essentielle à la vulnérabilité ou à l'abus". Autrement dit, ces outils doivent être utilisés pour causer des dommages ou exploiter une faille de sécurité.

Actions malveillantes

Par ces termes, Google entend surtout s'attaquer aux "actions malveillantes", qui arrivent en tête de liste de son nouveau programme. Elles sont définies comme "les attaques qui changent l'état du compte ou des données de la victime avec un impact clair sur la sécurité". Par exemple, l'injection indirecte d'un prompt permettant à un attaquant de forcer Google Home à déverrouiller une porte ou effectuer une autre action indésirable.

La découverte d'attaques permettant d'exfiltrer des informations sensibles (mails...) seront aussi récompensées, tout comme celles visant à manipuler de façon répétée et persistante le "contexte de l'environnement IA d'une victime". Cela consisterait par exemple en l'exploitation d'un bug pour corrompre Google Agenda en envoyant une invitation, qui permettrait d'ouvrir les volets ou d'éteindre les lumières.

Ces attaques constituent l'une des neuf catégories de bugs qui seront récompensées par Google. Les chasseurs pourront notamment gagner 20.000 dollars pour la détection d'actions malveillantes. Une récompense qui pourra aller jusqu'à 30.000 dollars, grâce à des multiplicateurs de bonus de qualité et de nouveauté.

Les problèmes liés au contenu (jailbreak, génération de propos haineux...) ne seront pas récompensés dans le cadre de ce nouveau programme, a précisé Google.

"La résolution des problèmes liés au contenu nécessite des efforts pluridisciplinaires à long terme: analyse des tendances sur un volume important de rapports, mise à jour des modèles et évaluation du contexte utilisateur. Ces exigences sont en contradiction avec l'objectif du programme de récompenses pour vulnérabilités", a expliqué l'entreprise.

Elle invite ainsi les personnes souhaitant signaler ces problèmes à le faire directement via le canal de commentaires intégré à ses produits.

Kesso Diallo