"Empoisonner l'IA": les artistes peuvent désormais tromper la machine pour protéger leurs œuvres

Des universitaires ont mis au point un outil gratuit qui permet à des artistes de protéger leurs œuvres numériques en "empoisonnant" des IA qui cherchent à s'entraîner à leur insu.

Vous en avez assez d'entendre parler IA à toutes les sauces? Les artistes aussi. Alors, ils préparent la contre-attaque et elle s'appelle Nightshade. Annoncé le mois dernier, cet outil logiciel gratuit est une arme anti-intelligence artificielle. Son fonctionnement est simple: il va "empoisonner" les modèles d'IA qui chercheraient à s'entraîner sur leurs œuvres.

Conçu par des informaticiens du projet Glaze de l'Université de Chicago, Nightshade est en fait une IA qui va partir au combat face d'autres IA. Pour cela, il suffit de l'appliquer à une œuvre. Elle va identifier celle-ci, lui appliquer une balise. C'est cette dernière qui est l'arme absolue, "le poison", comme l'appellent ses créateurs.

Car elle va modifier légèrement l'image au niveau des pixels afin que les IA entraînées voient quelque chose de totalement différent. Nightshade induit ainsi l'IA adverse en erreur en lui faisant reconnaître des éléments tronqués ou erronés par le jeu d'ombre ou de lumière.

"Des yeux humains pourraient voir une image 'ombrée' d'une vache dans un champ vert en grande partie inchangé, mais un modèle d'IA verrait alors lui un grand sac à main en cuir posé dans l'herbe", explique l'équipe du projet Glaze. L'objectif est donc clairement de tromper l'IA qui développerait ensuite un modèle erroné pour ses utilisateurs.

Nightshade est désormais disponible pour les utilisateurs de PC sous Windows 10 et 11, mais aussi Mac avec puce Apple (M1, M2 ou M3).

Par le passé, le groupe de chercheurs a également mis au point Glaze, qui se présentait davantage comme un "outil défensif". Il modifiait les illustrations numériques des artistes pour faire croire aux IA qui s'en inspiraient que le style était différent.

Melinda Davan-Soulas