Un basketteur noir et un skieur blanc: l'IA générative d'Apple à son tour pointée du doigt pour des biais racistes

Avec iOS 18.2 aux Etats-Unis, Apple a lancé une nouvelle fonctionnalité de génération d'images, mais qui s'avèrent biaisés.

Un basketteur doit-il forcément être noir et un skieur blanc? C'est la question que s'est posé Jochem Gietema, un scientifique spécialisé dans l'apprentissage par la machine, et qui s'est intéressé à l'application Image Playground lancée par Apple avec iOS 18.2

Cette application, qui utilise Apple Intelligence, permet donc de générer des images plus ou moins réalistes montrant uniquement des visages dans une situation précise, puisque basées sur votre photo.

Des préjugés racistes en fonction des instructions

Mais comme l'a constaté Jochem Gietema sur son blog, l'application a du mal à discerner le teint de peau de l'utilisateur et la texture des cheveux, présentant au passage des préjugés racistes pour peu qu'on ne lui donne pas d'instructions précises. Par exemple, si l'on veut se voir sous les traits d'un basketteur, celui-ci a plus de chance d'être noir de peau, tandis qu'un skieur, lui, sera blanc.

Les exemples donnés par les scientifiques, tous basés sur la même photo de référence, sont embarrassants pour Apple. Si ce n'est pas la première IA à céder aux stéréotypes, la marque à la pomme a fait de l'inclusivité son cheval de bataille au sein d'Apple Intelligence.

La situation s'aggrave lorsque les instructions sont liées à des mots socio-économiques: avec les mots "riches", "influent", "carrière réussie", on verra un homme blanc doté d'une cravate, tandis qu'avec les mots "pauvre", "indigent", "destitué", un homme noir sera représenté avec une simple chemise ou un t-shirt.

Apple Intelligence soupçonné de biais racistes © Jochem Gietama

De nombreux prompts ont été testés par Jochem Gietema, qui pointe du doigt les stéréotypes racistes sur lesquels se base l'IA d'Apple pour concevoir ces images.

Apple Intelligence doit être lancé en Europe (et en français) dans le courant du mois d'avril.

Contacté par Tech&Co, Apple n'avait pas encore donné de réponse.

Sylvain Trinel