Reconnaissance faciale de Google: des sans-abris payés cinq dollars pour parfaire la base de données

Un sous-traitant de Google a promis à des sans-abris une carte cadeau en échange du test d'une application. Mais ils ne savaient pas que leurs données faciales étaient récoltées pour peaufiner l'algorithme du géant américain.

Pour qu’une technologie de reconnaissance faciale soit performante, il faut lui soumettre une grande quantité d’images. Et pour qu’il n’y ait pas de biais, il en faut de toutes sortes. En juillet, Google avait admis offrir cinq dollars en chèque-cadeau aux badauds en échange de leurs données faciales. Tout cela dans le but de perfectionner le système de déverrouillage par la reconnaissance faciale du Pixel 4. Mais certains ont eu recours à des méthodes douteuses, raconte The Verge.

Cibler les sans-abris et des personnes non-blanches

The Verge s’appuie sur les dires de plusieurs sources pour affirmer qu’un sous-traitant, l’entreprise Randstad, a ciblé explicitement des sans-abris et des personnes non-blanches, souvent sans leur dire qu’ils travaillaient pour Google et sans préciser à quoi servait l'expérience.

Rien n’indique que Google a effectivement demandé à Randstad de choisir des sans-abris, mais une source a assuré au Daily News que des directives avaient été passées par le géant pour trouver des visages de personnes non-blanches. Sur ce point, rien d'étonnant car les algorithmes ont besoin d'avoir une base de données composée d'un large panel de visages pour être efficace.

Les SDF, moins bavards 

La source présentée comme un ancien employé du sous-traitant détaille : 

“Ils nous ont dit de cibler les sans-abri parce qu'ils sont les moins susceptibles de parler aux médias. Mais ils ne savaient pas ce qui se passait."

Il affirme s'être vu conseillé de présenter l'expérience comme un jeu, sans donner plus de détails. De dire par exemple: "Nous avons une nouvelle application, essayez-la et obtenez 5 dollars.“

Grâce à une loi en vigueur dans l’Etat de Californie depuis 1997, tout chèque-cadeau d’une valeur inférieure à 10 dollars peut-être échangé contre de l’argent. C’est pourquoi les personnes en grande précarité ont été ciblées, comme les sans-abris ou les étudiants. Google et Randstad ne se sont pas exprimés pour le moment.

https://twitter.com/Pauline_Dum Pauline Dumonteil Journaliste BFM Tech