Tech&Co
Vie numérique

Assistants vocaux: nos conversations sont écoutées par des travailleurs bien réels

Le témoignage de Julie, "dresseuse d'IA"

Le témoignage de Julie, "dresseuse d'IA" - lqdn/ https://video.lqdn.fr/videos/watch/9772f4a0-c025-4238-bfff-2ca473eceb54

Dans un témoignage accordé à la Quadrature du Net, Julie, "dresseuse d’intelligence artificielle", explique de quelle manière elle a contribué à l’amélioration de l’assistant vocal de Microsoft.

Pour être "intelligents", les assistants vocaux sont encore loin de pouvoir se passer de travailleurs humains. Cortana, l'assistant de Microsoft, fait ainsi appel à des recrues du monde entier pour améliorer ses capacités et parvenir à converser de manière naturelle avec ses interlocuteurs.

La Quadrature du Net, une association de défense des droits et libertés des citoyens sur Internet, a retrouvé l'une de ces travailleuses numériques. Dans un long témoignage, "Julie" explique en quoi a consisté son travail pour Microsoft, entre avril et décembre 2017. 

Depuis son domicile, Julie a pu avoir accès à des milliers de conversations privées enregistrées par l'assistant vocal. "On écoutait l'enregistrement audio, ensuite un texte s'affichait, nous montrant ce que Cortana avait compris et retranscrit. Notre travail était de vérifier si elle avait bien compris - si ce n'était pas le cas, on devait corriger le texte, la moindre faute de compréhension, de conjugaison ou d'orthographe", résume-t-elle. Entre 120 et 170 enregistrements d'une durée allant de 3 à 15 secondes pouvaient ainsi être décortiqués par jour.

L'occasion, pour elle, d'avoir accès à des questions anodines au sujet de la météo mais aussi des messages intimes dictés par les utilisateurs, parfois à connotation sexuelle, ou encore des insultes adressées à Cortana, en cas de comportement jugé décevant.

Les séquences consultées, pour la plupart trop courtes, ne permettaient jamais à elles seules de reconstituer l'intégralité d'une conversation. Julie indique néanmoins avoir dû retranscrire, au fil de ses journées bien remplies, des échantillons audio émanant d'un même interlocuteur. "C'était suffisant pour dresser un profil basique de l'utilisateur ou de son humeur du moment, par exemple", estime-t-elle. "Beaucoup de personnes ignorent ou oublient que les données collectées par Cortana ne sont pas uniquement traitées par des robots".

Une ouvrière du clic

Cette "dresseuse d'intelligence artificielle" est loin d'être un cas isolé. Elle vient rejoindre les bataillons de millions de cyberprolétaires, ces "travailleurs du clic" chargés de liker, commenter ou réaliser sur Internet des tâches répétitives, peu qualifiées et chronophages pour mieux peaufiner les services de géants du Web et, accessoirement, arrondir leurs fins de mois. Des géants comme Facebook ou Google font également travailler leurs utilisateurs sans que ces derniers ne s'en rendent compte.

Amazon fait appel à Mechanical Turk pour déléguer de telles micro-tâches. Microsoft, lui, dispose de la plateforme de microtravail UHRS. D'après Antonio Casilli, professeur de sociologie à Télécom Paris Tech et à l'EHESS, le site propose une rémunération variant entre 1 et 3 centimes de dollars pour chaque micro-tâche réalisée, qu'il s'agisse de retranscrire un mot ou de labelliser une image.

La sélection à l'entrée s'avère très souple. Julie n'aura ainsi pas eu besoin d'envoyer son CV, de passer un entretien individuel ni de signer une clause de confidentialité pour se mettre à la tâche. Or, les contenus accessibles en ligne, de la simple localisation d'un établissement à la retranscription de conversations intimes ou liées à des intérêts financiers, peuvent être sensibles.

"La confidentialité des données personnelles utilisées pour entraîner les solutions intelligentes est à risque", déplore ainsi Antonio Casilli. "Ces intelligences artificielles présupposent le transfert de quantités importantes de données à caractère personnel et existent dans une zone grise légale et éthique". L'heure est pourtant venue de répertorier les atteintes à la vie privée associées à cette forme de travail numérique. Dans le monde, 45 à 90 millions d'ouvriers d'un genre nouveau viendraient renflouer cette main-d'œuvre invisible.

https://twitter.com/Elsa_Trujillo_?s=09 Elsa Trujillo Journaliste BFM Tech