Assistants vocaux: les "affaires d'écoute" à répétition confirment leur capacité d'intrusion dans la vie privée

Plusieurs enquêtes ou révélations publiques récentes ont démontré que les interactions avec les assistants vocaux sont parfois écoutées par des humains, à l'insu des utilisateurs, dans le but de perfectionner les machines.

Apple a indiqué hier vendredi qu'il suspendait l'analyse par des employés ou des sous-traitants de conversations d'utilisateurs enregistrés par son assistant vocal Siri, technologie utilisée dans ses iPhone, iPad et Home Pod, principalement. Cette annonce faisait suite aux révélations du quotidien britannique The Guardian, selon lesquelles la firme laissait écouter une partie des échanges vocaux entre ses clients et Siri, afin d’améliorer l’intelligence artificielle du logiciel. "Lors de la prochaine mise à jour du logiciel, les utilisateurs auront la possibilité de choisir de participer (à ce processus)", a indiqué la firme à la pomme.

Cette nouvelle "affaire d'écoute" vient s'ajouter à celles qui ont défrayé la chronique concernant Alexa (Amazon), Google et d'autres assistants vocaux numériques et domestiques, qui accompagnent un tiers des Américains dans leur vie quotidienne. Plusieurs révélations ces derniers mois dans la presse ont montré les interactions vocales avec ces assistants domestiques sont parfois écoutées par des humains, à l'insu des utilisateurs, dans le but de perfectionner ces appareils dans leur capacité en matière de reconnaissance vocale.

"Il faut une transparence absolue pour les utilisateurs"

"Les gens s'imaginent que les assistants vocaux numériques vont s'améliorer par magie, en faisant de l'apprentissage automatisé tous seuls", commente Carolina Milanesi, analyste chez Creative Strategies. "Nous n'en sommes qu'au début de l'intelligence artificielle, l'intervention humaine reste très importante". "Mais il faut une transparence absolue pour les utilisateurs, et ils doivent pouvoir choisir de participer à cet apprentissage de la machine ou pas", ajoute-t-elle.

Très critiqués à la suite de la découverte de ces écoutes, les grands groupes concernés ont dû réagir. En mai dernier, Amazon a annoncé l'ajout de fonctionnalités pour demander à Alexa d'effacer ses enregistrements ou aveugler la caméra. De son côté, Google a suspendu les écoutes dans toute l'Union européenne pour trois mois, suite à une demande d'une autorité allemande de protection des données.

L'information des consommateurs est défaillante

L'information des consommateurs sur leurs données personnelles constitue le coeur du problème posé par ces écoutes aléatoires, surtout pour un groupe comme Apple, qui a fait du respect de la vie privée son argument de différentiation vis-à-vis des autres "GAFA" (Google, Apple, Facebook, Amazon). Les utilisateurs doivent savoir qu'ils peuvent être écoutés, dans quelles circonstances, par qui et quelles informations supplémentaires sont transmises (notamment celles de nature à identifier la personne écoutée), liste Carolina Milanesi. "Si ce sont des employés qui écoutent, la confiance remonte, mais si ce sont des sous-traitants, on veut savoir quels sont leurs standards, et comment les données sont stockées", précise-t-elle.

Près de 112 millions d'Américains, soit un tiers de la population du pays, utiliseront un assistant vocal au moins une fois par mois en 2019, d'après eMarketer. La France comptait 1,7 million d'adeptes fin 2018 (Médiamétrie). Les utilisateurs s'adressent à ces voix robotiques pour faire des recherches, des courses ou écouter de la musique via des enceintes dites "intelligentes", mais aussi toute une galaxie d'objets connectés, des smartphones aux voitures.

Alexa (Amazon) et Google captent plus de 60% du marché mondial, selon le cabinet d'études Canalys, devant Siri, Bixby (Samsung) ou encore Cortana (Microsoft). "C'est une technologie fascinante, qui a le pouvoir d'améliorer la vie des gens (...), mais les entreprises ne répondent pas bien aux inquiétudes légitimes que cela suscite aussi", constate Florian Schaub, professeur à l'université du Michigan et spécialiste des interactions hommes-machines.

Frédéric Bergé avec AFP