BFM Business

Intelligence artificielle: une deuxième chercheuse en éthique renvoyée de Google

Le siège de Google près de San Francisco, en Californie

Le siège de Google près de San Francisco, en Californie - JOSH EDELSON © 2019 AFP

Après Timnit Gebru, c'est au tour de Margaret Mitchell, autre responsable de l'équipe de recherche en éthique et intelligence artificielle de Google, d'être "virée". Google annonce la réorganisation de cette unité.

"Je suis virée". C'est par ces mots que Margaret Mitchell, patronne de l'équipe de recherche en éthique et intelligence artificielle de Google qu'elle a créé, a annoncé qu'elle avait quitté le groupe californien. Elle ne donnera pas plus d'explications sur son éviction qui fait suite à celle, en janvier, de Timnit Gebru, autre responsable de ce service, une spécialiste des technologies de reconnaissance faciale.

C'est Google qui explique sommairement cette décision dans un communiqué de presse. Cette unité a été placée sous surveillance dès le mois de décembre. Une enquête aurait permis de découvrir que Margaret Mitchell avait copié et fait sortir des fichiers hors de l'entreprise.

"Après avoir passé en revue le comportement de cette directrice, nous avons confirmé qu'il y a eu de multiples infractions à notre code de conduite, ainsi que de nos règlements sur la sécurité, y compris l'exfiltration de documents confidentiels sensibles et de données privées sur d'autres employés", a déclaré un porte-parole du groupe californien au site Axios.

Accusations de racisme

Margaret Mitchell et Timnit Gebru étaient en conflit avec leur direction en réclamant plus d'ouverture sur la communication des travaux en IA. Le conflit a atteint un point de non retour avec la publication d'un article sur "les dangers des grands modèles de traitement du langage". Comme le rapporte The Verge, Megan Kacholia, vice-présidente de Google Brain, a exigé que l'article soit retiré.

Après l'éviction de Timnit Gebru, présentée par Google comme une démission, Margaret Mitchell a accusé l'entreprise de l'avoir forcée à se rétracter sur des résultats de recherche. Elle a aussi critiqué publiquement le directeur exécutif du groupe, Sundar Pichai, sur le thème du racisme.

"Disons que vous avez un problème parce que vous n'arrêtez pas de vous aliéner les femmes noires et que vous leur causez des torts importants", avait-elle tweeté au-dessus d'un lien vers un article de CNN intitulé "Le patron de Google rencontre des dirigeants d'universités noires après des accusations de racisme".

"Nous aurions dû gérer avec plus de sensibilité"

Dans un mail interne révélé par Axios, le directeur de Google AI, Jeff Dean, admet auprès des salariés que le départ de Timnit Gebru aurait "pu et dû être géré avec plus de sensibilité" et se dit "désolé".

"J'ai entendu et je reconnais ce que la sortie du Dr Gebru signifiait pour les femmes technologues, pour celles de la communauté noire et d'autres groupes sous-représentés qui poursuivent une carrière dans la technologie, et pour beaucoup de personnes qui se soucient profondément de l'utilisation responsable de l'IA par Google. Cela a conduit certains à s'interroger sur leur place ici, ce que je regrette", explique Jeff Dean.

En décembre, plus de 1400 employés de Google et près de 2000 autres personnes avaient signé une lettre appelant l'entreprise à expliquer pourquoi Timnit Gebru avait été renvoyée et pour quelles raisons elle avait dû se rétracter. Ils demandaient aussi à Alphabet de s'engager "sans équivoque" en faveur de l'intégrité de la recherche et de la liberté académique.

Sur son blog, Google vient d'annoncer la nomination de Marian Croak, vice-présidente de l'organisation d'ingénierie, à la tête d'un "nouveau centre d'expertise sur l'IA responsable au sein de Google Research".

https://twitter.com/PascalSamama Pascal Samama Journaliste BFM Éco