"Inutile": des employés de Google fustigeaient le chatbot Bard avant même son lancement

Des employés de Google ont critiqué à plusieurs reprises le chatbot Bard dans des messages internes, intimant leur hiérarchie de ne pas le lancer.

Même les salariés n'y croient pas. Alors que Google a, à son tour, présenté son chatbot, baptisée Bard, le 21 mars dernier, Bloomberg révèle que des employés ont demandé à ce que celui-ci ne soit pas lancé.

L'enquête met en lumière la façon dont Google a pu mettre les questions éthiques de côté pour rester dans la course face à des rivaux comme Microsoft et OpenAI.

Pour son enquête, L'agence américaine s'appuie sur des témoignages de 18 employés actuels ou passés par Google et des captures d'écran de messages internes. Pour appuyer son propos, le média américain cite l'exemple d'un employé: lorsqu'il demandait à Bard comment faire atterrir un avion, Bard donnait régulièrement des suggestions qui conduiraient à un accident. Un autre employé a posé des questions sur la plongée sous-marine, ce à quoi Bard donnait des réponses "qui entraînerait probablement des blessures graves ou la mort".

"Ne le lancez pas"

L'un d'eux aurait également déclaré: "Bard est pire qu'inutile: s'il vous plaît, ne le lancez pas".

Google a volontairement doublé son équipe d'intelligence artificielle en 2021 et a mis davantage de moyens pour évaluer les risques de ces technologies d'IA. Mais l'intérêt pour l'innovation a contraint Google à accélérer. Début 2021, l'entreprise a même licencié les chercheuses Timnit Gebru et Margaret Mitchell qui ont révélé les failles des systèmes de langage d'IA, notamment utilisés par Bard.

Google aurait également évité une évaluation des risques demandée par une équipe de sécurité interne. Selon cette dernière, Bard n'était pas prêt pour une utilisation générale. Google a tout de même ouvert un accès expérimental en mars.

"Nous continuons à investir dans les équipes qui travaillent à l'application de nos principes d'IA à notre technologie", a déclaré Brian Gabriel, porte-parole de Google, précisant que l'éthique de l'IA restait "une priorité absolue pour l'entreprise".

Margaux Vulliet