Google a modifié une publicité de son IA après une erreur sur le gouda

Dans la publicité, Gemini affirmait que le gouda représentait 50 à 60% de la consommation mondiale de fromage. Depuis, Google a modifié la vidéo.

Le Super Bowl approche à grands pas. Et, sans surprise, les entreprises commencent déjà à partager en masse leurs publicités liées à l'événement sportif très médiatisé aux États-Unis. C'est donc ce qu'a fait Google. Le problème, c'est que sa réclame partageait une information erronée sur le gouda, comme le rapporte Business Insider.

Dans la vidéo diffusée sur Youtube, le géant de la tech présente ses différentes offres concernant son IA Gemini. Un propriétaire d'une petite entreprise demande alors à l'outil de lui donner une description du gouda fumé qui intéresserait les amateurs de fromage. Dans cette réponse, Gemini affirme que le gouda représente "50 à 60% de la consommation mondiale de fromage".

Une statistique totalement surévaluée. Un rapport sur la consommation de fromage du cabinet de conseil IMARC Group indique que le cheddar "représente la majorité du marché avec environ 32,4 %". Le gouda ne figure même pas parmi les cinq premiers fromages en termes de parts de marché.

De nombreuses erreurs

Google a depuis modifié sa publicité. L'entreprise a "demandé à Gemini de réécrire la description du produit sans mention [la statistique], nous avons mis à jour l'interface utilisateur pour refléter ce que l'entreprise aurait fait", précise un porte-parole. Désormais, l'IA explique simplement dans la publicité que le gouda est "l'un des fromages les plus populaires au monde".

Pour Jerry Dischler, président des applications Cloud chez Google Cloud, la réponse de Gemini n'était "pas une hallucination" et qu'elle était "ancrée dans le web". "De nombreux sites sur le web mentionnent la proportion de 50 à 60 %", précise-t-il.

Ce n'est pas la première fois que Google est critiqué pour les inexactitudes générées par son IA. Au printemps dernier, le groupe a publié une vidéo promotionnelle dans laquelle son IA fournissait une liste de solutions à un photographe confronté à des problèmes d'appareil photo. L'une des solutions proposées risquait de détruire des photos.

Au même moment, Ai Overviews, l'outil de Google qui résume les premiers résultats de recherche avec l'intelligence artificielle, avait également conseillé aux utilisateurs de mettre de la colle dans sa pizza. La réponse aurait été tirée d'un commentaire publié dans un fil de discussion Reddit, vieux de plus de dix ans.

Même constat en 2023. Une vidéo de présentation de Bard, l'ancien nom de Gemini, montrait le chatbot indiquer à tort que le télescope spatial James Webb avait été le premier à photographier une exoplanète. En réalité, le premier cliché a été pris par un télescope de l'Observatoire européen austral, selon la NASA.

Salomé Ferraris