Pourquoi les banques doivent tenir compte de la méfiance croissante du public face à ChatGPT

[AVIS D'EXPERT] L'envolée des usages de l'IA générative génère aussi une certaine méfiance. Ce que les banques doivent prendre en compte. Décryptage avec notre expert Guillaume Almeras, fondateur du site de veille et de conseils Score Advisor.

La cabinet Forrester alerte sur une réalité qui n’avait pas du tout été anticipée: la méfiance grandissante du public par rapport à ChatGPT. Comme chacun le sait, le 30 novembre 2022, l’ouverture au grand public de ChatGPT 3, la solution développée par Open AI, a constitué une révolution en matière d’intelligence artificielle. Cette solution d’IA générative crée du texte, des images, de la musique, du code en réponse à des demandes formulées par les utilisateurs. Elle s’appuie sur un processus d’apprentissage qui lui permet de créer des produits originaux.

Le grand public s’est rapidement emparé de cette solution. Mais on commence à mieux cerner de quelle façon. Dans sa récente étude BornAI, l’agence Heaven décrypte notamment les usages de l’IA générative chez les plus jeunes.

En moins de deux ans, son emploi s’est généralisé chez les 18-21 ans (ainsi que chez leur cadets) à une vitesse phénoménale puisque 85% d’entre eux y ont recours, généralement une fois par mois (45% ; ceux qui l’utilisent tous les jours sont 21%), sous deux principales formes: ChatGPT et MyAI (Snapchat).

Ce recours a principalement lieu (83%) pour des raisons scolaires, c’est-à-dire pour mener des recherches et faire des devoirs. Pour autant, une source d’information comme ChatGPT paraît moins fiable aux jeunes que leurs enseignants, leurs proches ou tout simplement les vieux moteurs de recherche.

Une demande de transparence

Le cabinet Forrester, de même, souligne que de plus en plus de personnes se méfient des informations fournies par l’IA générative. A ce point que 77% des consommateurs américains et britanniques estiment que les marques devraient signaler qu’elles ont recours à l’IA générative quand c’est effectivement le cas.

Les banques et les compagnies d’assurance doivent particulièrement tenir compte de ces alertes car celles-ci touchent une dimension essentielle de leurs activités: les conseils que leurs clients attendent d’elles.

A ce stade, les établissements financiers ont plutôt considéré ChatGPT avec circonspection, considérant que l’IA générative représente une technologie vis-à-vis de laquelle on manque encore de recul. Mais ils n’ont pas pu non plus échapper à la nouvelle mode et, aujourd’hui, la plupart explorent différents projets de mise en œuvre de l’IA générative, notamment pour appuyer les conseillers et affiner la relation client ; ce qui veut dire automatiser la génération de comptes-rendus, la production de contenus marketing, le développement des interfaces conversationnelles, la formation de conseillers ou téléconseillers "augmentés"...

Des recommandations personnalisées

L’IA générative peut, à partir de l’analyse des données individuelles et des historiques de transactions des clients, proposer des recommandations personnalisées en termes de produits, d’objectifs de vie et de bien-être financier. Certes, de tels développements sont très complexes, avec des risques d’erreur qui ne sont pas pleinement mesurés – une incertitude qui, à un niveau bien plus basique, bride encore par exemple l’affichage d’estimations de soldes en compte en fin de mois chez beaucoup d’établissements.

Mais la tendance est là et, puisque l’enjeu de personnalisation oblige à identifier le profil et les motivations des individus, on envisage d’exploiter avec l’IA les caractéristiques de leur manière de s'exprimer et de détecter, par analyse faciale, vocale ou textuelle, leurs sentiments pour enrichir l’expérience client et optimiser la transformation commerciale.

Culture IA : ChatGPT passe le test de turing - 20/06

4:33

Toutefois, est-ce bien ce que souhaitent la plupart des clients? Ceux-ci attendent non pas tant un conseil personnalisé qu’une relation personnelle. Vis-à-vis de sa banque et souvent de sa compagnie d’assurance, en effet, le contrat de base consiste à pouvoir s’adresser à quelqu’un que l’on connait et qui nous connait. Certes tout cela a déjà évolué mais les établissements qui ne le permettent pas ont encore beaucoup de mal à capter la relation principale avec leurs clients.

L’emploi de l’IA générative peut renforcer cette relation personnelle, surtout dans un contexte où, gérant des centaines de comptes, les conseillers ne peuvent tous bien les connaitre. Mais elle peut également tenter de s’y substituer, au moins en partie. Alors, comme le signale Forrester, non signalée comme telle, une telle substitution suscitera certainement chez les clients des doutes quant à l’authenticité des communications, aussi bien que du scepticisme et de la méfiance face aux recommandations.

C’est que la maturité technologique du public ne cesse d’augmenter – surtout dès lors qu’il utilise lui-même les outils d’IA. Encore peu aperçu, le principal effet d’une généralisation de l’IA générative pourrait bien être d’accroitre notre méfiance face à des communications impersonnelles, artificielles et notre irritation face à la xyloglossie, la langue de bois.

Par Guillaume Almeras, fondateur du site de veille et de conseils Score Advisor