Etats-Unis: une plainte déposée contre ChatGPT auprès de l'autorité de la concurrence

Une ONG a déposé plainte ce jeudi 30 mars auprès de la FTC, l'autorité américaine de la concurrence, contre OpenAI, la startup qui développe ChatGPT.

ChatGPT suscite de vives inquiétudes. Le groupe d'éthique technologique (Center for AI and digital policy) a déposé plainte ce jeudi 30 mars auprès de la FTC, l'autorité américaine de la concurrence. Dans son viseur: ChatGPT, le robot conversationnel développé par la jeune pousse américaine OpenAI. "Il est temps que la FTC agisse", estime le CAIPD.

L'ONG demande l'ouverture d'une enquête contre le robot conversationnel, ainsi qu'un "moratoire sur la sortie de prochaines versions de ChatGPT jusqu'à ce que des garde-fous aient été posés. Nous allons simultanément lancer une pétition pour que la FTC pose les bases d'une réglementation afin de réguler l'industrie de l'intelligence artificielle générative", explique le CAIPD dans une lettre.

Des "stéréotypes dangereux"

Le plaignant accuse OpenAI d'avoir des pratiques "injustes et trompeuses, en violation avec les lignes directrices de la FTC sur l'intelligence artificielle", détaille la plainte.

Dans le détail, l'ONG critique OpenAI pour avoir rendu accessible au public la dernière version du robot conversationnel, baptisée ChatGPT-4, tout en reconnaissant des risques de biais notamment des "stéréotypes dangereux et des associations humiliantes pour certains minorités groupes marginalisés", poursuit la plainte.

Parmi les autres griefs, "l'échec à prendre des mesures raisonnables pour prévenir de certains risques cyber", estime le groupe, en citant le rapport d'Europol sorti cette semaine. Ce dernier évoque les usages détournés de l'intelligence artificielle, parmi lesquels la désinformation et les escroqueries. "ChatGPT-4 permet aux cybercriminels de développer des malwares, comme des ransomwares", précise la plainte.

Un manque de transparence

L'ONG regrette également que la startup "n'ait dévoilé aucun détail sur l'architecture, la modélisation, les ressources informatiques, les techniques d'entraînement ou encore les jeux de données" permettant de créer ChatGPT.

"De nombreux experts en intelligence artificelle, ainsi que des entreprises elles-mêmes, ont appelé à une régulation du secteur. Et pourtant, les Etats-Unis ne font pas d'effort pour développer une politique de régulation, alors même que d'autres pays partout dans le monde sont en train d'établir des gardes-fous", juge la CAIPD dans sa lettre.

Et de poursuivre : "Le public a besoin de plus d'informations pour questionner l'impact de l'intelligence artificielle. Les experts doivent pouvoir auditer ces modèles. Les lois devraient contraindre à une transparence des algorithmes et combattre les biais algorithmiques."

Le CAIPD appelle à la création d'une commission nationale pour évaluer l'impact de l'intelligence artificielle sur la société américaine.

Cette plainte intervient au lendemain d'une lettre ouverte, signée par plus de 1100 personnes, appelant à un moratoire de 6 mois sur l'intelligence artificielle. Parmi les signataires, des pontes du secteur - comme Elon Musk, le nouveau patron de Twitter, ou Steve Wozniak, cofondateur d'Apple - mais aussi des anonymes.

Anaïs Cherif