ChatGPT ne consulte pas de bibliothèque. Le modèle d’OpenAI génère ses réponses en prédisant les mots les plus probables à la suite d’une requête, à partir de données d’entraînement massives. Cette mécanique explique pourquoi les sources qu’il cite peuvent ne correspondre à aucun document réel.
Comment ChatGPT fabrique une référence qui n’existe pas
Le terme technique est hallucination. Lorsqu’un utilisateur demande à ChatGPT de fournir des références bibliographiques, le modèle ne va pas chercher un article dans une base de données. Il assemble un titre d’apparence crédible, un nom d’auteur plausible et un nom de revue cohérent avec le sujet, parce que ces combinaisons de mots sont statistiquement fréquentes dans ses données d’entraînement.
A découvrir également : C'est quoi le LLM en IA ?
Le résultat ressemble à une vraie citation. Format correct, vocabulaire académique, structure attendue. OpenAI reconnaît elle-même que son outil ne garantit pas l’exactitude factuelle des réponses, car il ne fait que prédire la suite de mots la plus probable.
Le problème dépasse les fausses citations au sens strict. Des cas documentés montrent que ChatGPT peut aussi générer de fausses informations sur des personnes réelles, avec des détails biographiques inventés mais formulés de manière convaincante. L’organisation noyb a déposé une plainte contre OpenAI sur ce point précis, soulignant l’impossibilité d’obtenir une correction durable de ces erreurs.
A lire également : Quel est l’opposé de UX ?
Taux de fausses informations dans les chatbots IA : les chiffres de NewsGuard
Un audit de NewsGuard portant sur les dix principaux outils d’IA générative a mesuré leur propension à répéter de fausses affirmations sur des sujets d’actualité. Le constat est net : le taux de fausses informations a presque doublé en un an, passant de 18 % en août 2024 à 35 % en août 2025.
Cette dégradation a une explication structurelle. Les chatbots ont intégré la recherche en temps réel sur le web, ce qui les rend plus enclins à répondre au lieu de s’abstenir. Leur taux de non-réponse a chuté, mais la contrepartie est qu’ils relaient davantage de contenus erronés trouvés en ligne.
Le cas Perplexity, révélateur du compromis fiabilité-exhaustivité
L’audit de NewsGuard met en lumière un exemple frappant. Perplexity, qui affichait un score quasi parfait lors de la première vague de tests, a vu son taux d’échec grimper à 46 % lors de la seconde. Ce basculement illustre le compromis auquel tous les outils sont confrontés : répondre plus souvent implique se tromper plus souvent.
Le mécanisme de blanchiment de la désinformation aggrave le tableau. Des contenus issus de sites de propagande (comme le réseau de sites Pravda) se retrouvent repris par les chatbots qui les traitent comme des sources d’information légitimes, puis redistribués à leurs utilisateurs.
Pourquoi OpenAI ne peut pas corriger durablement les erreurs de ChatGPT
La plainte déposée par noyb contre OpenAI met en évidence un problème technique de fond. Même lorsqu’une fausse information est signalée, OpenAI ne dispose pas d’un mécanisme fiable pour la corriger de façon permanente. Le modèle ne fonctionne pas comme une base de données où l’on modifierait une entrée. Les informations erronées sont diffuses dans les paramètres du réseau de neurones, et une correction locale peut resurgir sous une autre forme dans une conversation différente.
La législation européenne sur la protection des données personnelles pose depuis 1995 le principe du droit à la rectification. Appliqué à un modèle de langage, ce droit se heurte à l’architecture même du système. OpenAI peut ajouter des filtres ou des instructions pour éviter certaines réponses, mais ces garde-fous restent contournables et ne modifient pas les données d’entraînement sous-jacentes.
Ce que change l’AI Act européen pour les réponses générées
Le règlement européen sur l’intelligence artificielle (AI Act) a commencé à imposer des obligations dès 2025. Pour les IA génératives comme ChatGPT, les exigences portent sur plusieurs axes :
- La transparence : l’utilisateur doit savoir qu’il interagit avec une IA et que les réponses peuvent contenir des erreurs factuelles
- La supervision humaine : certains usages à haut risque nécessitent un contrôle humain systématique des sorties du modèle
- La déclaration d’incidents graves et les obligations de cybersécurité, qui s’appliquent lorsque l’IA peut induire en erreur de manière significative
Ces obligations ne résolvent pas le problème technique des hallucinations, mais elles créent un cadre juridique qui rend les éditeurs responsables de la fiabilité de leurs outils.
Vérifier une source citée par ChatGPT : les réflexes concrets
Partir du principe que toute référence fournie par ChatGPT doit être vérifiée avant d’être utilisée reste la seule approche fiable. La vérification ne prend que quelques secondes dans la plupart des cas, et elle évite de propager une information fabriquée.
- Copier le titre exact de l’article ou de l’étude cité et le rechercher dans Google Scholar, PubMed ou directement sur le site de la revue mentionnée. Si aucun résultat ne correspond, la source est probablement inventée
- Vérifier que l’auteur cité existe et qu’il travaille bien dans le domaine mentionné. Un nom plausible ne suffit pas
- Croiser l’information factuelle avec au moins une source indépendante (site institutionnel, média reconnu, base de données publique)
- Ne jamais utiliser une réponse de ChatGPT comme source unique dans un contexte médical, juridique ou académique
Dans le domaine de la santé, plusieurs analyses soulignent que les réponses d’IA restent trop peu fiables pour servir de base à un conseil clinique. Le risque ne se limite pas à une mauvaise note scolaire : une fausse donnée médicale ou juridique peut avoir des conséquences directes.
ChatGPT produit des textes fluides et structurés, ce qui rend ses erreurs plus difficiles à repérer qu’une simple faute de frappe dans un moteur de recherche classique. La qualité rédactionnelle du résultat n’a aucun lien avec sa fiabilité factuelle. Tant que l’architecture des modèles de langage reposera sur la prédiction statistique plutôt que sur la consultation de bases vérifiées, cette distinction restera le point de vigilance central pour quiconque utilise ces outils au quotidien.
