Liste d’attente

Vérifier les réponses d’une IA : repérer erreurs et inventions

Guide pratique · , 8 min de lecture

Une IA comme ChatGPT ou Claude peut écrire une réponse fausse qui a l’air aussi juste qu’une réponse exacte. Ce n’est pas une panne : c’est une limite connue de ces outils, qu’Anthropic et la CNIL décrivent noir sur blanc. La parade tient en une habitude : faire montrer ses preuves à l’assistant, puis contrôler toi-même ce qui compte. Voici les signes qui doivent t’alerter et une méthode simple pour vérifier une réponse avant de t’en servir.

Pourquoi une IA invente

Un assistant comme ChatGPT ou Claude repose sur un modèle de langage : un programme entraîné sur d’énormes quantités de textes, qui écrit la suite la plus probable de ce que tu lui demandes. La CNIL le résume ainsi : ces modèles « ne sont pas des bases de connaissance ». Ils suivent une logique de probabilité. Ils peuvent donc produire des résultats inexacts qui paraissent pourtant plausibles. C’est ce qu’on appelle une hallucination.

Anthropic, l’entreprise qui fait Claude, l’écrit aussi dans sa documentation : même les modèles les plus avancés peuvent produire un texte faux, ou incohérent avec les documents qu’on leur a donnés. Les techniques pour limiter ce risque le réduisent fortement, mais ne le suppriment pas.

Comment naît une réponse fausse

  1. Ta questionelle porte sur un sujet que le modèle connaît mal ou pas du tout
  2. Le modèleil écrit la suite la plus probable, sans savoir si elle est vraie
  3. La réponseelle a l’air sérieuse, bien rédigée, sûre d’elle
  4. Le risquetu la reprends sans vérifier, et l’erreur part avec ton nom

Pour toi, ça compte parce que c’est ton entreprise qui signe. La CNIL le rappelle : une confiance excessive dans ces résultats, sans vérification appropriée, peut conduire à des décisions erronées. Nous avons détaillé les autres règles de la CNIL dans RGPD et IA générative : ce qu’un entrepreneur doit savoir.

Les signes qui doivent t’alerter

L’aide de Claude cite plusieurs cas typiques, et la CNIL décrit les mêmes limites pour l’IA générative en général. Nous y ajoutons nos propres exemples et les chiffres précis.

  • L’actualité. Le modèle n’a pas forcément été entraîné sur les informations les plus récentes. Il peut se tromper sur l’actualité. Pense par exemple à une nouvelle loi ou à un nouveau tarif.
  • Les citations qui font sérieux. L’assistant peut afficher une citation qui a l’air officielle mais ne repose sur rien. Une phrase entre guillemets attribuée à une loi, un expert ou une étude se vérifie toujours.
  • Les liens. Un lien donné par l’IA peut ne mener nulle part. Même avec la recherche web, l’aide de Claude prévient que des liens peuvent parfois ne pas fonctionner.
  • Les actions qu’elle n’a pas faites. Claude peut « halluciner ses capacités » : affirmer qu’il a envoyé un e-mail ou créé un document externe alors qu’il n’a pas accès à ces outils. Il n’a pas accès aux outils qui n’ont pas été explicitement intégrés, comme l’e-mail, le traitement de texte ou le transfert de fichiers.
  • Les chiffres précis (notre conseil). Un montant, un pourcentage, une date ou un numéro d’article de loi donnés sans source sont à contrôler en priorité.

La méthode pour vérifier une réponse

Les quatre premières étapes reprennent les techniques de la documentation d’Anthropic, écrites pour Claude ; la cinquième reprend la CNIL. Ce sont des consignes écrites : tu peux les essayer dans un autre assistant comme ChatGPT, sans garantie d’un résultat identique.

  1. Autorise le « je ne sais pas »écris dans ta demande : « Si tu n’es pas sûr ou si l’information manque, dis-le. » La documentation d’Anthropic indique que cette simple permission peut réduire fortement les fausses informations
  2. Donne tes documentscolle ou dépose le document de référence (ta grille, le contrat, la fiche officielle) et demande de n’utiliser que lui, pas ses connaissances générales
  3. Exige une preuve par affirmationdemande une source ou un passage cité mot pour mot pour chaque affirmation importante
  4. Fais-la se relireaprès la réponse, demande-lui de retrouver un passage qui appuie chaque affirmation, et de retirer celles qu’elle ne peut pas prouver
  5. Contrôle toi-même ce qui compteouvre les sources citées, vérifie les chiffres, les noms et les dates, et ne recopie jamais la réponse telle quelle

Pour un long document : les citations d’abord

Tu donnes un long contrat ou un appel d’offres à analyser ? La documentation d’Anthropic conseille, pour les documents longs, de demander d’abord des extraits mot pour mot, puis de travailler seulement à partir de ces extraits. Tu peux ensuite retrouver chaque extrait dans le document en le cherchant avec Ctrl+F (ou Cmd+F sur Mac). Si un extrait est introuvable, ne retiens pas l’affirmation qui s’appuie dessus.

Pour l’actualité : la recherche web, et ses sources

Sur une question récente, une IA sans accès au web répond de mémoire, avec le risque de se tromper. Dans Claude, la recherche web s’active dans une conversation par le bouton + en bas à gauche, puis Web search : une coche apparaît. Avec la nouvelle expérience Claude, il n’y a plus d’interrupteur : il cherche sur le web quand c’est utile. Sur une offre Team ou Enterprise, le propriétaire du compte (Owner ou Primary Owner) doit d’abord l’activer dans Organization settings > Capabilities.

Chaque réponse obtenue avec la recherche web comporte des citations. Ouvre-les. L’aide de Claude le dit : le site d’origine peut contenir un contexte ou des détails absents de la synthèse, et la qualité de la réponse dépend des sources utilisées. Pour une décision importante, préfère une source officielle : service-public.fr, l’URSSAF, la CNIL, le site de l’éditeur.

Pour une question importante : pose-la deux fois

La documentation d’Anthropic propose aussi de lancer la même demande plusieurs fois et de comparer les réponses. Si elles se contredisent, c’est un signal d’alerte possible : vérifie chaque point qui diverge. Tu peux aussi redonner la réponse à l’assistant et lui demander de vérifier chaque point.

Le prompt pour vérifier une réponse
Voici une réponse que tu m'as donnée : [colle la réponse]. Relis-la affirmation par affirmation. Pour chacune, indique : la source ou le passage de mes documents qui la prouve, ou « non prouvé ». Retire ou signale chaque affirmation non prouvée. Liste à part les chiffres, les dates, les noms et les liens que je dois contrôler moi-même. Si tu n'es pas sûr, dis-le.

Un exemple : la réponse d’un client artisan

Par exemple, si tu es plombier et qu’un client te demande par écrit si une aide publique couvre son chantier. Tu demandes à l’assistant un brouillon de réponse. Il te rédige un e-mail clair, avec un montant d’aide, un taux et le nom d’un dispositif.

Avant d’envoyer, tu appliques la méthode :

  • tu lui demandes la source de chaque chiffre ;
  • tu actives la recherche web et tu ouvres la page officielle citée ;
  • tu compares le montant et les conditions avec ce que dit la page, pas avec le résumé ;
  • tu retires tout ce que tu n’as pas pu retrouver, et tu renvoies ton client vers le site officiel.

Ton e-mail est un peu moins affirmatif, mais il est vérifié. C’est la même logique que pour faire un devis avec l’IA : les chiffres viennent de tes documents ou d’une source officielle, jamais de la mémoire de l’assistant.

Au-delà de l’exactitude : plagiat et biais

La CNIL recommande de vérifier trois choses dans ce que produit l’IA :

L’exactitude

  • La réponse est-elle juste et de bonne qualité ?
  • C’est surtout important quand l’IA ne donne pas de source.

Le plagiat

  • Le texte reprend-il une œuvre protégée ?
  • En cas de soupçon sérieux, essaie de retrouver l’œuvre d’origine.

Les biais

  • La réponse reproduit-elle un stéréotype ?
  • Notre conseil : relis surtout ce qui touche à des personnes, candidats ou clients.

La CNIL met aussi en garde contre le « biais d’automatisation » : une perte de confiance ou de compétence liée à une utilisation excessive de l’outil. Sa bonne pratique : ne jamais reproduire telles quelles les sorties de ces systèmes, même quand ils intègrent des filtres, puisqu’ils ne sont jamais infaillibles.

Dans une équipe, la CNIL suggère aussi de prévoir des « prompts types » pour des tâches bien identifiées. Le prompt ci-dessus peut devenir le tien. L’AI Act demande d’ailleurs aux entreprises qui utilisent l’IA de prendre des mesures pour que leur personnel ait les connaissances nécessaires ; selon la Commission européenne, cela inclut d’être informé des risques, dont les hallucinations. On l’explique dans AI Act : ce qui change pour une TPE ou une PME.

Faut-il tout vérifier ?

  • Si tu reformules un texte que tu as écritrelis le résultat, le fond vient de toi
  • Si la réponse contient un chiffre, une date, un nom ou un lienvérifie chacun à la source
  • Si la réponse part chez un client ou engage ton entreprisevérifie tout, et relis toi-même avant d’envoyer
  • Si l’enjeu est juridique, fiscal ou médicalvérifie sur le site officiel et demande l’avis d’un professionnel

Passe à l’action

Questions fréquentes

Pourquoi ChatGPT ou Claude inventent-ils des réponses ?

Parce qu’ils écrivent la suite la plus probable d’un texte, sans vérifier si elle est vraie. Selon la CNIL, ils ne sont pas des bases de connaissance. Ils se trompent plus facilement sur ce qu’ils n’ont pas appris, comme les événements récents.

Peut-on empêcher complètement une IA d’halluciner ?

Non. Selon la documentation d’Anthropic, les bonnes techniques réduisent fortement les hallucinations, mais ne les éliminent pas. Il faut toujours valider les informations critiques.

Les liens donnés par l’IA sont-ils fiables ?

Pas toujours. Un lien peut ne pas fonctionner, ou la page peut dire autre chose que le résumé. Ouvre chaque lien avant de t’en servir.

L’IA a dit qu’elle avait envoyé mon e-mail : est-ce vrai ?

Pas forcément. Selon l’aide de Claude, l’assistant peut prétendre à tort avoir envoyé un e-mail ou créé un document. Il n’a pas accès aux outils qui n’ont pas été explicitement intégrés : vérifie dans ta boîte d’envoi.

Sources

La formation ouvre bientôt.