Comment vérifier ce que l'IA vous dit

Ce que vous allez apprendre

• Ce qu'est une hallucination et pourquoi elle se produit
• Quelles parties d'une réponse vérifier en premier : noms, chiffres, dates, citations et liens
• Comment demander des sources, puis les vérifier vous-même
• Comment séparer les faits des suppositions de l'IA

L'idée

Les outils d'IA écrivent un texte fluide et assuré, que le contenu soit correct ou non. Quand un outil produit quelque chose qui semble juste mais qui est faux, comme un livre qui n'existe pas ou une citation que personne n'a prononcée, on parle d'hallucination : une réponse assurée mais fausse ou inventée. Cela arrive parce que le modèle prédit un texte probable. Il ne ment pas, et il ne sait pas quand il se trompe.

Vous n'avez pas besoin de vérifier chaque mot. Vérifiez les parties qui causeraient du tort si elles étaient fausses. Les noms, chiffres, dates, citations et liens sont les points à risque habituels, avec tout ce qui est juridique, médical ou financier. Pour chacun, allez à une source primaire : le document original, le site officiel, le texte de loi lui-même ou la publication de la personne concernée. Un article de blog qui répète l'affirmation ne vaut pas confirmation.

Vous pouvez demander des sources à l'IA. Cela aide, mais ce n'est pas la dernière étape. Une source citée peut ne pas exister, porter sur autre chose, ou ne pas dire ce que l'IA affirme. Ouvrez-la et trouvez la phrase qui appuie l'affirmation. Si vous ne la trouvez pas, considérez l'affirmation comme non confirmée.

Enfin, demandez à l'IA d'étiqueter sa propre réponse : quelles parties viennent d'une source ou du contenu que vous lui avez donné, et quelles parties relèvent de connaissances générales, de suppositions ou d'opinions. Ces étiquettes ne sont pas toujours justes, mais elles vous montrent où regarder en premier.

Exemple

La gérante d'une petite entreprise demande :

Quelle est la date limite pour déposer ma déclaration trimestrielle de
TVA, et quelle est la pénalité de retard ? Donne-moi un lien vers la
règle officielle.

La réponse donne une date, un montant de pénalité et un lien. Elle se lit bien. La gérante vérifie chaque partie :

• Le lien ouvre une page du site de l'administration fiscale, mais elle porte sur un autre formulaire.
• La page de l'administration fiscale consacrée à sa déclaration indique une autre date limite pour sa région.
• La pénalité de retard n'apparaît sur aucune page officielle qu'elle parvient à trouver.

Elle envoie un message de suivi :

Quelles parties de ta réponse viennent d'une source que tu peux
indiquer, et quelles parties relèvent de connaissances générales ou
d'une supposition ? Mets-les dans des listes séparées.

L'IA déplace la pénalité dans la liste des suppositions. La gérante reprend la date limite sur la page officielle et appelle l'administration fiscale au sujet de la pénalité. L'IA l'a aidée à voir quoi chercher, mais chaque fait sur lequel elle s'est appuyée venait de la source primaire.

À vous de pratiquer

1. Posez à n'importe quel outil d'IA une question factuelle sur un sujet que vous connaissez bien, comme votre ville, votre métier ou un loisir.
2. Demandez-lui d'inclure au moins deux sources avec des liens.
3. Soulignez chaque nom, chiffre, date et citation dans la réponse.
4. Ouvrez chaque source et cherchez la phrase exacte qui appuie chaque élément souligné.
5. Marquez chaque élément comme confirmé, faux ou introuvable.

À la fin, vous devriez avoir une courte liste d'affirmations avec un statut pour chacune, et une première idée du degré de vérification qu'exige cet outil dans votre domaine. Pour des recherches plus longues, continuez avec Faire des recherches avec l'IA et vérifier les sources.

Copiez ce modèle

Réponds à cette question : [votre question].

Puis répartis ta réponse en trois listes :
1. Les faits avec une source que je peux vérifier. Donne le nom de la
   source et le lien pour chacun.
2. Les connaissances générales que tu n'as pas tirées d'une source précise.
3. Les suppositions, hypothèses ou opinions.

Si tu as un doute sur un nom, un chiffre, une date ou une citation,
indique-le à côté. N'invente pas de sources.

Demander à l'IA de signaler ses doutes ne rend pas sa réponse exacte. Continuez à vérifier les points importants.

Vérifiez le résultat

• Chaque lien s'ouvre-t-il, et mène-t-il à la page d'origine ou à la page officielle ?
• La source dit-elle ce que l'IA affirme, avec ses propres mots ?
• Les noms sont-ils bien orthographiés, et les dates et chiffres correspondent-ils exactement à la source ?
• Les citations sont-elles mot pour mot, et prononcées par la personne nommée ?
• La source est-elle assez récente pour votre usage ? Cherchez une date sur la page.
• Les suppositions sont-elles clairement séparées des faits ?

Erreurs fréquentes

• Vérifier seulement qu'un lien fonctionne. Une vraie page peut porter sur autre chose. Trouvez la phrase qui appuie l'affirmation.
• Demander à la même IA si elle est sûre. Elle peut acquiescer, ou changer de réponse, sans aucun élément nouveau. Vérifiez plutôt une source primaire.
• Prendre un ton assuré pour un signe d'exactitude. Le ton ne dit rien de la vérité. Jugez chaque affirmation à sa source.
• Tout vérifier avec le même soin. Vous manquerez de temps. Commencez par ce qui causerait du tort en cas d'erreur : l'argent, la santé, les points juridiques, et tout ce que vous allez publier ou envoyer.