ENCYCLOPÉDIE · FIABILITÉ & ESPRIT CRITIQUE
Informations inventées ou non étayées
Une réponse plausible peut être fausse.
Les systèmes génératifs peuvent produire des affirmations plausibles, grammaticalement correctes, mais fausses ou impossibles à justifier. On appelle souvent ce phénomène « hallucination », par analogie ; ce terme ne doit pas faire croire que le logiciel perçoit ou pense comme un être humain.
Dans un portail documentaire, l’enjeu principal n’est pas de détecter un style d’IA : il est de vérifier les affirmations elles-mêmes. Les noms, dates, chiffres, références bibliographiques et recommandations de santé ou de droit exigent une attention particulière.
Les modèles génératifs peuvent produire des affirmations incorrectes, des références inexistantes ou des détails non justifiés par les sources disponibles.
01 / APPROFONDIR
Les principales formes d’erreurs génératives
Une erreur peut être une invention pure, une citation d’un livre inexistant, la déformation d’un document réel, la fusion de deux sources ou l’oubli d’une condition essentielle. Une affirmation peut aussi être vraie dans un pays et fausse dans un autre, ou vraie à une date mais périmée.
Une synthèse peut être trompeuse sans contenir de phrase manifestement fausse : elle peut supprimer un désaccord scientifique, exagérer un résultat ou présenter une relation statistique comme un mécanisme causal.
- Références : faux titres, auteurs, DOI ou pages.
- Temporalité : normes modifiées, dates approximatives, outils renommés.
- Attribution : parole ou conclusion prêtée au mauvais organisme.
- Portée : généralisation depuis une étude limitée.
- Certitude : formulation catégorique d’un résultat incertain.
02 / APPROFONDIR
Pourquoi les textes peuvent être faux
Un modèle textuel produit des séquences selon des régularités et un contexte ; sa génération n’équivaut pas à une consultation systématique de la littérature. Les documents consultés par des outils intégrés peuvent aussi être incomplets ou mal interprétés.
Des consignes plus précises et un RAG peuvent aider dans certains cas, mais ils ne constituent pas une garantie. La bonne procédure prévoit la possibilité de ne pas conclure lorsqu’aucun document suffisamment fiable n’est disponible.
- Ne pas confondre réponse cohérente et preuve.
- Rechercher une confirmation indépendante pour chaque détail critique.
- Vérifier le passage exact lorsqu’un lien est fourni.
- Autoriser l’abstention et la formulation de l’incertitude.
03 / APPROFONDIR
Protocole de contrôle des contenus
Découper la réponse en énoncés susceptibles d’être vrais ou faux, attribuer à chacun une source primaire et noter si celle-ci le confirme, le contredit ou reste silencieuse. Pour les synthèses scientifiques, noter en outre la méthode, les limites et l’existence d’études divergentes.
L’objectif n’est pas de multiplier les liens : un document faisant autorité sur un sujet peut ne pas soutenir la phrase qu’on lui attribue. En cas de doute, corriger la phrase ou la marquer « non vérifiée ».
- Souligner les faits vérifiables.
- Associer une page ou section précise à chaque fait important.
- Chercher les versions et dates des textes institutionnels.
- Rédiger une correction sobre, limitée aux preuves disponibles.
- Archiver les étapes de vérification sans données sensibles.
04 / APPROFONDIR
Transformer l’erreur en apprentissage
Des erreurs fabriquées par l’enseignant peuvent aider les élèves à apprendre la lecture critique. Le jeu de données doit être préparé de façon à ne pas diffuser une fausse information en dehors de la séance.
Les activités doivent insister sur la justification : dire « c’est faux parce que ChatGPT invente » n’est pas un raisonnement suffisant. L’élève doit préciser quel élément contredit l’affirmation et d’où vient cette contradiction.
- Faire distinguer erreur factuelle, incertitude et interprétation.
- Donner des documents de référence identifiables.
- Discuter l’importance de l’erreur selon le contexte.
- Évaluer la correction argumentée plus que la simple détection.
PASSER DU SAVOIR À LA PRATIQUE
Le laboratoire des références inventées
Public : Collège ou lycée
Objectif : Apprendre à authentifier une référence et à contrôler sa portée.
Déroulement proposé
- Proposer quatre références : deux authentiques, une bibliographie fictive et une citation mal attribuée.
- Relever auteur, titre, éditeur, année et identifiant éventuel.
- Retrouver les originaux dans une base fiable ou un catalogue et comparer les passages.
- Rédiger un compte rendu classant chaque cas : confirmé, faux, non démontré.
Production attendue : Tableau de vérification avec correction et liens originaux.
Critère de réussite : L’élève sait justifier par un document, pas par une impression de vraisemblance.
RECONNAÎTRE LES SIMPLIFICATIONS TROMPEUSES
Idées reçues et corrections
Idée reçue : Une hallucination est toujours facile à repérer.
Ce qu’il faut retenir : Les textes erronés peuvent être très précis et crédibles.
Idée reçue : Un outil connecté à des documents ne peut plus inventer.
Ce qu’il faut retenir : Il peut mal sélectionner ou mal exploiter les passages.
Idée reçue : Une référence bibliographique suffit comme preuve.
Ce qu’il faut retenir : Il faut vérifier l’existence et le passage qui étaye l’énoncé.
OUTIL D’AIDE À LA DÉCISION
Points à vérifier
- Toutes les affirmations importantes sont identifiées.
- Les sources sont authentiques et datées.
- Les passages cités correspondent au sens de l’énoncé.
- Les contradictions et incertitudes sont signalées.
- La version corrigée est relue humainement.
Cette grille est indicative et ne remplace pas les consignes de votre établissement ni les règles applicables.
POUR ALLER PLUS LOIN
Questions fréquentes
Faut-il bannir les réponses générées à l’école ?
Pas nécessairement. Elles peuvent être utilisées comme supports de critique dans un cadre approprié ; pour des faits enseignés, elles doivent être vérifiées.
Une réponse sans source est-elle forcément fausse ?
Non, mais elle est insuffisamment documentée pour une affirmation qui exige une preuve.
Ce dossier contient des synthèses originales fondées sur les références indiquées. Les mises en situation sont des propositions pédagogiques, et non des résultats expérimentaux établis. Les documents institutionnels, scientifiques et juridiques ont des statuts distincts ; vérifier leur version et leur applicabilité avant de prendre une décision. Aucune source n’est censée valider automatiquement toutes les phrases de la fiche.
Signaler une erreur, une nuance manquante ou une source actualisée ↗