ENCYCLOPÉDIE · FONDEMENTS & MODÈLES

Grands modèles de langage

Des modèles statistiques de séquences linguistiques.

Revue documentaire : 14 novembre 20264 chapitres approfondis6 sources liées4 connexions
EN BREF · COMPRENDRE AVANT D’UTILISER

Les grands modèles de langage (LLM) traitent et produisent des séquences de tokens à partir de régularités apprises sur de vastes corpus. De nombreux modèles contemporains reposent sur des architectures Transformer, dont une contribution fondatrice a été publiée en 2017.

Leur aptitude à expliquer, reformuler et dialoguer ne prouve pas que chaque phrase est factuellement vérifiée. L’enseignant doit distinguer la qualité linguistique, la pertinence pédagogique et la vérité des affirmations.

Définition essentielle

Modèles entraînés sur de grands corpus pour traiter et générer du langage ; les architectures de type Transformer sont centrales pour beaucoup de modèles contemporains.

01 / APPROFONDIR

Tokens, contexte et prédiction

Le texte est découpé en unités appelées tokens, qui peuvent correspondre à des mots, fragments de mots ou caractères selon le système. Le modèle calcule des distributions de probabilité sur les unités suivantes en fonction du contexte disponible.

La fenêtre de contexte limite la quantité d’information directement disponible dans un échange. Une longue conversation peut conduire à l’oubli ou à la déformation d’éléments antérieurs ; la capacité annoncée ne garantit pas la prise en compte correcte de chaque détail.

  • Tokenisation et orthographe ne correspondent pas toujours mot à mot.
  • Une sortie est construite au fil de la génération.
  • Le modèle ne dispose pas nécessairement d’un accès en temps réel au Web.
  • La longueur du contexte n’est pas une mesure de sa fiabilité.
Références pour approfondir

02 / APPROFONDIR

Ce que fait un Transformer

Le mécanisme d’attention permet au modèle de pondérer différentes positions d’une séquence lorsqu’il traite une information. En 2017, « Attention Is All You Need » a décrit une architecture utilisant l’attention plutôt que des récurrences ou convolutions pour la tâche étudiée.

Les modèles actuels comportent souvent des adaptations importantes : préentraînement auto-supervisé, ajustements d’instructions, préférences humaines ou outils externes. Il ne serait donc pas exact de présenter tous les assistants comme des copies identiques du modèle de 2017.

  • L’attention établit des dépendances calculées entre positions.
  • L’entraînement règle des paramètres sur de grands ensembles de données.
  • Des mécanismes d’alignement peuvent guider le comportement sans supprimer les erreurs.
  • Les outils de recherche externes changent les informations disponibles au moment de la réponse.

03 / APPROFONDIR

Pourquoi un modèle paraît sûr de lui

Un style affirmatif et une phrase grammaticalement correcte peuvent résulter de régularités de rédaction observées lors de l’apprentissage ; ils ne constituent pas un signal fiable de certitude épistémique.

Sur des tâches sensibles, il faut rechercher des preuves dans des documents indépendants du modèle, particulièrement pour une loi, une date, une citation ou un résultat scientifique. L’absence de preuve doit pouvoir conduire à « information non vérifiée ».

  • Distinguer ignorance, erreur, imprécision et contenu fictif.
  • Demander une justification vérifiable plutôt qu’une simple réponse plus longue.
  • Fractionner une tâche complexe et valider chaque étape.
  • Conserver une trace du texte final corrigé par l’humain.
Références pour approfondir

04 / APPROFONDIR

Applications linguistiques réalistes

Des modèles de langage peuvent aider à reformuler une consigne, proposer plusieurs plans, expliciter le vocabulaire d’un texte ou préparer des supports de différenciation. Les sorties doivent néanmoins être examinées pour l’âge, le niveau, les programmes et les biais culturels.

L’usage en classe doit servir une compétence précise. Demander une dissertation complète sans travail personnel observable peut au contraire masquer les difficultés et diminuer la valeur de l’évaluation.

  • Proposer des alternatives de formulation, pas des verdicts sur les élèves.
  • Comparer une production avec un texte authentique.
  • Évaluer la correction après une discussion argumentée.
  • Former les élèves à signaler une assistance reçue.
Références pour approfondir

PASSER DU SAVOIR À LA PRATIQUE

La phrase plausible n’est pas une preuve

Public : Lycée, littérature ou sciences

Objectif : Séparer compétence de rédaction et exactitude.

Déroulement proposé

  1. Soumettre deux extraits : un texte correct et un texte inventant une attribution d’auteur.
  2. Repérer les indices stylistiques qui rendent les deux extraits crédibles.
  3. Rechercher dans une source vérifiable l’auteur, l’œuvre ou le fait mentionné.
  4. Formuler un avis argumenté sur ce que le modèle a bien fait et sur ce qu’il a fallu contrôler.

Production attendue : Fiche de vérification avec preuves citées et reformulation finale.

Critère de réussite : L’élève distingue qualités du langage et qualité documentaire.

Ouvrir les outils et ressources SCOLAR·IA associés

RECONNAÎTRE LES SIMPLIFICATIONS TROMPEUSES

Idées reçues et corrections

Idée reçue : Les tokens sont toujours des mots entiers.

Ce qu’il faut retenir : Le découpage varie selon le tokenizer et la langue.

Idée reçue : Le Transformer est une base de données de faits.

Ce qu’il faut retenir : C’est une architecture de modélisation qui utilise notamment l’attention ; l’entraînement n’équivaut pas à un index bibliographique fiable.

Idée reçue : Le modèle a écrit une réponse cohérente, donc il a raisonné correctement.

Ce qu’il faut retenir : La cohérence textuelle ne suffit pas à valider les étapes ou les conclusions.

OUTIL D’AIDE À LA DÉCISION

Points à vérifier

  • Version du modèle et capacités pertinentes identifiées.
  • Informations sensibles exclues.
  • Références factuelles contrôlées.
  • Sorties adaptées au niveau et à la langue.
  • Objectif d’apprentissage préservé.

Cette grille est indicative et ne remplace pas les consignes de votre établissement ni les règles applicables.

POUR ALLER PLUS LOIN

Questions fréquentes

Qu’est-ce que la fenêtre de contexte ?

C’est la quantité maximale de tokens qu’un modèle peut généralement prendre en compte dans une interaction ; ce n’est pas une garantie de mémoire ou d’exactitude.

Pourquoi les réponses changent-elles ?

Les instructions, le contexte, les paramètres, la version du modèle et parfois un échantillonnage probabiliste peuvent produire des variations.

Traçabilité éditoriale et limites

Ce dossier contient des synthèses originales fondées sur les références indiquées. Les mises en situation sont des propositions pédagogiques, et non des résultats expérimentaux établis. Les documents institutionnels, scientifiques et juridiques ont des statuts distincts ; vérifier leur version et leur applicabilité avant de prendre une décision. Aucune source n’est censée valider automatiquement toutes les phrases de la fiche.

Signaler une erreur, une nuance manquante ou une source actualisée ↗