ENCYCLOPÉDIE · ÉTHIQUE & RESPONSABILITÉ
Supervision et décision humaine
Le professionnel garde une responsabilité explicite.
La supervision humaine signifie qu’une personne compétente dispose d’informations et d’un pouvoir réel pour examiner, corriger, suspendre ou contester une proposition issue d’un système d’IA. Ajouter un bouton « valider » ne suffit pas à créer ce pouvoir.
Dans l’enseignement, les décisions pouvant affecter l’orientation, l’évaluation, la discipline ou l’accès à des ressources exigent une attention particulière à la justification et à l’équité.
Principe consistant à définir les décisions qui exigent un contrôle humain significatif, une possibilité de contestation et une compréhension des limites du système.
01 / APPROFONDIR
Assister, recommander ou décider : trois niveaux à distinguer
Un générateur peut aider à préparer un projet de corrigé ; un système de recommandation peut suggérer des exercices ; un dispositif peut enfin orienter automatiquement une décision. La portée et les risques changent fortement d’un niveau à l’autre.
Plus la conséquence est importante et difficile à inverser, plus l’exigence de contrôle, de documentation et de possibilité de recours est forte. Le rôle final de l’enseignant ou de l’autorité compétente ne doit pas être ambigu.
- Aide à la rédaction : validation éditoriale requise.
- Recommandation : justification et choix humain possibles.
- Décision affectant un élève : cadre strict, examen individuel et recours.
- Retrait du système : procédure disponible en cas d’erreurs.
02 / APPROFONDIR
Les conditions d’un contrôle réellement significatif
Un contrôle utile suppose une formation adéquate, un accès aux données et critères pertinents, suffisamment de temps, la capacité de contredire la sortie et l’absence de pression systématique à accepter les recommandations.
L’automatisation peut produire un « biais d’automatisation » : une personne accepte une réponse parce qu’elle vient d’un système. Réduire ce risque exige une culture du questionnement et des exemples de décisions corrigées.
- Identifier la personne responsable.
- Comprendre la portée et les limites du système.
- Pouvoir documenter un désaccord.
- Avoir le pouvoir de ne pas utiliser le résultat.
- Informer les personnes affectées des modalités de correction.
03 / APPROFONDIR
Exemples concrets en milieu scolaire
Pour une grille de correction, le modèle propose ; l’enseignant vérifie pertinence, pondération et impartialité. Pour une recommandation de soutien, le modèle peut attirer l’attention sur une piste, jamais définir seul le niveau ou l’avenir d’un élève.
Les données scolaires sont sensibles. Tout projet d’analyse systématique de dossiers doit être évalué par les responsables compétents et les autorités applicables, avant son adoption.
- Aucune note définitive fondée uniquement sur une sortie d’IA.
- Pas de sanctions reposant sur un score de détecteur de textes.
- Traçabilité des corrections et recours.
- Alternative pédagogique possible en cas de refus.
04 / APPROFONDIR
Responsabilité et traçabilité
Les fournisseurs, déployeurs et utilisateurs n’ont pas les mêmes responsabilités. Un établissement doit connaître le rôle de chaque acteur, les mécanismes d’alerte et les modalités de traitement des incidents.
La publication d’un modèle ou d’un document de politique ne remplace pas l’examen concret des décisions prises dans la classe. Des revues périodiques peuvent vérifier l’efficacité des contrôles annoncés.
- Définir la chaîne de responsabilité.
- Consigner les erreurs significatives et corrections.
- Évaluer la nécessité du dispositif.
- Prévoir l’arrêt ou l’adaptation du système.
PASSER DU SAVOIR À LA PRATIQUE
Qui décide vraiment ?
Public : Formation des enseignants et direction
Objectif : Évaluer la réalité d’un contrôle humain.
Déroulement proposé
- Présenter un scénario de notation automatique à partir de critères opaques.
- Identifier qui reçoit la sortie, sur quelles preuves et avec quel pouvoir de refus.
- Concevoir une procédure de contrôle : examen, correction, information, recours.
- Comparer le dispositif initial et la version corrigée.
Production attendue : Schéma de responsabilité et procédure de recours.
Critère de réussite : Le contrôle est vérifiable et la personne responsable peut effectivement modifier la décision.
RECONNAÎTRE LES SIMPLIFICATIONS TROMPEUSES
Idées reçues et corrections
Idée reçue : Un humain qui clique sur valider assure la supervision.
Ce qu’il faut retenir : Il faut une compréhension suffisante, du temps et une possibilité réelle de désaccord.
Idée reçue : Un système de recommandation n’a pas d’effet sur les élèves.
Ce qu’il faut retenir : Ses recommandations peuvent orienter durablement l’accès à des activités ou opportunités.
Idée reçue : L’enseignant perd sa responsabilité dès qu’un outil produit une réponse.
Ce qu’il faut retenir : L’usage de l’outil ne dispense pas des responsabilités professionnelles et juridiques applicables.
OUTIL D’AIDE À LA DÉCISION
Points à vérifier
- Rôle humain identifié.
- Information et temps suffisants pour vérifier.
- Correction ou refus réellement possibles.
- Recours des personnes prévu.
- Incidents tracés et analysés.
Cette grille est indicative et ne remplace pas les consignes de votre établissement ni les règles applicables.
POUR ALLER PLUS LOIN
Questions fréquentes
Pourquoi est-ce important dans l’évaluation ?
Une note ou une orientation peut avoir des conséquences durables ; la décision doit être argumentable et corrigeable.
Peut-on automatiser les tâches répétitives ?
Certaines tâches peu risquées peuvent être assistées ou automatisées dans un cadre approprié ; cela ne justifie pas la délégation de toute décision.
Ce dossier contient des synthèses originales fondées sur les références indiquées. Les mises en situation sont des propositions pédagogiques, et non des résultats expérimentaux établis. Les documents institutionnels, scientifiques et juridiques ont des statuts distincts ; vérifier leur version et leur applicabilité avant de prendre une décision. Aucune source n’est censée valider automatiquement toutes les phrases de la fiche.
Signaler une erreur, une nuance manquante ou une source actualisée ↗