ENCYCLOPÉDIE · ÉTHIQUE & RESPONSABILITÉ
Éthique de l’IA
Évaluer les effets sur les personnes et la société.
L’éthique de l’intelligence artificielle examine ce qu’il est légitime, juste et souhaitable de concevoir ou d’utiliser, en tenant compte des droits, des effets et des responsabilités. La question « le système fonctionne-t-il ? » doit être complétée par « au bénéfice de qui, à quel coût et sous quel contrôle ? ».
La recommandation UNESCO adoptée le 23 novembre 2021 et les principes de l’OCDE mettent en avant une approche centrée sur l’humain, la dignité, l’équité, la responsabilité et la transparence. Ce sont des cadres d’orientation dont le statut doit être distingué des obligations juridiques locales.
Ensemble de principes et de pratiques pour examiner équité, droits fondamentaux, sécurité, gouvernance et conséquences sociales des systèmes d’IA.
01 / APPROFONDIR
Les valeurs à mettre en discussion
L’éthique ne se résume pas à ne pas divulguer de données. Elle concerne aussi l’autonomie des personnes, la prévention des dommages, l’inclusion, l’explicabilité, les droits fondamentaux, les effets environnementaux et le partage des bénéfices.
Deux valeurs peuvent entrer en tension : une personnalisation plus fine peut demander plus de données ; un gain de rapidité peut réduire le temps d’explication ou de recours. L’arbitrage doit être explicité et discuté.
- Respecter dignité, autonomie et droits.
- Prévenir dommages et discriminations.
- Assurer une supervision réellement opérante.
- Documenter les bénéfices et les coûts.
- Faire participer les personnes concernées lorsqu’il est pertinent.
02 / APPROFONDIR
Analyser des impacts plutôt que des intentions
Un outil peut avoir été conçu avec une intention positive tout en produisant des résultats inéquitables. Une évaluation éthique examine qui sera touché, dans quelles conditions, quels dommages sont possibles et comment ils seront signalés ou réparés.
Les élèves, familles, équipes éducatives et personnels de soutien peuvent être concernés différemment. Les personnes les plus vulnérables doivent recevoir une attention particulière dans la conception et le choix des usages.
- Lister les groupes concernés.
- Décrire les bénéfices attendus et les preuves disponibles.
- Identifier les risques possibles pour chaque groupe.
- Prévoir des alternatives et un mécanisme de correction.
- Revoir la décision après observation réelle.
03 / APPROFONDIR
Enjeux environnementaux et sociaux
Entraîner et exploiter des systèmes d’IA mobilise de l’électricité, de l’eau et du matériel, dans des proportions variant selon les infrastructures et les tâches. Il est rarement possible d’attribuer un chiffre universel à une requête individuelle.
L’éducation peut promouvoir une démarche de proportionnalité : choisir la solution la moins coûteuse qui satisfait le besoin, valoriser les supports réutilisables, et enseigner les effets sociaux du travail et de la production des technologies.
- Questionner la nécessité de chaque usage.
- Comparer outil génératif et solution non générative.
- Éviter de multiplier les générations sans objectif.
- Examiner accessibilité, équipement et fracture numérique.
04 / APPROFONDIR
Une décision éthique est une démarche collective
Une charte ne suffit pas si personne n’assure la supervision, la formation, l’écoute des incidents et la correction. La responsabilité doit être attribuée aux acteurs selon leur rôle et le droit applicable.
Distinguer consultation éthique et conformité juridique : une pratique peut répondre à une recommandation sans être conforme à une obligation locale, ou inversement être légalement permise sans être pertinente pédagogiquement.
- Définir les rôles du fournisseur, de l’établissement et de l’enseignant.
- Consulter les parties affectées et responsables compétents.
- Prévoir des revues périodiques.
- Documenter les refus ou abandons d’usages à risque.
PASSER DU SAVOIR À LA PRATIQUE
Un débat éthique argumenté
Public : Lycée, philosophie, sciences ou citoyenneté
Objectif : Identifier des valeurs en tension et proposer une décision justifiée.
Déroulement proposé
- Présenter le projet fictif d’un assistant analysant tous les devoirs d’une classe.
- Répartir les rôles : élèves, enseignants, familles, direction, responsable des données.
- Lister bénéfices, risques, droits et preuves manquantes.
- Proposer une décision motivée : autorisation encadrée, modification ou refus.
Production attendue : Avis éthique explicitant les critères et les mesures de prévention.
Critère de réussite : Les arguments distinguent faisabilité, valeur éducative, légalité et conséquence sur les personnes.
RECONNAÎTRE LES SIMPLIFICATIONS TROMPEUSES
Idées reçues et corrections
Idée reçue : Une IA éthique est une IA qui ne fait jamais d’erreur.
Ce qu’il faut retenir : L’éthique concerne aussi droits, gouvernance, impacts, transparence et recours.
Idée reçue : Une solution efficace est forcément souhaitable.
Ce qu’il faut retenir : Il faut aussi examiner proportionnalité, autonomie et dommages potentiels.
Idée reçue : Un guide international équivaut à une obligation légale universelle.
Ce qu’il faut retenir : Son statut et sa portée doivent être distingués de la loi nationale.
OUTIL D’AIDE À LA DÉCISION
Points à vérifier
- Personnes concernées identifiées.
- Bénéfices et risques décrits sans promesses excessives.
- Mesures d’équité et de sécurité prévues.
- Recours humain effectif.
- Évaluation révisable et documentée.
Cette grille est indicative et ne remplace pas les consignes de votre établissement ni les règles applicables.
POUR ALLER PLUS LOIN
Questions fréquentes
Éthique et conformité sont-elles identiques ?
Non. La conformité dépend de règles juridiques applicables ; l’éthique examine aussi la légitimité, l’équité et les effets.
Peut-on refuser un outil pourtant performant ?
Oui, si le bénéfice ne justifie pas les risques, le coût ou les atteintes possibles aux personnes.
Ce dossier contient des synthèses originales fondées sur les références indiquées. Les mises en situation sont des propositions pédagogiques, et non des résultats expérimentaux établis. Les documents institutionnels, scientifiques et juridiques ont des statuts distincts ; vérifier leur version et leur applicabilité avant de prendre une décision. Aucune source n’est censée valider automatiquement toutes les phrases de la fiche.
Signaler une erreur, une nuance manquante ou une source actualisée ↗