Pourquoi une décision autonome doit-elle être explicable à l’opérateur ?
Mise à jour28 août 2026
Lecture1 minute
Réponse rapide
Une décision autonome doit être explicable à l’opérateur pour qu’il puisse comprendre le contexte, juger le risque, corriger le robot et rendre compte de l’événement.
Expliquer ce qui a déclenché l’action
L’explication utile relie observations, règle ou modèle, incertitude, action choisie et alternative écartée, avec des données réellement disponibles.Comprendre un arrêt
Le journal indique obstacle détecté à gauche, visibilité faible, vitesse réduite puis arrêt ; l’opérateur sait quoi vérifier sur place.
Un texte plausible n’est pas une preuve
Une justification produite après coup peut être fausse. Traces horodatées, valeurs brutes et limites du modèle rendent l’explication vérifiable.
Sources et références
- [1] Trustworthy AI monitoring — NIST