Réponse rapide
Une décision autonome s’explique en reliant objectif, observations, hypothèses, options écartées, contraintes, confiance, action choisie et résultat dans une trace et une interface adaptées à l’opérateur.
Conserver le contexte
État, capteurs, version, règle, permission et timestamp sont associés. Les données privées sont réduites à ce qui permet de comprendre l’événement.
Présenter des raisons utiles
L’opérateur voit pourquoi le robot a attendu, ralenti, refusé ou choisi une route. Mesure, hypothèse et conséquence sont distinguées.
Permettre le retour
Confirmation, annulation, reprise et signalement sont disponibles selon les droits. Une correction crée une trace plutôt qu’un historique silencieusement réécrit.
Une explication plausible ne prouve pas que la cause est correcte
La décision doit être confrontée aux mesures et au comportement réel. Une justification générée après coup ne remplace pas les traces de l’instant.
Sources et références
- [1] Robotics and Autonomous Systems — NIST