Réponse rapide
Une décision robotique est explicable lorsqu’elle relie objectif, observations, hypothèses, options écartées, contraintes, confiance, action choisie et résultat à des traces compréhensibles.
Conserver le contexte utile
État, capteurs, version, règles et horodatage sont liés à la décision. Les données privées sont réduites à ce qui est nécessaire pour l’analyse.
Présenter les raisons opérationnelles
L’opérateur voit pourquoi le robot a attendu, ralenti, refusé ou choisi une route. L’interface distingue mesure, hypothèse et conséquence prévue.
Permettre le retour
Confirmation, annulation et signalement sont enregistrés selon les droits. Une correction ne doit pas disparaître dans une modification silencieuse de l’historique.
Sources et références
- [1] Robotics and Autonomous Systems — NIST
- [2] Artificial intelligence and robotics — NIST