Réponse rapide
Pour rendre un plan symbolique vérifiable par un humain, on expose objectif, hypothèses, état, étapes, préconditions, effets, incertitudes, ressources, alternatives et conditions d’arrêt.
Un plan lisible doit aussi montrer ses limites
Hypothèses, incertitudes, autorisations, alternatives et conditions d’arrêt sont nécessaires pour qu’un humain puisse réellement le contrôler.
Rendre le raisonnement lisible
Chaque étape explique ce qu’elle suppose, modifie et attend au lieu de présenter seulement une suite opaque d’actions.
Montrer la confiance
Observation inconnue, coût, risque, version du modèle et conflit de priorités restent visibles pour la supervision.
Permettre la correction
L’humain peut autoriser, modifier, refuser ou interrompre une étape et voir comment le plan sera révisé.
Sources et références
- [1] Robotics and Autonomous Systems — NIST