Comment évaluer l’explicabilité d’une décision autonome de robot ?
Mise à jour3 septembre 2026
Lecture1 minute
Réponse rapide
Évaluer l’explicabilité consiste à vérifier si une personne peut comprendre pourquoi le robot a choisi une action, avec des éléments fiables et adaptés à la situation.
Expliquer une décision concrète
Une bonne explication relie les observations, la règle ou le modèle utilisé et l’action choisie. Elle ne se contente pas d’afficher un score sans dire ce qu’il a changé.
Pourquoi le robot a-t-il attendu ?
Le journal peut indiquer qu’un passage était occupé, que la confiance de détection était trop faible et que le seuil d’arrêt a été atteint. L’opérateur comprend alors quoi vérifier.Une explication peut être fausse
Un texte généré après coup ne prouve pas la cause réelle. Les capteurs, versions et événements qui fondent l’explication doivent être conservés et comparés aux essais.
Sources et références
- [1] AI Risk Management Framework — NIST