Réponse rapide
Une explication utile indique ce que le réseau a observé, ce qu’il a produit, avec quelle incertitude, dans quelle version et avec quelle conséquence pour la mission. Elle doit donner à l’opérateur un moyen de vérifier, corriger, reprendre ou arrêter. Une visualisation séduisante ne doit pas transformer une corrélation en cause certaine.
Relier sortie et observation
L’interface affiche zone ou objet détecté, score calibré, mesure utilisée, horodatage et seuil qui a déclenché la décision. Elle signale si l’épisode ressemble au domaine validé ou s’en écarte. Les éléments montrés sont reliés à une action concrète : nouvelle vue, contrôle manuel, arrêt ou maintenance.
Donner le bon niveau de détail
Le terrain a besoin d’un impact et d’une prochaine étape ; l’ingénieur peut consulter traces, version, données et latence. Les messages distinguent fait observé, hypothèse et recommandation, sans jargon ni certitude artificielle. Une correction humaine est enregistrée comme retour, pas comme vérité automatique.
Dire ce que le modèle ignore
Carte d’attention, exemple similaire ou texte généré n’expliquent pas nécessairement la causalité. Lorsque l’erreur peut provoquer collision, dommage ou traitement injuste, la procédure impose une vérification indépendante et une décision sûre. L’incertitude affichée doit rester compatible avec ce que le modèle sait réellement fournir.
Sources et références
- [1] Robotics and Autonomous Systems — NIST