Réponse rapide
Une décision autonome doit être explicable à l’opérateur pour qu’il comprenne état, données utilisées, option choisie, incertitude, limite et intervention possible, surtout lors d’un arrêt ou d’un comportement inattendu. L’explication doit refléter les événements réels et arriver à temps pour agir. Elle complète les traces techniques sans prétendre révéler une cause absente.
Présenter une raison utile
Interface indique objectif, état, observation déterminante, action, confiance, échéance et repli. Termes, couleurs, sons et niveaux de détail sont adaptés au rôle. L’opérateur peut demander contexte ou reprendre la main sans fouiller le modèle.
Relier explication et journal
Version de politique, capteurs, paramètres, permissions, timestamp et résultat sont conservés pour vérifier le message. Une explication reconstruite est distinguée d’un événement effectivement enregistré. Les données sensibles sont minimisées.
Ne pas afficher une justification inventée après coup
Un texte plausible ne prouve pas qu’il a guidé la décision. Les causes, incertitudes et omissions sont signalées. En cas de doute, l’opérateur reçoit l’état sûr et la possibilité d’intervenir.
Sources et références
- [1] Trustworthy autonomous systems — NIST