Réponse rapide
Auditer les décisions d’un agent autonome consiste à conserver objectifs, observations, versions de modèle, contraintes, options considérées, action choisie, résultat et intervention humaine sur une chronologie fiable. L’audit vérifie aussi que l’agent respectait son périmètre et qu’un repli était disponible. Les traces sont protégées, lisibles et proportionnées à la mission.
Tracer sans exposer inutilement
Identifiant de mission, état, source des données, politique, version et autorité sont associés à chaque décision. Les horloges sont synchronisées et les données sensibles minimisées. Intégrité, accès et durée de conservation sont définis avant déploiement.
Comparer décision et conséquence
On mesure respect des contraintes, délai, confiance, erreur, replanification et résultat physique. Les cas d’échec et les décisions non prises sont inclus. Un auditeur peut reproduire le contexte sans confondre une explication reconstruite avec la cause réelle.
Ne pas réduire l’audit à un journal de texte
Une phrase générée après coup ne prouve pas quelles données ont conduit à l’action. Les événements bas niveau, permissions et changements de configuration sont conservés. Une trace manquante interdit de conclure plutôt que d’être complétée.
Sources et références
- [1] Trustworthy autonomous systems — NIST