Réponse rapide
L’explicabilité d’une décision autonome s’évalue par fidélité aux causes réelles, clarté pour le destinataire, traçabilité, stabilité et capacité à révéler une erreur ou une limite.
Avertissement de sécurité
Une explication convaincante peut être infidèle à la cause réelle. Comparez-la aux traces et aux contrefactuels avant de l’utiliser pour la sécurité.
Tracer
Enregistrez observations, versions, règles, options, confiance et événements avec horodatage et protection des données. Les traces doivent permettre de rejouer le cas.
Expliquer
Présentez facteurs déterminants, incertitudes et alternatives écartées au niveau adapté à l’utilisateur. Distinguez explication du modèle et justification de sécurité.
Éprouver
Comparez explication et décision sur cas normaux, limites et contrefactuels et faites relire par les opérateurs concernés. Une explication plausible mais fausse est un défaut.
Sources et références
- [1] AI Risk Management Framework — NIST