Pourquoi conserver la version du modèle dans une explication robotique ?

Savoir quelle version a parlé

Deux versions d’un détecteur peuvent expliquer différemment le même arrêt après une mise à jour.

Tracer une décision

Le journal associe modèle, paramètres, entrée, horodatage et explication affichée afin de reproduire l’analyse.

Une version seule ne suffit pas si les capteurs ou règles ont aussi changé

Modèle, configuration, données, capteurs, horodatage, explication et conservation doivent être documentés.

Sources et références

1. [1] MLflow Model Registry Documentation — MLflow
2. [2] AI Risk Management Framework — NIST

Questions liées

• Pourquoi expliquer la décision prise par un robot ?
• Quelle différence existe entre une explication fidèle et une explication plausible d’une IA robotique ?
• Comment présenter l’incertitude d’une décision robotique à un opérateur ?
• Comment permettre à un usager de contester une décision d’un robot ?

Cette réponse vous a-t-elle été utile ?

OuiNon

Commentaire facultatif