Quelle différence existe entre une explication fidèle et une explication plausible d’une IA robotique ?

Ne pas confondre récit et cause

Dire qu’un robot s’est arrêté à cause d’un obstacle visible est plausible; vérifier que ce signal a vraiment déclenché l’arrêt est fidèle.

Tester l’explication

L’équipe compare explication et calcul, provoque des contre-exemples et mesure si les utilisateurs sont induits en erreur.

Une carte colorée jolie peut ne rien dire du raisonnement

Cause, méthode, fidélité, contre-exemples, public et validation doivent être documentés.

Sources et références

1. [1] AI Risk Management Framework — NIST
2. [2] AI Principles — OECD

Questions liées

• Pourquoi expliquer la décision prise par un robot ?
• Comment présenter l’incertitude d’une décision robotique à un opérateur ?
• Pourquoi conserver la version du modèle dans une explication robotique ?
• Comment permettre à un usager de contester une décision d’un robot ?

Cette réponse vous a-t-elle été utile ?

OuiNon

Commentaire facultatif