Pourquoi expliquer la décision prise par un robot ?

Rendre l’action intelligible

Le système indique qu’il a ralenti pour une personne détectée, avec distance estimée et règle appliquée.

Donner une explication utile

L’interface affiche facteurs pertinents, confiance, limites et possibilité de demander le journal détaillé.

Une explication simple peut omettre la vraie cause

Décision, facteurs, version, confiance, limites, public et recours doivent être documentés.

Sources et références

1. [1] AI Principles — OECD
2. [2] AI Risk Management Framework — NIST

Questions liées

• Quelle différence existe entre une explication fidèle et une explication plausible d’une IA robotique ?
• Comment présenter l’incertitude d’une décision robotique à un opérateur ?
• Pourquoi conserver la version du modèle dans une explication robotique ?
• Comment permettre à un usager de contester une décision d’un robot ?

Cette réponse vous a-t-elle été utile ?

OuiNon

Commentaire facultatif