Comment permettre à un usager de contester une décision d’un robot ?

Prévoir un vrai recours

Un visiteur peut signaler qu’un robot l’a refusé à tort et demander une vérification par un agent.

Traiter une contestation

Le système conserve le contexte utile, suspend l’effet si nécessaire et informe l’usager du résultat et de la correction.

Un bouton sans accès aux faits ni réponse humaine est symbolique

Décision, motif, identité, canal, délai, suspension, réponse et conservation doivent être documentés.

Sources et références

1. [1] AI Principles — OECD
2. [2] AI Risk Management Framework — NIST

Questions liées

• Pourquoi expliquer la décision prise par un robot ?
• Quelle différence existe entre une explication fidèle et une explication plausible d’une IA robotique ?
• Comment présenter l’incertitude d’une décision robotique à un opérateur ?
• Pourquoi conserver la version du modèle dans une explication robotique ?

Cette réponse vous a-t-elle été utile ?

OuiNon

Commentaire facultatif