Comment permettre à un utilisateur de contester une décision de robot ?

Réponse rapide

Pour contester une décision, l’utilisateur doit pouvoir demander motif et données utiles, signaler une erreur, suspendre ou corriger l’action, obtenir une revue humaine et suivre le résultat sans perdre l’accès au service.

Offrir un recours clair

Bouton, dialogue, formulaire ou opérateur permettent de contester. Délai, statut, responsable et prochaine étape sont indiqués.

Rendre la décision examinable

Version, contexte, règles, sources, confiance et événements sont conservés avec protection des données. L’explication reste compréhensible sans exposer un secret inutile.

Protéger pendant l’examen

Arrêt, alternative, maintien ou correction sont choisis selon le risque. La contestation n’est pas punie et ses résultats alimentent l’amélioration.

Un recours sans effet n’est pas un recours

La contestation doit pouvoir interrompre ou corriger la décision dans un délai utile. Une explication donnée après une conséquence irréversible ne suffit pas.

Sources et références

  1. [1] Artificial Intelligence Risk Management Framework (AI RMF 1.0) — NIST

Cette réponse vous a-t-elle été utile ?