Comment présenter l’incertitude d’une décision robotique à un opérateur ?

Dire quand le robot doute

Au lieu d’afficher 0,62, l’interface indique « personne probablement détectée; ralentissement recommandé ».

Relier confiance et action

Le système montre données manquantes, seuils et possibilité d’arrêt ou de confirmation humaine.

Un pourcentage n’est pas une probabilité calibrée dans tous les contextes

Mesure, calibration, seuil, conséquence, signal, action et limites doivent être documentés.

Sources et références

1. [1] Metrics and scoring: quantifying the quality of predictions — scikit-learn
2. [2] AI Risk Management Framework — NIST

Questions liées

• Pourquoi expliquer la décision prise par un robot ?
• Quelle différence existe entre une explication fidèle et une explication plausible d’une IA robotique ?
• Pourquoi conserver la version du modèle dans une explication robotique ?
• Comment permettre à un usager de contester une décision d’un robot ?

Cette réponse vous a-t-elle été utile ?

OuiNon

Commentaire facultatif