Réponse rapide
On compare confiance déclarée et confiance justifiée en confrontant score de confiance, prédictions et décisions des utilisateurs aux performances, incertitudes et erreurs réelles du robot dans des scénarios variés.
Mesurer ce que dit l’utilisateur
Questionnaires, pari de réussite, volonté de déléguer et demande d’aide indiquent confiance ressentie. Les réponses sont recueillies avant et après action.
Calculer ce que le système permet
Exactitude, calibration, couverture, limites et risque par scénario définissent le niveau réellement défendable. Une bonne moyenne ne suffit pas pour une tâche critique.
Corriger la calibration
Si confiance dépasse preuve, avertissement et formation réduisent l’exposition ; si elle est trop basse, clarté et démonstration peuvent aider sans promettre l’infaillibilité.
La confiance déclarée peut masquer une mauvaise calibration
Une personne très confiante peut ignorer un cas rare ou une limite non visible. La comparaison doit inclure erreurs, scénarios dégradés et décision effectivement prise.
Sources et références
- [1] AI Risk Management Framework — NIST