Réponse rapide
Mesurer la confiance envers un robot combine ce que les usagers déclarent et ce qu’ils font réellement. On observe compréhension des limites, recours à la vérification, acceptation d’une recommandation, hésitations et signalements, dans plusieurs scénarios. Une confiance saine reste ajustée à la fiabilité plutôt qu’à l’apparence ou à l’assurance du robot.
Relier confiance et performance connue
Les participants estiment capacité et fiabilité après des tâches dont le résultat est mesuré. On compare confiance avant et après une erreur, une explication et une correction. Excès de confiance et défiance systématique sont suivis séparément.
Observer la confiance calibrée
Le robot expose incertitude, source et possibilité de vérifier. Les essais mesurent quand une personne accepte, demande confirmation ou reprend la main. Les interfaces sont comparées sans modifier la qualité réelle du service.
Ne pas maximiser l’adhésion à tout prix
Un ton sympathique peut pousser à suivre une mauvaise recommandation. La réussite se juge à une décision appropriée, y compris le refus ou la vérification. Les défauts et conditions d’échec restent visibles.
Sources et références
- [1] OECD AI Principles — OECD
- [2] Artificial Intelligence Risk Management Framework (AI RMF 1.0) — NIST