Réponse rapide
Pour mesurer une confiance excessive, on observe si l’utilisateur vérifie moins, intervient trop tard ou accepte des décisions erronées, puis on compare ces comportements à la performance et aux avertissements réellement fournis.
Repérer la délégation aveugle
Absence de contrôle, poursuite malgré alarme, transfert automatique et hésitation à reprendre la main sont suivis. Les mesures distinguent confiance, fatigue, formation et impossibilité pratique d’agir.
Relier usage et qualité
Confiance déclarée est comparée aux erreurs, incertitudes, limites affichées et résultats réels. Une confiance élevée n’est problématique que si elle dépasse la preuve disponible.
Réduire le surcroît de confiance
Explication, pause obligatoire, confirmation adaptée, formation ou signal différent peuvent aider. Les interventions restent proportionnées pour ne pas faire ignorer les alertes par surcharge.
Sources et références
- [1] Robotics and Autonomous Systems — NIST