Réponse rapide
Une personne peut faire confiance à un robot parce qu’il est fiable, parce qu’elle comprend ses limites ou simplement parce que sa voix et son apparence la rassurent. L’évaluation doit distinguer ces situations en observant performance, erreurs, demandes de vérification et reprise en main face à l’incertitude. Une bonne conception rend les limites visibles au lieu de chercher une adhésion automatique.
Comparer confiance calibrée et confiance de façade
On présente des tâches réussies, des ambiguïtés, une panne et une sortie du domaine prévu, puis on observe si l’utilisateur accepte, vérifie ou reprend la main au bon moment. Les résultats portent sur compréhension, décisions et sécurité, pas sur la docilité ou le temps passé à féliciter le système. La confiance est calibrée lorsque les réactions suivent la fiabilité réelle.
Expliquer ce que le robot va faire et ce qu’il ignore
L’interface expose action prochaine, état, raison d’un refus, niveau d’incertitude et manière d’annuler. Le vocabulaire et la quantité d’explication sont testés avec publics non experts, personnes âgées et enfants accompagnés, sans leur faire porter la responsabilité d’une panne. La supervision et l’arrêt restent accessibles même lorsque le robot répond avec assurance.
Ne pas fabriquer une relation de confiance par anthropomorphisme
Une voix chaleureuse ne signifie ni compréhension complète, ni sentiment, ni responsabilité humaine. Si le design conduit à ignorer une alarme ou à divulguer une donnée sensible, les signaux et le rôle du robot doivent être simplifiés. L’objectif est une confiance proportionnée à la tâche, pas une obéissance affective.
Sources et références
- [1] Robotics and Autonomous Systems — NIST