Réponse rapide
La confiance dans un robot est l’attente qu’il agira de façon compétente, prévisible et sûre dans un contexte donné, avec des limites compréhensibles. Elle doit être proportionnée aux preuves, pas seulement à l’apparence ou au discours.
Définir le contexte
Performance, domaine, supervision, données et conséquences changent selon tâche, lieu et utilisateur. Une confiance justifiée dans un parcours connu ne s’étend pas automatiquement à une scène nouvelle.
Rendre le comportement prévisible
Signaux, modes, limites, erreurs et reprises sont cohérents. Robot lent ou prudent peut inspirer plus de confiance qu’un système performant mais imprévisible.
Comparer attente et preuve
Compréhension, vérification, intervention et erreurs révèlent confiance adaptée ou excessive. Les résultats sont analysés avec qualité réelle et avertissements affichés.
Sources et références
- [1] Robotics and Autonomous Systems — NIST