Réponse rapide
Pour éviter une confiance excessive, le robot annonce ses limites, affiche incertitude et provenance, signale les erreurs, évite l’anthropomorphisme trompeur et laisse une vérification ou une reprise humaine.
Rendre la capacité lisible
Ce que le robot sait, ignore, mesure et peut faire est expliqué dans le contexte. Une apparence ou voix agréable ne remplace pas une preuve.
Rester cohérent
Le robot n’affiche pas une assurance supérieure à sa confiance et demande confirmation pour les actions critiques. Les signaux de réussite correspondent au résultat réel.
Préserver le recours
Arrêt, contestation, aide et alternative humaine sont accessibles. Les erreurs et révisions restent visibles plutôt que masquées.
La confiance doit rester calibrée
Un robot convaincant peut être moins fiable qu’il n’en a l’air. Les limites et incertitudes doivent rester visibles avant toute décision importante.
Sources et références
- [1] AI Risk Management Framework — NIST