Réponse rapide
On mesure la compréhension des limites en demandant aux utilisateurs de prédire réussite, incertitude, besoin d’aide et comportement du robot dans des scénarios normaux et dégradés, puis en comparant leurs réponses aux capacités réelles.
Présenter les frontières
Cas réussi, ambigu, hors domaine, panne et arrêt sont décrits sans explication supplémentaire. Les utilisateurs indiquent ce qu’ils attendent du robot.
Comparer croyance et réalité
Prédiction correcte, confiance, décision prise, demande d’aide et réaction à l’erreur sont relevées. Une confiance élevée avec erreur critique signale un danger.
Améliorer l’information
Messages, signal, formation et interface sont ajustés, puis retestés. L’objectif est une confiance calibrée, pas une confiance maximale.
Comprendre les limites ne signifie pas les retenir
Un utilisateur peut répondre correctement à une question puis agir comme si le robot était infaillible sous pression. Les essais doivent observer les décisions réelles et leurs conséquences.
Sources et références
- [1] AI Risk Management Framework — NIST