Pourquoi documenter les limites d’un robot avant son usage ?
Mise à jour28 août 2026
Lecture1 minute
Réponse rapide
Documenter les limites d’un robot avant son usage permet de dire clairement ce qu’il sait faire, dans quelles conditions il échoue et quand une personne doit intervenir.
Rendre les limites visibles
La fiche précise scènes testées, incertitudes, interdits, conséquences d’une erreur et procédure de reprise.Présenter un robot d’accueil
L’équipe indique qu’il comprend des demandes simples en français calme, mais qu’il faut parler à un agent pour une situation urgente.Une limite écrite ne suffit pas à elle seule
Formation, interface et surveillance doivent rappeler ces limites au moment de l’usage et après chaque changement.Sources et références
- [1] AI Principles — OECD
- [2] AI Risk Management Framework — NIST