Réponse rapide
Une supervision reste nécessaire après validation de l’autonomie car contexte, matériel, logiciels, personnes et objectifs changent et des situations inédites peuvent dépasser les essais.
La validation ne couvre pas tous les futurs contextes
Versions, environnement et comportements évoluent. Conservez supervision, arrêt et suivi des dérives même après une campagne d’essais réussie.
Surveiller la dérive
Comparez performances, incidents, environnement, versions, charge, calibration et comportements aux hypothèses de validation.
Conserver un recours
L’opérateur peut arrêter, limiter, reprendre ou isoler le robot et dispose d’informations suffisantes pour agir à temps.
Améliorer sans aveugler
Analysez événements et retours, mais contrôlez mises à jour, seuils, données et nouvelles versions avant de modifier l’autonomie.
Sources et références
- [1] Trustworthy autonomous systems — NIST