Réponse rapide
Après déploiement, on surveille précision ou qualité vérifiée, confiance, refus, latence, ressources, contexte, dérive, incidents et retours opérateur, avec seuils d’alerte et procédure de repli.
Suivre les signaux techniques
Âge des données, mémoire, température, fréquence et erreurs de pilote accompagnent les sorties. Version de modèle et robot source sont identifiés.
Comparer au référentiel
Échantillons contrôlés, défauts, interventions et métriques par environnement révèlent régression ou dérive. La confiance est calibrée séparément.
Réagir avant la panne
Réduire capacité, revenir à une version connue, demander confirmation ou arrêter sont associés aux seuils. Les données de retour sont isolées avant réentraînement.
Un modèle peut se dégrader sans erreur logicielle
Le code peut fonctionner alors que capteur, scène ou distribution ont changé. La surveillance doit couvrir contexte, qualité et effet sur la mission.
Sources et références
- [1] Robotics and Autonomous Systems — NIST