Réponse rapide
Surveiller la dérive d’un modèle robotique après déploiement permet de détecter un changement de capteurs, de scène, de population, de saison, de comportement ou de relation entre entrée et résultat. On suit qualité, confiance, erreurs, abstentions, latence et distribution des données, puis on vérifie la cause avant de réentraîner ou de limiter la fonction.
Comparer référence et usage courant
Distributions, taux de valeurs manquantes, luminosité, température, classes, confiance et métriques terrain sont comparés à la référence. Des échantillons annotés et des contrôles de cohérence confirment un signal. Les tendances sont reliées à version, site et matériel.
Déclencher une réponse graduée
Alerte, seuil de confiance, collecte ciblée, recalibration, retour de version ou arrêt de fonction sont définis avant la dérive. Les décisions critiques disposent d’un modèle ou d’une règle de secours. Les données de surveillance sont protégées et minimisées.
Ne pas réentraîner automatiquement sur tout ce que produit le robot
Sorties erronées et contexte biaisé peuvent amplifier la dérive. Sélection, annotation indépendante et évaluation hors ligne précèdent toute nouvelle version. Une amélioration locale ne prouve pas la stabilité générale.
Sources et références
- [1] Artificial intelligence and robotics — NIST