Réponse rapide
On détecte la sortie du domaine d’apprentissage par nouveauté, baisse de confiance, changement de distribution, incohérence sensorielle et échec sur des références surveillées.
Avertissement de sécurité
Un modèle peut sortir de son domaine sans baisser nettement son score. Surveillez plusieurs signaux, réduisez l’autonomie et gardez un repli validé.
Décrire
Documentez scènes, capteurs, conditions et classes couvertes par l’apprentissage et fixez les limites connues. Un score élevé ne suffit pas hors de cette enveloppe.
Surveiller
Suivez distance aux données connues, entropie, taux d’inconnu, résidus, luminosité, météo et dérive des décisions. Comparez une référence stable et les distributions récentes.
Réagir
Réduisez autonomie, demandez une observation ou revenez à un modèle validé lorsque plusieurs signaux concordent. N’étendez pas le domaine par adaptation silencieuse.
Sources et références
- [1] Robotics and Autonomous Systems — NIST