Réponse rapide
La dérive d’un modèle se détecte en surveillant distribution des entrées, confiance, taux de refus, erreurs confirmées, latence et effets métier, puis en comparant à une référence pertinente.
Entrées
Suivez luminosité, bruit, angles, classes, taux de données manquantes et domaine matériel sans conserver plus de données personnelles que nécessaire. Des résumés statistiques suffisent souvent.
Sorties
Comparez confiance, entropie, décisions, abstentions et corrections humaines aux niveaux de référence. Une baisse de performance peut venir du capteur, du contexte ou du pipeline.
Réagir
Définissez seuils, fenêtre de confirmation et responsable. Limitez la fonction, déclenchez une collecte ciblée et revenez à une version sûre avant de réentraîner.
Sources et références
- [1] AI RMF Core — NIST AI Resource Center