Réponse rapide
On vérifie que le modèle apprend la tâche en variant décor, éclairage, caméra, objets et arrière-plan et en testant si la décision conserve ses causes utiles.
Avertissement de sécurité
Un modèle peut apprendre un décor plutôt que la tâche et échouer sur le robot réel. Variez les facteurs non pertinents et surveillez les contre-exemples.
Contrôler
Comparez performance sur fond, texture, position et éléments non pertinents modifiés séparément et recherchez corrélations artificielles.
Expliquer
Analysez attention, masques, contre-exemples et capteurs utilisés et confrontez la réponse à une référence géométrique ou humaine.
Décider
Réduisez domaine ou demandez supervision si le modèle échoue dès qu’un décor change ou s’appuie sur une information non causale.
Sources et références
- [1] Robotics and Autonomous Systems — NIST