Réponse rapide
On limite l’explosion des gradients par initialisation et normalisation adaptées, écrêtage de norme, taux d’apprentissage maîtrisé, architecture stable et suivi des pertes et poids pendant l’entraînement.
Mesurer les excursions
Norme du gradient, paramètres, perte, NaN, inf et sortie sont journalisés par étape. Les épisodes ou lots qui déclenchent l’explosion sont conservés pour analyse.
Borner la mise à jour
Clipping, taux réduit, optimiseur et initialisation évitent un saut disproportionné. L’écrêtage ne doit pas masquer une donnée invalide ou une perte mal définie.
Vérifier la généralisation
Après stabilisation, scènes, séquences et perturbations nouvelles sont testées. Le réseau doit rester calibré et compatible avec la latence du robot.
Sources et références
- [1] Robotics and Autonomous Systems — NIST