Réponse rapide
Une récompense sûre combine objectif utile, coût d’énergie, erreur, effort, proximité d’obstacle et pénalités d’action dangereuse sans laisser un seul score être contourné.
Avertissement de sécurité
Une récompense mal définie peut encourager vitesse, force ou raccourci dangereux. Cherchez explicitement le piratage du score et imposez des limites hors récompense.
Définir
Reliez chaque terme à une mesure observable, un seuil et une conséquence et distinguez contrainte absolue de préférence.
Tester
Cherchez comportements opportunistes, récompense piratée, raccourcis et sacrifices d’un critère et comparez trajectoires et états finaux.
Borner
Placez limites et arrêt hors de la récompense, utilisez supervision et rejetez toute politique qui satisfait le score en franchissant une règle.
Sources et références
- [1] Robotics and Autonomous Systems — NIST