Réponse rapide
Une récompense doit représenter l’objectif utile, pénaliser les conséquences indésirables et rester mesurable sans encourager de raccourci dangereux. Elle se teste sur des comportements complets, pas sur un seul score.
Décrire le résultat attendu
Progression, précision, temps, énergie et respect des zones autorisées peuvent contribuer au signal. Les priorités et unités sont explicites avant les essais.
Prévenir les détournements
Collision, patinage, oscillation, usure ou sortie de zone reçoivent un coût suffisant. On recherche les stratégies qui maximisent le score en violant l’intention.
Observer la politique
Trajectoires, interventions, cas limites et variations de poids sont comparés. Une récompense n’est retenue que si elle produit un comportement acceptable dans les conditions prévues.
Sources et références
- [1] Artificial intelligence and robotics — NIST
- [2] Robotics and Autonomous Systems — NIST