Réponse rapide
Une récompense fidèle combine résultats de mission, contraintes, ressources, qualité et sécurité, avec termes mesurables et pénalités qui ne peuvent pas être contournées.
Décrire
Décomposez mission en objectifs observables et distinguez contrainte absolue, coût et préférence et documentez chaque pondération.
Éprouver
Cherchez raccourcis, récompense piratée, sacrifice d’une exigence et différences entre score et comportement réel sur scénarios indépendants.
Valider
Comparez trajectoire, énergie, erreur, effort, violations et résultat humain et révisez avec experts de la tâche.
Sources et références
- [1] Robotics and Autonomous Systems — NIST