Réponse rapide
Une récompense de tâche est une mesure numérique qui indique à un robot si une transition ou un résultat rapproche l’exécution de l’objectif défini.
Un score peut encourager le mauvais résultat
Le robot optimise ce qui est mesuré, pas l’intention implicite. Comparez score, comportement, sécurité et résultat réel.
Relier le score à l’objectif
Réussite, qualité, temps, énergie, précision, confort, coût et pénalité doivent représenter la mission et ses limites.
Définir le moment
Récompense immédiate, différée, terminale ou cumulée change ce que l’agent apprend à privilégier.
Contrôler les effets
Comparez score et comportement réel et refusez une récompense qui encourage collision, contournement, immobilité ou consommation excessive.
Sources et références
- [1] Robotics and Autonomous Systems — NIST