Pourquoi surveiller les objectifs d’un système autonome pendant sa mission ?

Vérifier que le but n’a pas dérivé

Optimiser le nombre de livraisons peut pousser le robot à prendre des passages trop étroits ou à ignorer une batterie faible.

Suivre une tournée

Le superviseur compare progrès, énergie, incidents et contraintes, puis suspend la mission si l’objectif opérationnel n’est plus compatible avec la sécurité.

Un score unique masque les compromis

Objectifs, métriques, contraintes, seuils, fréquence de supervision et action d’arrêt doivent être contrôlés.

Sources et références

1. [1] Human-robot interaction — NIST

Questions liées

• Qu’est-ce qu’un système autonome ?
• Quelle différence existe entre automatisation et autonomie ?
• Comment un système autonome gère-t-il une incertitude importante ?
• Comment vérifier qu’un système autonome reste sous contrôle humain ?

Cette réponse vous a-t-elle été utile ?

OuiNon

Commentaire facultatif