Réponse rapide
Le robot s’abstient grâce à un état d’incertitude explicite, des préconditions, seuils de confiance, actions de repli et un contrôleur capable de refuser la commande.
Avertissement de sécurité
Une abstention doit être réelle et testée, pas seulement annoncée. Vérifiez refus, arrêt et transfert humain lorsque les préconditions manquent.
Autoriser
Associez chaque action à observations minimales, domaine, énergie et marge de sécurité. L’absence d’une précondition produit refus ou demande d’information.
Replier
Prévoyez immobilisation, retour, observation supplémentaire ou transfert à un opérateur selon le risque. La sortie doit expliquer l’abstention et son déclencheur.
Tester
Injectez ambiguïtés, capteurs absents, objets nouveaux et contradictions et vérifiez que le robot n’invente pas une réussite. Journalisez décision et état final.
Sources et références
- [1] Robotics and Autonomous Systems — NIST