Réponse rapide
Un agent logiciel utilise des outils sans perdre le contrôle en passant par des permissions, des schémas d’arguments, des limites de domaine, des validations avant exécution et un contrôleur indépendant des fonctions critiques.
Borner chaque outil
Nom, paramètres, unités, effets, ressources et erreurs sont définis. L’agent ne peut appeler que les outils et modes autorisés pour sa mission.
Vérifier avant de commander
État courant, zone, charge, vitesse et conséquences sont confrontés aux règles. Les actions irréversibles peuvent exiger confirmation ou simulation préalable.
Contrôler après l’appel
Retour d’outil, capteurs et journaux sont comparés. Un timeout, résultat incohérent ou dépassement coupe la chaîne et conserve une voie d’arrêt.
Un agent ne doit pas devenir la barrière unique
Une erreur de raisonnement ou de paramétrage peut produire un appel apparemment valide. Les limites de mouvement et arrêts critiques doivent être appliqués en dehors de l’agent.
Sources et références
- [1] Nodes — ROS 2 documentation