Comment empêcher un agent génératif de lancer une action robotique non autorisée ?

Réponse rapide

On empêche une action non autorisée en séparant proposition et exécution, par outils à permissions minimales, validation de schéma, limites, confirmation et contrôleur indépendant.

Autoriser

Exposez seulement des fonctions nommées avec paramètres, unités, portée, durée et rôle, et refusez toute commande libre ou inconnue.

Vérifier

Contrôlez identité, état, obstacle, énergie, consentement, séquence et limites avant appel. Une réponse textuelle ne vaut ni capteur ni approbation humaine.

Exécuter

Simulez ou prévisualisez, demandez confirmation pour action sensible, puis surveillez résultat et timeout. L’arrêt local reste possible si agent, réseau ou outil se comporte mal.

Sources et références

  1. [1] Robotics and Autonomous Systems — NIST

Cette réponse vous a-t-elle été utile ?