Comment empêcher un agent génératif de lancer une action robotique non autorisée ?
Mise à jour28 août 2026
Lecture1 minute
Réponse rapide
On empêche une action robotique non autorisée en séparant le modèle génératif des commandes, avec des droits limités, une validation explicite et des contrôles indépendants.
Donner seulement les bons outils
Chaque action indique zone, charge, vitesse et conditions requises. Le robot refuse ce qui dépasse le rôle, le budget d’énergie ou la zone autorisée.
Demande ambiguë dans un atelier
L’agent peut proposer « déplacer le bac », mais une règle exige l’identifiant du bac, une zone libre et l’accord d’un opérateur avant toute commande.Filtrer le texte ne suffit pas
Une instruction apparemment anodine peut provoquer un mouvement dangereux. Journalisation, arrêt physique et validation par une logique déterministe restent nécessaires.
Sources et références
- [1] Human-robot interaction — NIST