Réponse rapide
Un grand modèle de langage peut reformuler une demande, chercher une procédure ou proposer un plan, mais ses sorties restent du texte validé par permissions, schéma, contrôleur et supervision avant toute action.
Avertissement de sécurité
Un grand modèle peut produire une instruction plausible mais fausse. Isolez-le des moteurs, validez chaque outil et gardez contrôle et arrêt indépendants.
Séparer
Le modèle n’accède pas directement aux moteurs : il appelle des outils bornés avec paramètres, unités, portée et durée. Le contrôleur vérifie capteurs, état, collision et arrêt.
Vérifier
Contrôlez identité, contexte, données, préconditions et résultat avant exécution. Une phrase convaincante ou une justification générée n’est pas une preuve.
Superviser
Commencez en lecture seule ou simulation, demandez confirmation pour action sensible et journalisez version, entrée, sortie, outil et résultat. Gardez un arrêt indépendant.
Sources et références
- [1] AI Risk Management Framework — NIST