Réponse rapide
Avant de laisser une réponse générée guider un robot, on vérifie format, faits, contraintes, permissions, cohérence avec capteurs, faisabilité, incertitude, tests et conséquence de l’erreur.
Contrôler
Validez schéma, unités, repères, séquence, objets et absence d’instructions cachées. Comparez aux états et règles autorisés, sans accepter une explication comme preuve.
Essayer
Simulez plan, cas limites, données manquantes, obstacle, perte de lien et action interdite. Mesurez taux d’erreur, refus, latence et capacité de retour.
Libérer
Commencez en observation ou faible énergie, avec confirmation humaine et rollback. Le modèle est retiré si ses erreurs ou sorties hors domaine dépassent le seuil.
Sources et références
- [1] Robotics and Autonomous Systems — NIST