Réponse rapide
La génération de code peut accélérer un prototype si elle reste dans un dépôt isolé, avec revue humaine, tests, analyse statique, dépendances contrôlées et aucune connexion directe aux actionneurs.
Avertissement de sécurité
Du code généré peut compiler tout en commandant mal un robot. Isolez prototype, relisez les parties critiques et interdisez accès direct aux actionneurs.
Cadrer
Donnez interface, unités, repères, limites et environnement de test sans fournir secrets. Interdisez réseau, puissance et mouvement réel au générateur.
Vérifier
Relisez chaque ligne sensible, exécutez tests unitaires, simulation, analyse statique et fuzzing puis comparez à une référence. Les erreurs de compilation ne sont pas les seuls risques.
Intégrer
Promouvez par étapes, avec permissions minimales, revue et rollback. Le contrôleur, arrêt et limites ne sont jamais remplacés par code généré non qualifié.
Sources et références
- [1] AI Risk Management Framework — NIST