Comment vérifier qu’un système autonome reste sous contrôle humain ?
Mise à jour28 août 2026
Lecture1 minute
Réponse rapide
Un système autonome reste sous contrôle humain si ses objectifs sont bornés, ses décisions sont observables et une personne peut le ralentir, l’arrêter ou reprendre la main.
Organiser la supervision
Une alerte incompréhensible ou une commande d’arrêt inaccessible ne constitue pas un contrôle effectif.Interrompre une mission de drone
L’opérateur voit la position et le mode, déclenche le retour ou l’atterrissage sûr et retrouve la commande même après une liaison dégradée.La présence d’un bouton ne prouve rien
Autorité, visibilité, délai, accès, mode dégradé et essais de reprise doivent être documentés.Sources et références
- [1] Trustworthy AI monitoring — NIST