Qui doit pouvoir reprendre la main sur un robot autonome ?
Mise à jour28 août 2026
Lecture1 minute
Réponse rapide
Une personne doit pouvoir reprendre la main sur un robot autonome avant qu’une décision incertaine ou dangereuse ne devienne irréversible.
Prévoir un vrai pouvoir d’intervention
Arrêt, pause, validation ou commande manuelle doivent être accessibles, compréhensibles et assez rapides pour la situation.Un robot de livraison bloque une porte
L’opérateur voit l’alerte, stoppe la mission et guide le robot hors du passage sans devoir redémarrer tout le système.Un bouton caché n’est pas une reprise de main
Délai, autorité, accès et état du robot doivent être testés. Une personne ne peut pas corriger ce qu’elle ne voit pas.Sources et références
- [1] AI Principles — OECD
- [2] AI Risk Management Framework — NIST