Comment limiter l’autonomie d’un robot lorsque le contexte devient inconnu ?
Mise à jour3 septembre 2026
Lecture1 minute
Réponse rapide
Quand le contexte devient inconnu, le robot réduit son autonomie en ralentissant, en limitant ses actions ou en demandant une validation humaine plutôt qu’en poursuivant coûte que coûte.
Définir le seuil d’inconnu
Le système compare ce qu’il observe à des situations prévues : obstacle inédit, capteur incohérent ou carte trop ancienne. Au-delà d’un seuil, il passe dans un mode de repli défini.
Un couloir encombré
Un robot de livraison trouve un chariot là où la carte indiquait un passage libre. Il s’arrête à distance, signale le blocage et attend une instruction au lieu de tenter un détour risqué.Le repli doit rester utile
S’arrêter au milieu d’une porte ou couper une fonction essentielle peut créer un autre danger. Le choix du point d’attente et la façon de reprendre sont testés avec les utilisateurs.
Sources et références
- [1] AI Risk Management Framework — NIST