Réponse rapide
Lorsque le contexte devient inconnu, le robot réduit son autonomie en bornant vitesse et actions, en demandant information ou supervision et en revenant à un état sûr.
Avertissement de sécurité
Un contexte inconnu ne doit pas être traité comme nominal. Réduisez vitesse et autonomie, cherchez une observation et revenez à un état sûr.
Détecter
Surveillez nouveauté, perte de couverture, conflit de capteurs, dérive, météo et ressources. Définissez à l’avance les conditions qui sortent du domaine validé.
Dégrader
Réduisez vitesse, portée, outil et complexité de mission et conservez une trajectoire de repli. Les fonctions critiques passent sous contrôle renforcé ou s’arrêtent.
Reprendre
Actualisez perception, carte et autorisation avant reprise et consignez la cause. Une confiance restaurée doit être démontrée, pas déduite du seul passage du temps.
Sources et références
- [1] AI Risk Management Framework — NIST