Réponse rapide
Face à une tâche inconnue, un robot totalement autonome détecte sortie de domaine, limite son action, cherche information, demande supervision, replanifie ou s’arrête selon le risque.
Une tâche inconnue ne justifie pas l’improvisation
Réduisez action, cherchez information ou demandez aide ; une exploration non bornée peut rendre le robot ou son environnement irrécupérable.
Reconnaître l’inconnu
Objectif nouveau, scène hors distribution, ressource absente ou modèle contradictoire réduisent confiance et capacité d’extrapolation.
Choisir une exploration bornée
Observation supplémentaire, mouvement lent, retour vers une zone connue ou simulation locale préservent des options.
Refuser l’improvisation dangereuse
Si coût ou réversibilité sont défavorables, demande humaine, état sûr et trace de décision priment.
Sources et références
- [1] Trustworthy autonomous systems — NIST