Quand le contexte devient inconnu, le robot réduit son autonomie en ralentissant, en limitant ses actions ou en demandant une validation humaine plutôt qu’en poursuivant coûte que coûte.
Évaluer l’explicabilité consiste à vérifier si une personne peut comprendre pourquoi le robot a choisi une action, avec des éléments fiables et adaptés à la situation.
La robustesse d’une action intelligente se vérifie en la rejouant avec des capteurs, charges, positions et délais différents, puis en contrôlant que le résultat reste acceptable.
Ne rien faire peut être l’action intelligente lorsque l’incertitude, le risque ou le coût d’une erreur dépasse le bénéfice attendu.
Une action intelligente relie une perception, un objectif et une décision adaptée au contexte, avec la possibilité de vérifier le résultat et de changer de plan.
Une action intelligente utilise le retour d’expérience en comparant le résultat observé à l’objectif, puis en ajustant sa stratégie sans oublier les limites de sécurité.
Quand l’objectif est ambigu, le robot demande une précision, choisit l’option réversible la plus sûre ou s’arrête plutôt que d’inventer l’intention.
Une action intelligente est une décision qui relie un objectif, l’état observé, les contraintes et une conséquence attendue, avec la possibilité de s’abstenir.
Avec plusieurs options, un robot compare bénéfice, incertitude, ressources et risque, puis choisit l’action autorisée dont la conséquence est acceptable.
Une action intelligente tient compte de l’incertitude en propageant le doute jusqu’à la décision et en réduisant l’engagement quand l’observation est fragile.
On vérifie qu’une action reste cohérente lorsque l’environnement change en rejouant ses préconditions, ses observations et ses replis sur des variations réalistes.
Laisser une personne interrompre une action intelligente permet de reprendre la main lorsque le contexte, l’intention ou le risque n’est plus correctement compris.