On vérifie qu’une action reste cohérente lorsque l’environnement change en rejouant ses préconditions, ses observations et ses replis sur des variations réalistes.
Laisser une personne interrompre une action intelligente permet de reprendre la main lorsque le contexte, l’intention ou le risque n’est plus correctement compris.
Une IA peut aider un robot à interpréter une consigne humaine en transformant les mots et le contexte en intention structurée, que les modules de planification et de sécurité vérifient.
Journaliser les décisions d’une IA intégrée à un robot permet de relier entrée, version, confiance, règle, action et résultat pour expliquer, corriger ou contester un comportement.
Évaluer une IA robotique dans un environnement différent de celui de son entraînement consiste à tester transfert, capteurs, scènes, personnes et erreurs propres au nouveau lieu.
Une IA robotique doit gérer une prédiction incertaine en exprimant sa confiance, en adaptant l’action et en demandant une information supplémentaire lorsque l’erreur serait coûteuse.
Combiner apprentissage et règles explicites permet à un robot de profiter de motifs appris tout en imposant des limites claires sur les actions interdites ou risquées.