Mettre à jour un modèle d’IA embarqué sans interrompre une mission critique demande de préparer la version, de la tester en parallèle et de ne basculer qu’avec un retour arrière disponible.
Ne rien faire peut être l’action intelligente lorsque l’incertitude, le risque ou le coût d’une erreur dépasse le bénéfice attendu.
La robustesse d’une action intelligente se vérifie en la rejouant avec des capteurs, charges, positions et délais différents, puis en contrôlant que le résultat reste acceptable.
Quand l’objectif est ambigu, le robot demande une précision, choisit l’option réversible la plus sûre ou s’arrête plutôt que d’inventer l’intention.
Une action intelligente utilise le retour d’expérience en comparant le résultat observé à l’objectif, puis en ajustant sa stratégie sans oublier les limites de sécurité.
Une action intelligente relie une perception, un objectif et une décision adaptée au contexte, avec la possibilité de vérifier le résultat et de changer de plan.
Rendre une décision autonome traçable consiste à conserver observation, version du modèle, règles actives, action choisie, incertitude et résultat.
Permettre à un humain de reprendre une décision autonome demande un canal d’intervention clair, un état compréhensible, une transition prévisible et une confirmation que la reprise a réussi.
Quand la perception est incertaine, le robot doit ralentir, recueillir une mesure supplémentaire, choisir une action plus conservatrice ou demander une intervention.
Une décision robotique hiérarchise d’abord les contraintes non négociables, puis les règles de sécurité et enfin les objectifs de service ou d’efficacité.
Pour choisir entre plusieurs actions, un robot compare leur utilité, leurs contraintes, leur risque et les informations disponibles, puis garde une solution de repli.
Une heuristique estime le coût restant vers le but pour guider la recherche et éviter d’examiner inutilement des états éloignés.