Si aucune action ne respecte les contraintes, le robot doit s’abstenir, réduire son activité et rejoindre ou maintenir un état sûr, puis signaler le conflit au superviseur ou demander une nouvelle information.
La décision robotique sélectionne une action ou une abstention à partir de l’état estimé, de l’objectif, des contraintes et du risque. Elle transforme des informations incertaines en choix exécutable.
Sous incertitude, un système autonome combine plusieurs mesures, estime confiance et risque, puis ralentit, demande une information, replanifie ou s’arrête selon des seuils définis.
Quand les annotations humaines se contredisent, on examine la consigne, les cas ambigus et les profils d’annotateurs, puis on définit une règle ou conserve l’incertitude au lieu de forcer une étiquette arbitraire.
Calibrer un score de confiance consiste à vérifier qu’une probabilité annoncée correspond à la fréquence réelle de réussite, puis à choisir des seuils adaptés au risque de la décision.
Expliquer une décision issue de la perception revient à montrer ce que le robot a observé, son incertitude, la règle appliquée et l’action qui en a découlé.
Une perception intelligente transforme des mesures en éléments utiles à l’action : objets, personnes, espace libre, mouvement et niveau de confiance, plutôt qu’une simple image.
L’automatisation exécute une procédure définie, l’autonomie choisit certaines actions selon la situation, et la téléopération laisse un humain commander à distance.
Vérifier qu’un agent autonome respecte son domaine de fonctionnement prévu consiste à surveiller contexte, capteurs et conditions, puis à déclencher un mode limité dès qu’une frontière est dépassée.
Un robot estime l’incertitude d’une décision en combinant confiance du modèle, qualité des capteurs, nouveauté de la scène et conséquences de l’action.
Les données d’entraînement doivent couvrir objets, personnes, éclairages, angles, erreurs et conditions d’usage réels, avec des annotations cohérentes et un test séparé.
Pour éviter qu’un modèle apprenne un biais, on recherche les déséquilibres de collecte et d’annotation, mesure les écarts et corrige puis reteste par groupe et condition.