Quand le contexte devient inconnu, le robot réduit son autonomie en ralentissant, en limitant ses actions ou en demandant une validation humaine plutôt qu’en poursuivant coûte que coûte.
Évaluer l’explicabilité consiste à vérifier si une personne peut comprendre pourquoi le robot a choisi une action, avec des éléments fiables et adaptés à la situation.
On teste une perception intelligente hors de ses données d’apprentissage avec des scènes nouvelles, des perturbations, des capteurs dégradés et des classes inconnues, puis on mesure détection, refus et conséquences dans la tâche.
Conserver l’incertitude permet au robot de distinguer mesure fiable, hypothèse et absence d’information, d’adapter ses marges et de refuser une action lorsque le risque dépasse ce qui est démontré.
La détection signale qu’un motif ou un objet est présent et où il se trouve, tandis que la compréhension de scène relie objets, relations, contexte, évolution et conséquences pour la tâche.
La perception intelligente transforme des mesures de capteurs en objets, états, relations et incertitudes utiles à la décision d’un robot, en tenant compte du contexte et de l’objectif.
La décision robotique sélectionne une action ou une abstention à partir de l’état estimé, de l’objectif, des contraintes et du risque. Elle transforme des informations incertaines en choix exécutable.
Si aucune action ne respecte les contraintes, le robot doit s’abstenir, réduire son activité et rejoindre ou maintenir un état sûr, puis signaler le conflit au superviseur ou demander une nouvelle information.
Calibrer un score de confiance consiste à vérifier qu’une probabilité annoncée correspond à la fréquence réelle de réussite, puis à choisir des seuils adaptés au risque de la décision.
Quand les annotations humaines se contredisent, on examine la consigne, les cas ambigus et les profils d’annotateurs, puis on définit une règle ou conserve l’incertitude au lieu de forcer une étiquette arbitraire.
Une perception intelligente transforme des mesures en éléments utiles à l’action : objets, personnes, espace libre, mouvement et niveau de confiance, plutôt qu’une simple image.
Expliquer une décision issue de la perception revient à montrer ce que le robot a observé, son incertitude, la règle appliquée et l’action qui en a découlé.