Comment vérifier qu’un agent autonome respecte son domaine de fonctionnement prévu ?

Réponse rapide

On vérifie le domaine de fonctionnement prévu en listant les conditions couvertes, en testant les limites et perturbations, puis en surveillant en exploitation les situations hors domaine et les comportements de repli.

Écrire les hypothèses

Environnement, éclairage, vitesse, charge, capteurs, connectivité, objets et présence humaine sont décrits. Les conditions non évaluées restent explicitement hors domaine.

Explorer les frontières

Scènes dégradées, données manquantes, retards et états initiaux inhabituels sont injectés. Les critères portent sur réussite, refus approprié, latence et sécurité.

Détecter la sortie du domaine

Indicateurs de qualité et journaux déclenchent limitation, reprise humaine ou arrêt. Un changement de modèle, capteur ou mission relance l’évaluation.

Sources et références

  1. [1] Robotics and Autonomous Systems — NIST

Cette réponse vous a-t-elle été utile ?