Comment vérifier qu’un système autonome n’a pas quitté son domaine de validité ?

Reconnaître la sortie de domaine

Une carte inconnue, une luminosité extrême ou une charge inhabituelle peut rendre une décision moins fiable.

Détecter un trajet non couvert

Le robot compare ses observations aux bornes testées, réduit son allure et demande une validation si elles sont dépassées.

L’absence d’alarme ne prouve pas la validité

Bornes, indicateurs, incertitude, seuils, repli et preuves de couverture doivent être documentés.

Sources et références

1. [1] AI Risk Management Framework — NIST

Questions liées

• Qu’est-ce qu’un système autonome dans le contexte robotique ?
• Comment un système autonome prend-il une décision sous incertitude ?
• Pourquoi séparer planification et supervision dans un système autonome ?
• Comment tester la reprise humaine d’un système autonome ?
• Qu’est-ce qu’un environnement partiellement observable pour un robot ?
• Quelle différence entre environnement observable et partiellement observable ?
• Comment rendre la décision d’un robot autonome traçable ?
• Comment permettre à un humain de reprendre une décision autonome ?

Cette réponse vous a-t-elle été utile ?

OuiNon

Commentaire facultatif