Comment un système autonome gère-t-il une incertitude importante ?

Rendre l’incertitude visible

Une carte contradictoire ou un capteur masqué ne doit pas être traité comme une mesure certaine.

Traverser un couloir enfumé

Le robot ralentit, recroise ses capteurs, évite la zone et alerte un opérateur si la marge de sécurité reste inconnue.

Forcer une décision peut aggraver le risque

Source d’incertitude, seuils, action prudente, alerte, timeout et repli doivent être documentés.

Sources et références

1. [1] Trustworthy AI monitoring — NIST

Questions liées

• Qu’est-ce qu’un système autonome ?
• Quelle différence existe entre automatisation et autonomie ?
• Pourquoi surveiller les objectifs d’un système autonome pendant sa mission ?
• Comment vérifier qu’un système autonome reste sous contrôle humain ?

Cette réponse vous a-t-elle été utile ?

OuiNon

Commentaire facultatif