Aller au contenu
Robopedia Rechercher une réponse
Autonomie décisionnelle Intermédiaire Application

Pourquoi une décision autonome doit-elle être explicable à l’opérateur ?

Mise à jour28 août 2026 Lecture1 minute

Réponse rapide

Une décision autonome doit être explicable à l’opérateur pour qu’il puisse comprendre le contexte, juger le risque, corriger le robot et rendre compte de l’événement.

Expliquer ce qui a déclenché l’action

L’explication utile relie observations, règle ou modèle, incertitude, action choisie et alternative écartée, avec des données réellement disponibles.

Comprendre un arrêt

Le journal indique obstacle détecté à gauche, visibilité faible, vitesse réduite puis arrêt ; l’opérateur sait quoi vérifier sur place.

Un texte plausible n’est pas une preuve

Une justification produite après coup peut être fausse. Traces horodatées, valeurs brutes et limites du modèle rendent l’explication vérifiable.

Sources et références

  1. [1] Trustworthy AI monitoring — NIST

Cette réponse vous a-t-elle été utile ?

Continuer à explorer

Une autre question sur la robotique ou l’IA ?