Comment tester la reprise humaine d’un système autonome ?

Rendre la reprise praticable

Une commande d’arrêt inutilisable pendant une liaison lente ne constitue pas une véritable supervision.

Reprendre un véhicule autonome

L’opérateur voit le mode, reçoit l’alerte, reprend la direction et vérifie que le système ne réinjecte pas une ancienne consigne.

La reprise dépend aussi de l’entraînement

Alerte, délai, interface, priorité, état de transition, formation et journal doivent être contrôlés.

Sources et références

1. [1] AI Risk Management Framework — NIST

Questions liées

• Qu’est-ce qu’un système autonome dans le contexte robotique ?
• Comment un système autonome prend-il une décision sous incertitude ?
• Pourquoi séparer planification et supervision dans un système autonome ?
• Comment vérifier qu’un système autonome n’a pas quitté son domaine de validité ?
• Qu’est-ce qu’un environnement partiellement observable pour un robot ?
• Quelle différence entre environnement observable et partiellement observable ?
• Comment rendre la décision d’un robot autonome traçable ?
• Comment permettre à un humain de reprendre une décision autonome ?

Cette réponse vous a-t-elle été utile ?

OuiNon

Commentaire facultatif