Réponse rapide
L’autonomie complète n’élimine pas la supervision car objectifs, personnes, contexte, responsabilité, cybersécurité et situations hors domaine exigent encore une autorité et une intervention humaines.
L’autonomie n’efface pas la responsabilité
Objectif, arrêt, supervision, cybersécurité et traitement des exceptions restent gouvernés par des personnes et des procédures.
Surveiller sans piloter chaque geste
État, confiance, objectifs, alertes et ressources sont transmis avec un niveau de détail permettant une décision.
Garder une autorité
Arrêt, limitation, transfert, révision d’objectif et reprise restent accessibles même lorsque le robot agit seul.
Apprendre des exceptions
Incidents, quasi-incidents et changements de contexte alimentent tests et gouvernance au lieu d’être cachés par l’autonomie.
Sources et références
- [1] Trustworthy autonomous systems — NIST