Réponse rapide
Borner une décision autonome consiste à définir objectifs, actions permises, zones, vitesse, force, énergie, délai, données requises, seuils d’incertitude et conditions d’arrêt avant exécution. Le contrôleur ou une protection indépendante rejette toute sortie hors enveloppe. Les limites sont adaptées au risque et testées autour des frontières.
Filtrer action et contexte
Le système vérifie identité de la tâche, état, préconditions, ressources, personnes, géorepérage et autorisation. Options irréversibles ou critiques exigent confirmation ou mode plus conservateur. Valeur inconnue et mesure périmée ne deviennent pas une autorisation.
Mesurer marge et pire conséquence
Distance, effort, énergie, latence, confiance et réversibilité sont comparés aux limites. Les seuils incluent capteur, modèle et variation de charge. Une marge insuffisante conduit à abstention, repli ou supervision.
Ne pas borner seulement par un score logiciel
Un score peut ignorer élan, gravité ou personne proche. Limites physiques et arrêt indépendant restent prioritaires. Toute exception est documentée, temporaire et vérifiée.
Sources et références
- [1] Trustworthy autonomous systems — NIST