Réponse rapide
La reprise de contrôle doit être attribuée à une personne ou une fonction clairement identifiée, avec un moyen d’action compréhensible et testable. Les droits dépendent de la mission, du risque et du lieu ; une alarme sans autorité ni délai réaliste ne constitue pas une supervision efficace.
Nommer l’autorité
Exploitant, opérateur de proximité ou responsable de sécurité sont désignés selon le scénario. Leurs rôles, horaires et relais restent connus lorsque le robot change de zone ou d’équipe.
Rendre l’action possible
Arrêt, ralentissement ou commande manuelle sont accessibles par un moyen adapté à l’urgence. Des essais mesurent délai de transmission, compréhension de l’état et effet réel sur les actionneurs.
Préparer les absences
Perte de liaison, indisponibilité de l’opérateur et conflit d’autorité ont un comportement prévu. Le robot adopte un état sûr plutôt que d’attendre indéfiniment une personne qui ne peut pas répondre.
Sources et références
- [1] OECD AI Principles — OECD
- [2] AI Risk Management Framework — NIST