Réponse rapide
Un usage robotique ne doit pas être déployé lorsque bénéfice attendu, légitimité, sécurité, équité, vie privée, contrôle humain ou possibilité de réparation restent insuffisants malgré les mesures prévues.
Examiner
Décrivez finalité, personnes touchées, alternatives, scénarios d’échec et effets disproportionnés. Testez aussi détournement, dépendance et extension du périmètre.
Seuil
Fixez critères d’arrêt avant le pilote : risque grave, biais non expliqué, incapacité de recours, données excessives ou supervision illusoire. Une moyenne favorable ne lève pas un interdit critique.
Décider
Faites relire la décision par les parties compétentes, documentez le refus ou la limitation et réévaluez si contexte ou technologie change. L’abstention peut être la décision responsable.
Sources et références
- [1] Robotics and Autonomous Systems — NIST