L’éthique est une exigence de conception parce que les choix de données, d’objectifs et d’interface déterminent déjà les personnes exposées, les marges d’erreur et les possibilités de recours du robot.
Pour éviter un traitement injustifié, on définit la finalité, mesure les écarts entre groupes et scénarios, limite les variables sensibles ou leurs proxys et prévoit une revue humaine des cas ambigus.
L’éthique est nécessaire pour décider si un robot respecte les personnes, leurs droits et leurs choix, au-delà de sa seule performance technique.
Éviter qu’un robot reproduise des discriminations demande de tester ses données, ses règles et ses résultats selon des profils et des situations variés, puis de corriger les écarts constatés.
Respecter l’autonomie d’une personne signifie lui laisser comprendre, choisir, interrompre et refuser l’aide du robot, avec une alternative accessible.
Décider de ne pas déployer un usage robotique est parfois la décision responsable lorsque risques, atteintes aux droits ou absence de bénéfice ne peuvent pas être réduits suffisamment.
Préserver l’autonomie d’une personne face à un robot signifie lui laisser comprendre, choisir, refuser ou interrompre l’assistance lorsque sa sécurité le permet.
Associer les personnes concernées à la conception d’un robot permet de vérifier que ses objectifs, signaux, contraintes et effets correspondent réellement à leur expérience.