Réponse rapide
L’éthique est une exigence de conception parce que les choix de données, d’objectifs et d’interface déterminent déjà les personnes exposées, les marges d’erreur et les possibilités de recours du robot.
Inscrire les valeurs dans le système
Collecte, seuils, priorités, autonomie et arrêt influencent directement les conséquences. Les risques et usages prévisibles sont examinés avant le code final.
Rendre les choix compréhensibles
Finalité, limites, données utilisées et conditions de repli sont documentées pour usagers et opérateurs. Une décision ne doit pas être inexplicable par construction.
Préserver le recours
Supervision, intervention humaine, correction et arrêt sont prévus dans l’architecture. Les essais vérifient que ces protections restent accessibles en situation réelle.
Sources et références
- [1] OECD AI Principles — OECD