Réponse rapide
Évaluer les biais d’un système de perception robotique révèle s’il fonctionne moins bien pour certains groupes, environnements ou conditions. La mesure permet d’identifier une couverture insuffisante, d’estimer les conséquences et de décider d’une collecte, d’une pondération ou d’une restriction d’usage.
Ventiler les performances
Rappel, précision, erreurs et incertitude sont calculés par scène, éclairage, apparence, équipement et contexte d’emploi. Les groupes sont définis avec les personnes concernées, pas seulement par les variables faciles à enregistrer.
Relier l’écart au risque
Une différence statistique n’a pas toujours la même gravité. On examine quelles erreurs surviennent, qui les subit et si elles peuvent empêcher assistance, déplacement ou arrêt sûr.
Corriger ou limiter
Données ciblées, recalibrage, seuils distincts ou changement de procédure peuvent réduire l’écart. Si aucune correction fiable n’est disponible, le domaine d’usage est restreint et cette limite est annoncée.
Sources et références
- [1] OECD AI Principles — OECD
- [2] Artificial Intelligence Risk Management Framework (AI RMF 1.0) — NIST