Réponse rapide
Dans un robot, un biais algorithmique est un écart systématique de perception ou de décision entre des scènes, des personnes ou des conditions d’usage qui devraient pourtant être traitées de façon comparable.
Point de vigilance
Une moyenne globale peut cacher un écart critique. Reliez toujours la mesure au contexte, à la mission et à la conséquence d’une erreur.
Relier l’écart à la mission
Mesurez l’erreur sur les situations réellement couvertes par la mission, puis comparez les taux de détection, de rejet ou d’intervention plutôt qu’une seule moyenne.
Chercher plusieurs causes
Une classe rare, un capteur, un seuil ou une règle de décision peuvent contribuer ensemble. Conservez le contexte et la conséquence de chaque écart observé.
Interpréter avant d’agir
Un signal statistique ne désigne pas automatiquement la correction. Vérifiez la qualité des données, la pertinence des catégories et le risque associé à la décision.
Sources et références
- [1] OECD AI Principles — OECD
- [2] Artificial Intelligence Risk Management Framework (AI RMF 1.0) — NIST