Réponse rapide
Un biais algorithmique peut venir des données, capteurs, annotations, objectifs, seuils, contexte d’usage ou accès inégal et produire des erreurs différentes selon les personnes ou sites.
Avertissement de sécurité
Un biais peut concentrer les erreurs sur certaines personnes ou sites. Mesurez les conséquences par groupe et ne déployez pas une fonction non maîtrisée.
Repérer
Examinez collecte, représentation, qualité, variables de substitution, classes et conditions et documentez qui est inclus ou absent.
Mesurer
Comparez faux positifs, faux négatifs, couverture, délai, effort et conséquences par groupe et contexte plutôt qu’une moyenne unique.
Agir
Corrigez données, modèle, seuil ou procédure avec les personnes concernées et conservez limites et arbitrages visibles.
Sources et références
- [1] Robotics and Autonomous Systems — NIST