Réponse rapide
Pour éviter qu’un biais de données influence injustement une décision, on vérifie couverture et performance par contexte, on sépare contraintes de mission et corrélations et on garde une possibilité de revue humaine.
Point de vigilance
Une moyenne équitable n’empêche pas un cas individuel dangereux. Vérifiez les contextes critiques et prévoyez une revue humaine lorsque le domaine est dépassé.
Examiner les entrées
Contrôlez provenance, représentativité, annotations et valeurs manquantes pour les personnes, lieux et conditions qui déterminent l’action.
Comparer les résultats
Ventilez erreurs, seuils et refus par contexte pertinent et vérifiez qu’une amélioration globale ne dégrade pas un groupe exposé.
Mettre une barrière
Limitez l’autonomie, demandez confirmation ou utilisez une règle explicite lorsque l’incertitude ou l’écart dépasse le domaine validé.
Sources et références
- [1] Robotics and Autonomous Systems — NIST