Réponse rapide
Les biais d’un système vision-langage se gèrent en diversifiant les données, en mesurant les performances par contexte et en conservant une possibilité de refus ou de validation humaine lorsque la scène est mal représentée.
Chercher les écarts
Les erreurs sont comparées selon éclairage, couleur, taille, position, langue, accent et environnement. Les catégories sous-représentées sont identifiées sans déduire une cause à partir du seul score.
Améliorer sans masquer
Données ciblées, augmentation et réglage des seuils peuvent réduire un écart. Chaque correction est testée sur un jeu indépendant pour vérifier qu’elle ne déplace pas le problème.
Prévoir le refus
Le système signale incertitude et demande une confirmation lorsque l’objet ou l’instruction sort de son domaine. Les permissions et contrôles du robot restent actifs quel que soit le profil observé.
Sources et références
- [1] Robotics and Autonomous Systems — NIST