Une explication fidèle reflète les facteurs réellement utilisés par l’IA, tandis qu’une explication plausible raconte une histoire convaincante qui peut être fausse.
Expliquer la décision d’un robot aide l’opérateur à comprendre, vérifier et contester l’action, surtout lorsque la décision modifie une sécurité ou un travail.
Surveiller les biais après déploiement détecte les changements de scènes, d’utilisateurs, de capteurs ou de seuils qui rendent certaines erreurs plus fréquentes.
Réduire un biais de données dans un modèle robotique exige d’améliorer la couverture, les labels, les capteurs et la méthode d’évaluation sans masquer une erreur par un nouveau réglage.
La responsabilité se répartit entre fabricant, intégrateur et exploitant selon les exigences qu’ils définissent, assemblent, valident et appliquent réellement.
Une procédure de signalement d’incident robotique permet de protéger les personnes, conserver les faits et déclencher une analyse sans perdre les informations utiles.
Une modification d’usage d’un robot déjà déployé exige une nouvelle analyse des risques, des essais adaptés, des informations aux utilisateurs et une décision d’autorisation.
Documenter les décisions de conception d’un robot permet d’expliquer les compromis, de vérifier les exigences et de retrouver pourquoi une limite ou un choix a été retenu.
La responsabilité d’une mauvaise décision d’un robot se recherche dans la chaîne de conception, intégration, déploiement et usage, plutôt que dans le robot lui-même.
Mesurer les performances d’un robot par sous-groupe ou par contexte révèle les situations où une moyenne globale masque des erreurs importantes ou inégalement réparties.
Un biais des données vient de la représentation ou des annotations utilisées pour apprendre, tandis qu’un biais du capteur vient d’une mesure déformée par le matériel ou son installation.
Un biais algorithmique dans un robot est un comportement systématiquement moins juste ou moins fiable pour certains cas, groupes ou contextes.