Réponse rapide
Les effets inattendus se détectent par suivi d’usage, incidents, plaintes, dérives de performance, coûts, charge humaine, environnement et comportements de contournement, comparés à une référence avant déploiement.
Observer
Combinez métriques techniques, retours qualitatifs et signalements anonymisés par site et groupe. Cherchez conséquences sur personnes non prévues, pas seulement succès de la tâche.
Analyser
Reliez date, version, contexte, décision et résultat sans exposer de données inutiles. Distinguez effet du robot, changement d’organisation et adaptation des utilisateurs.
Agir
Limitez, corrigez, formez ou retirez la fonction selon gravité et réversibilité. Informez les personnes concernées et vérifiez que la mesure réduit réellement l’effet.
Sources et références
- [1] Robotics and Autonomous Systems — NIST