Quand un modèle profond doit-il être refusé par un robot ?
Mise à jour28 août 2026
Lecture1 minute
Réponse rapide
Un robot doit refuser un modèle profond lorsque ses performances, sa calibration, sa robustesse ou son comportement hors domaine ne respectent pas les critères de la mission.
Savoir dire non au modèle
Erreur critique, confiance mal calibrée, latence excessive ou données trop éloignées déclenchent maintien, observation ou reprise humaine.Détecter une personne dans le brouillard
Le modèle annonce une confiance élevée malgré des tests mauvais ; le robot interdit le mouvement et demande une autre perception.Un score moyen ne suffit pas
Cas rares, biais, dérive et conséquences d’une confusion doivent être examinés.
Sources et références
- [1] AI Risk Management Framework — NIST