Réponse rapide
Les limites d’un système vision-langage robotique se documentent par domaine d’emploi, capteurs, langues, scènes, latence, incertitude, modes d’échec, actions interdites et procédure de repli.
Décrire les conditions
La documentation précise éclairage, distance, occlusion, objets, formulations et matériel évalués. Les performances annoncées sont liées à ces conditions plutôt qu’à une capacité générale.
Nommer les échecs
Confusion d’objets, hallucination de détails, instruction ambiguë, perte de capteur et dépassement de latence sont décrits avec leur détection. Les exemples montrent aussi quand le système refuse.
Préparer le repli
Permission, confirmation humaine, limitation de vitesse, arrêt et retour à un contrôleur classique sont associés aux situations hors domaine. Les changements de modèle ou de capteur réouvrent l’évaluation.
Sources et références
- [1] Robotics and Autonomous Systems — NIST