Réponse rapide
Réduire la latence d’une détection profonde embarquée consiste à choisir modèle et résolution adaptés, optimiser prétraitement et inférence, limiter copies et mesurer toute la chaîne sur le matériel cible.
Latence inclut toute la chaîne
Une inférence rapide ne sert pas si image, files ou publication sont en retard. Mesurez fraîcheur et action sur le matériel réel.
Mesurer le chemin complet
Chronométrez acquisition, conversion, prétraitement, réseau, post-traitement, publication et commande plutôt que l’inférence seule.
Alléger avec contrôle
Quantification, élagage, entrée réduite, lot adapté ou accélérateur diminuent coût mais peuvent dégrader rappel et confiance.
Préserver la fraîcheur
Rejetez images anciennes, limitez files et adaptez cadence et action lorsque le budget temps est dépassé.
Sources et références
- [1] Robotics and Autonomous Systems — NIST