Comment documenter les limites d’un modèle utilisé dans un système autonome ?
Mise à jour28 août 2026
Lecture1 minute
Réponse rapide
Documenter les limites d’un modèle autonome consiste à préciser scènes couvertes, erreurs connues, données absentes, seuils de confiance et action attendue en cas de doute.
Dire où le modèle s’arrête
Un bon score global ne garantit pas un comportement fiable sous pluie, contre-jour ou objet inédit.Un modèle détecte des piétons
La documentation précise les distances, éclairages et tailles testés, puis impose un ralentissement hors de ces conditions.Une limite non écrite devient un risque caché
Version, matériel, surveillance, seuil d’abstention et décision de retrait doivent être suivis.Sources et références
- [1] Human-robot interaction — NIST