Que faire lorsqu’une alerte de dérive touche une fonction critique du robot ?

Traiter la dérive comme un incident

On conserve la version, les entrées et le contexte, puis on bascule vers un modèle de référence, une règle sûre ou un opérateur.

Détecter une personne dans une zone interdite

Le système réduit la vitesse et demande confirmation dès que les scènes s’éloignent du domaine testé, au lieu de continuer comme si de rien n’était.

Réentraîner dans l’urgence peut aggraver le risque

Données non vérifiées et pression de temps conduisent à une correction fragile. Critères de reprise, test indépendant et retour arrière sont indispensables.

Sources et références

1. [1] AI Risk Management Framework — NIST
2. [2] ISO 10218 Robots and robotic devices — ISO

Questions liées

• Quelle différence existe entre dérive des données et dérive du concept pour un robot ?
• Comment choisir un seuil d’alerte de dérive pour un modèle robotique ?
• Comment surveiller la qualité d’un modèle lorsque les étiquettes arrivent en retard ?
• Pourquoi surveiller la dérive par classe ou par contexte plutôt que seulement en moyenne ?

Cette réponse vous a-t-elle été utile ?

OuiNon

Commentaire facultatif