Pourquoi prévoir une validation humaine avant de promouvoir un modèle robotique ?

Réponse rapide

Prévoir une validation humaine avant de promouvoir un modèle robotique permet de confronter métriques, mission, risques, ressources et limites observées. Le reviewer peut refuser une candidate dont moyenne est bonne mais dont erreur rare, délai ou repli est inacceptable ; décision et conditions restent traçables.

Examiner au-delà du score

Revue couvre cas difficiles, données manquantes, latence, ressources, dérive et comportement lorsque le modèle est indisponible. Mode de repli et critères d’arrêt sont explicités.

Promouvoir par étapes

Candidate est testée hors ligne, en observation puis sur périmètre limité. Chaque étape possède responsable, preuve, durée, seuil et décision documentée.

Éviter la signature automatique

Approbation ralentit le déploiement mais réduit mises en production irréversibles. Reviewer doit disposer d’éléments suffisants et pouvoir refuser ou demander une nouvelle mesure.

Sources et références

  1. [1] Artificial Intelligence Risk Management Framework (AI RMF 1.0) — NIST
  2. [2] MLflow Model Registry Documentation — MLflow

Cette réponse vous a-t-elle été utile ?