Réponse rapide
Une recommandation robotique propose une option à examiner, tandis qu’une décision engage une autorité et produit un effet. Les distinguer clarifie qui valide l’action, quelles informations sont disponibles et comment contester ou corriger une erreur sans masquer la chaîne de responsabilité.
Séparer proposition et effet
Le système peut classer des itinéraires ou signaler une anomalie, mais l’activation d’un mouvement ou d’un service reste attribuée à la personne ou à la règle autorisée. L’interface rend cette transition visible.
Donner les éléments de contrôle
Confiance, données pertinentes, limites et alternatives sont présentées au décideur. Une valeur unique ou une formulation d’autorité ne doit pas faire croire que l’outil a déjà tranché.
Corriger après coup
Journal, justification et canal de contestation permettent de revoir une recommandation. La correction porte sur la décision et, si nécessaire, sur le modèle ou la procédure qui l’a produite.
Sources et références
- [1] OECD AI Principles — OECD
- [2] Artificial Intelligence Risk Management Framework (AI RMF 1.0) — NIST