Distinguez quatre types d’intervention
| Point de contrôle | Ce que fait la personne |
|---|---|
| Conseil | Utilise une suggestion pour éclairer son propre travail ; le système ne décide pas à sa place. |
| Confirmation | Vérifie l’action précise qui va se produire, y compris sa cible et ses valeurs. |
| Approbation | Prend une décision métier obligatoire avant que le processus puisse continuer. |
| Escalade | Prend le relais parce que la demande est incertaine, hors périmètre ou n’a pas abouti. |
Un bouton de confirmation ne constitue pas automatiquement l’approbation métier exigée par votre procédure. Par exemple, confirmer l’envoi d’un message n’approuve pas nécessairement l’offre commerciale qu’il contient.
- Préparer une proposition
- Examiner les éléments et l’impact
- Approuver ou rejeter
- Vérifier le résultat
Rendez la décision compréhensible
Le réviseur doit voir le résultat proposé, les éléments pertinents et les conséquences. Pour une mise à jour, affichez l’enregistrement cible et les valeurs importantes. Pour un message sortant, affichez le destinataire et le texte final. Donnez à la personne un moyen pratique de rejeter ou de corriger la proposition.
Évitez un écran où l’action la plus facile consiste à approuver des informations que le réviseur ne peut pas examiner. Si les éléments manquent, « demander une précision » doit être une issue légitime plutôt qu’un échec de la tâche.
Exemple concret : modifier un engagement de service
Scénario illustratif. Un agent prépare une réponse à un client qui souhaite avancer une date de livraison. Il peut résumer la demande et les informations de compte pertinentes, mais un collègue désigné doit approuver toute modification de la date promise. Le circuit de mise à jour configuré vérifie l’approbation avant d’appliquer le changement.
Testez ce qui se passe lorsque le collègue rejette la proposition, lorsque l’enregistrement change pendant son examen ou lorsque la mise à jour échoue. Le message final doit décrire ce qui s’est réellement produit.
Traitez séparément les instructions et leur application effective
Une instruction comme « toujours demander d’abord » décrit le comportement souhaité. Si l’approbation est obligatoire, l’action autorisée doit comporter un contrôle effectif qui ne puisse pas être satisfait par la seule affirmation du modèle qu’une approbation existe. Le mécanisme précis dépend de l’implémentation.
Le cadre de gestion des risques de l’IA du NIST organise les travaux autour de la gouvernance, du contexte, de la mesure et de la gestion. Pour un processus métier, cela signifie attribuer les responsabilités et vérifier le processus déployé, au-delà d’une politique écrite. [1]
Vérifiez le canal avant de supposer une expérience identique
REDA AI peut exposer des tâches configurées via différents canaux. Certaines actions peuvent s’exécuter sans carte d’approbation, selon la configuration et le canal. Un hébergeur d’assistant externe peut également présenter les interactions différemment. Ne transformez pas la capture d’écran d’un parcours de confirmation en assurance valable pour toutes les interfaces.
Examinez le canal et l’action choisis avec votre administrateur. Notre guide de gouvernance explique les limites des contrôles ; le pilote doit démontrer le point de contrôle requis avec un utilisateur représentatif.
Sources
- NIST — AI Risk Management Framework. Consulté le 22 septembre 2026.