Un agent IA avec un humain dans la boucle (human in the loop) demande à une personne de valider une action avant qu’elle n’ait lieu, mais seulement pour les actions où une erreur coûte cher, se rattrape mal ou pose un risque juridique. Au service client, répondre à une question fréquente ou modifier une adresse peut se faire seul, un remboursement au-dessus de votre limite exige une validation, et supprimer les données d’un client ne doit jamais être la décision de l’agent.
En bref
- Décidez de l’autonomie action par action, pas agent par agent : un même agent IA peut répondre seul, rembourser dans une limite et transférer une clôture de compte.
- Notez chaque action sur quatre conséquences (réversibilité, argent, juridique ou conformité, préjudice pour le client) de 0 à 3, et laissez la note la plus haute fixer le niveau.
- Cinq niveaux couvrent le travail du support : informer (répondre seulement), agir seul, agir dans une limite, agir avec validation, jamais.
- Une validation n’est un contrôle que si le valideur voit les bons éléments, répond à temps et dit parfois non.
- Élargissez ou restreignez l’autonomie une intention à la fois, sur preuves : conversations évaluées, annulations et validations auditées.
Que signifie « humain dans la boucle » pour un agent IA ?
Humain dans la boucle (human in the loop) signifie qu’une personne doit valider, modifier ou refuser l’action proposée par un agent IA avant qu’elle ne soit exécutée. Humain sur la boucle (human on the loop) signifie que l’agent agit et qu’une personne surveille et peut intervenir après coup. Le service client a besoin des deux : dans la boucle pour les quelques actions risquées, sur la boucle pour tout le reste.
La plupart des guides traitent l’humain comme un point de contrôle unique pour tout l’agent. Au support, cela échoue dans les deux sens : une boucle sur chaque action noie les chefs d’équipe sous les validations, et une boucle sur aucune laisse l’agent résilier un abonnement sur-le-champ alors que le client voulait seulement arrêter le renouvellement automatique.
Les plateformes d’agents construisent le mécanisme pour vous. L’Agent Framework de Microsoft, par exemple, met un workflow en pause et émet une demande de validation quand l’agent tente d’appeler un outil marqué comme soumis à validation, puis reprend quand une réponse revient (Microsoft Learn, en anglais). Ce que la plateforme ne décide pas, c’est quelles actions reçoivent ce marquage. Cette décision revient au directeur ou à la directrice CX, au responsable de l’agent IA et aux responsables des règles.
L’OWASP appelle la défaillance que cela prévient « excessive agency » (autonomie excessive) et cite, parmi ses mesures, un contrôle humain dans la boucle « pour exiger qu’un humain valide les actions à fort impact avant qu’elles ne soient effectuées » (OWASP LLM06:2025, en anglais, notre traduction). Le plus difficile est de définir « fort impact » pour vos propres actions de support. Notre guide sur la gouvernance des agents IA présente 15 contrôles ; cet article approfondit le contrôle 5 (niveaux d’action) et les contrôles 6 et 7 (validations et supervision des valideurs).
Quels sont les cinq niveaux d’autonomie des actions d’un agent IA ?
Les cinq niveaux sont : 0, informer (répondre uniquement à partir de contenus validés) ; 1, agir seul sur des actions réversibles sans argent en jeu ; 2, agir dans une limite sur de l’argent ou des engagements ; 3, agir avec la validation d’une personne ; 4, ne jamais agir et transférer. Chaque action se situe dans un seul niveau.
| Niveau | L’agent peut | Rôle de l’humain | Contrôle type |
|---|---|---|---|
| 0. Informer | Répondre à partir de contenus validés, sans rien modifier | Sur la boucle | Relecture des conversations avec votre grille |
| 1. Agir seul | Effectuer des actions réversibles sans argent en jeu | Sur la boucle | Action consignée, conversations relues |
| 2. Agir dans une limite | Effectuer des actions impliquant de l’argent ou un engagement jusqu’à un seuil fixé | Sur la boucle | Seuil appliqué par la plateforme, tous les cas relus |
| 3. Agir avec validation | Proposer l’action, une personne la valide avant qu’elle ne s’exécute | Dans la boucle | Journal des validations, taux de modification, temps de revue |
| 4. Jamais | Reconnaître le cas et le transférer avec son contexte | Une personne prend le dossier | Qualité du transfert vérifiée |
Ce sont les mêmes niveaux que dans le guide de gouvernance, si bien qu’une seule matrice sert à la fois à votre registre de gouvernance et à la configuration de votre plateforme. Les garde-fous appliquent ensuite les limites à l’intérieur de chaque niveau.
Comment décider quelles actions d’un agent IA exigent une validation humaine ?
Notez chaque action sur quatre conséquences, de 0 (aucune) à 3 (grave) : la réversibilité, l’argent, l’exposition juridique ou de conformité, et le préjudice pour le client si l’action est erronée. C’est la note la plus haute qui fixe le niveau, pas le total, car une action peu coûteuse qu’on ne peut pas annuler reste une action qu’on ne peut pas annuler.
Cette approche suit la logique du Model AI Governance Framework for Agentic AI de Singapour, selon lequel les organisations doivent définir des points de contrôle qui exigent une validation humaine pour les actions à fort enjeu, les actions irréversibles (ses exemples incluent la suppression définitive de données et les paiements), les comportements atypiques et les limites fixées par les utilisateurs eux-mêmes (IMDA, version 1.5, section 2.2.2, en anglais ; voir notre synthèse du cadre). Les responsables support le disent simplement : automatisez selon les conséquences, pas selon la complexité apparente de la conversation. L’échelle ci-dessous rend cela reproductible, pour que deux personnes qui notent la même action obtiennent le même résultat.
L’échelle des conséquences
| Note | Réversibilité | Argent | Juridique ou conformité | Préjudice pour le client en cas d’erreur |
|---|---|---|---|---|
| 0 | Rien ne change, ou le client peut annuler seul | Aucun | Aucun | Aucun |
| 1 | L’équipe peut l’annuler dans la journée, sans coût | Inférieur ou égal à votre limite par action (L1) | Suit une règle écrite, aucun processus réglementé | Désagrément, corrigé au contact suivant |
| 2 | Annulable, mais le client s’en aperçoit ou cela coûte des efforts ou de l’argent | Au-dessus de L1, jusqu’à votre plafond de validation (L2) | Touche un processus réglementé, un délai ou des conditions contractuelles | Perte d’un service, d’un accès ou d’argent que le client doit réclamer |
| 3 | Impossible à annuler | Au-dessus de L2, ou sans montant fixe | Effet juridique pour le client, ou processus que votre entreprise confie à une équipe nommée (données personnelles, juridique, fraude) | Préjudice grave ou durable, y compris pour un client vulnérable |
La règle de notation
Appliquez les règles dans cet ordre et arrêtez-vous à la première qui correspond :
- L’action ne modifie rien (elle ne fait que répondre) : niveau 0, informer.
- Le juridique ou le préjudice client est noté 3 : niveau 4, jamais. Une personne responsable de ce processus prend le dossier.
- Une dimension est notée 2 ou 3 : niveau 3, agir avec validation.
- L’argent est noté 1 : niveau 2, agir dans une limite.
- Tout le reste (toutes les notes à 0 ou 1, sans argent) : niveau 1, agir seul.
Appliquez ensuite trois exceptions liées au contexte, quel que soit le niveau de l’action. Si l’identité n’est pas vérifiée, l’agent ne peut pas agir sur le compte du tout. Si le client montre des signes de vulnérabilité, évoque une action en justice ou dépose une réclamation formelle, la conversation passe à une personne (niveau 4). Si la demande est inhabituelle pour ce client, comme un troisième remboursement dans le mois, elle monte d’un niveau. Cette dernière exception est le point de contrôle « atypique » de l’IMDA traduit en termes de support.
Quelles actions de support exigent une validation humaine ? La matrice d’autonomie
Modifier une adresse et désactiver le renouvellement automatique peuvent se faire seuls ; les petits remboursements, les annulations de frais et les gestes commerciaux se font dans une limite ; les remboursements plus importants, les résiliations immédiates et les clôtures de compte exigent une validation ; la suppression de données et la modification de coordonnées bancaires restent à une personne.
Les limites (L1 = 50 €, L2 = 250 €) et les notes ci-dessous sont une illustration pour une équipe abonnement et e-commerce. Copiez les colonnes, pas les chiffres.
| Action | Réversibilité | Argent | Juridique | Préjudice | Niveau | Pourquoi |
|---|---|---|---|---|---|---|
| Répondre à une question fréquente (délai de retour, horaires) | 0 | 0 | 0 | 1 | 0. Informer | Ne modifie rien ; une mauvaise réponse est repérée par la relecture des conversations |
| Modifier une adresse de livraison avant expédition (client vérifié) | 1 | 0 | 0 | 1 | 1. Agir seul | L’équipe peut corriger le jour même |
| Résilier à l’échéance (désactiver le renouvellement automatique) | 1 | 0 | 1 | 1 | 1. Agir seul | Le client garde l’accès jusqu’à la fin de la période |
| Rembourser jusqu’à 50 € une commande éligible | 1 | 1 | 1 | 1 | 2. Dans une limite | De l’argent, mais sous L1 et dans le cadre d’une règle écrite |
| Annuler des frais de retard, une fois sur 12 mois | 1 | 1 | 1 | 0 | 2. Dans une limite | Faible montant, encadré par une règle, facile à auditer |
| Geste commercial dans le montant prévu par la règle | 1 | 1 | 1 | 1 | 2. Dans une limite | Comme un petit remboursement ; hors règle, il passe au niveau 3 |
| Rembourser plus de 50 € | 1 | 2 | 1 | 1 | 3. Avec validation | Montant au-dessus de L1 ; au-dessus de 250 €, il faut un valideur plus senior |
| Résilier immédiatement avec un remboursement au prorata | 2 | 1 | 1 | 2 | 3. Avec validation | Le client perd l’accès tout de suite ; souvent pas ce qu’il voulait |
| Clôturer un compte | 3 | 1 | 2 | 2 | 3. Avec validation | L’historique et les soldes ne peuvent pas être restaurés |
| Supprimer les données personnelles du client | 3 | 0 | 3 | 2 | 4. Jamais | Irréversible, et processus réglementé confié à l’équipe données personnelles |
| Modifier les coordonnées bancaires ou de versement | 2 | 3 | 2 | 3 | 4. Jamais | Cible classique de fraude ; le préjudice peut être important et durable |
Définissez l’action avec précision. « Résilier l’abonnement » recouvre deux actions de niveaux différents. Un agent qui résilie immédiatement alors que le client demandait d’arrêter le prochain renouvellement a correctement exécuté la mauvaise action.
Séparez la demande de son exécution. L’agent peut accepter et consigner une demande de suppression de données (niveau 1) tandis que la suppression elle-même reste à l’équipe données personnelles (niveau 4). Au titre du RGPD, l’entreprise doit informer le client des mesures prises à la suite de sa demande « dans les meilleurs délais et en tout état de cause dans un délai d’un mois à compter de la réception de la demande » (article 12, paragraphe 3, du RGPD). Un transfert propre, avec un ticket et une échéance, est donc le travail de l’agent.
Faites vérifier la colonne juridique par votre conseil. L’article 22 du RGPD donne aux personnes le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé produisant des effets juridiques ou des effets similaires significatifs, avec des exceptions ; lorsqu’une exception s’applique, l’entreprise doit au minimum offrir le droit d’obtenir une intervention humaine. Qu’une clôture de compte ou un refus en relève dépend de votre cas, c’est pourquoi la matrice envoie ces actions à une personne. Pour les obligations propres à l’UE, consultez notre guide sur l’AI Act et le service client.
Comment fonctionne en pratique un circuit de validation pour un agent IA ?
L’agent propose l’action, la plateforme la met en pause et envoie une carte de validation à la bonne personne, qui valide, modifie ou refuse dans un délai fixé, puis l’agent explique au client la suite. Si personne ne répond à temps, l’action est refusée et le dossier passe à une personne.
Qui valide
Orientez chaque action de niveau 3 vers le rôle qui prend déjà cette décision pour les conseillers, pas vers un nouveau rôle.
| Action | Valideur | Relais en cas d’absence |
|---|---|---|
| Remboursement entre L1 et L2 | Chef d’équipe de service | N’importe quel chef d’équipe de la file |
| Remboursement au-dessus de L2 | Spécialiste facturation ou finance | Transfert, aucune action |
| Geste commercial hors règle | Chef d’équipe | Transfert, aucune action |
| Résiliation immédiate | Spécialiste fidélisation ou facturation | Proposer plutôt une résiliation à l’échéance |
| Clôture de compte | Spécialiste comptes | Transfert, aucune action |
En combien de temps valider
Le délai de validation doit correspondre au canal. En chat, le client attend : il faut une réponse en quelques minutes, ou un message clair indiquant que l’action suivra par e-mail. Pour les e-mails et les tickets, quelques heures suffisent souvent. Fixez un objectif par canal et mesurez-le.
Quand le délai est dépassé, refusez par défaut. L’IMDA cite le fait de « refuser l’action par défaut lorsque les dispositifs de validation sont défaillants », par exemple quand les superviseurs sont injoignables, parmi ses mesures de monitoring (section 2.2.2, notre traduction). Le client doit alors entendre qu’une personne va le recontacter, jamais le silence.
Ce que voit le valideur
L’IMDA recommande des demandes de validation « contextuelles et faciles à assimiler », courtes et claires plutôt que de longs journaux, qui rendent le risque évident et incluent des données utiles comme le risque de l’action (section 2.2.2, notre traduction). Pour un remboursement, cela tient sur une carte :
- L’action, le montant et la règle qui déclenche la validation (« remboursement de 120 €, au-dessus de la limite de 50 € »).
- Le statut de l’identité et l’historique utile, comme les remboursements des 12 derniers mois.
- La règle sur laquelle s’appuie l’agent, en lien, avec sa version.
- La raison de l’agent en une phrase, un résumé de deux lignes et un lien vers la transcription.
- Les notes de conséquences, pour que le valideur sache ce qui est en jeu.
- Valider, modifier ou refuser, avec une raison obligatoire pour modifier ou refuser, et une justification écrite pour les validations au-dessus de L2.
Exemple chiffré : combien de validations votre équipe peut-elle absorber ?
Illustration, avec des chiffres choisis pour l’exemple. Un agent IA traite 40 000 conversations par mois, et 6 % d’entre elles se terminent par une action de niveau 3. Cela fait 2 400 validations par mois, soit environ 109 par jour ouvré sur 22 jours. À 90 secondes par validation, cela représente environ 2,7 heures de temps de chef d’équipe chaque jour, avant que quiconque n’ait lu une transcription en détail.
Les validations sont une ligne de votre planification des effectifs : traitez-les comme telle. Si la part du niveau 3 passe à 15 %, la même équipe fait face à environ 273 validations par jour et la qualité de la revue baisse. C’est le moment de faire passer certaines actions au niveau 2 avec une limite, sur preuves, plutôt que de demander aux gens de cliquer plus vite.
Comment éviter la fatigue de validation et la validation machinale ?
Mesurez les valideurs, pas seulement l’agent. Suivez pour chaque valideur le taux de modification (la fréquence à laquelle il modifie ou refuse) et le temps de revue. L’IMDA note qu’un taux de modification faible peut signaler une validation machinale et qu’un temps de revue plus court peut signaler un biais d’automatisation ou une fatigue de relecture (section 2.2.2). Auditez ensuite un échantillon d’actions validées.
Le biais d’automatisation, c’est-à-dire accepter la suggestion d’un système sans la vérifier, augmente quand les demandes sont presque toujours justes. Le problème s’aggrave donc à mesure que l’agent s’améliore.
Illustration de ce que peut montrer le rapport, avec des chiffres inventés :
| Valideur | Demandes (30 jours) | Modifiées ou refusées | Taux de modification | Temps de revue médian |
|---|---|---|---|---|
| Chef d’équipe A | 1 200 | 20 | 1,7 % | 4 secondes |
| Chef d’équipe B | 640 | 58 | 9,1 % | 70 secondes |
| Chef d’équipe C | 710 | 61 | 8,6 % | 65 secondes |
Le chef d’équipe A est la valeur « atypique » que décrit l’IMDA, un valideur dont les décisions s’écartent de la norme. Quatre secondes ne suffisent pas pour lire une carte. Ce n’est pas un constat disciplinaire : cela signifie en général que A couvre le créneau le plus chargé.
Quatre habitudes gardent les validations utiles :
- Gardez le niveau 3 restreint. Si un valideur traite plus d’un nombre fixé de demandes par heure, faites descendre d’un niveau, avec une limite, les actions manifestement sûres.
- Auditez les actions validées. Chaque semaine, faites relire par l’équipe qualité un échantillon d’actions validées au regard de la règle. Un taux de validation ne dit rien ; un taux de validations correctes, si.
- Formez les valideurs aux défaillances des agents, comme le fait de citer une règle périmée, exemple donné par l’IMDA. Notre article sur les raisons pour lesquelles les conversations IA échouent liste les plus courantes.
- Faites tourner et plafonnez. Répartissez les validations entre les chefs d’équipe et fixez un plafond par créneau, pour que personne ne valide des centaines de demandes d’affilée.
Quelles preuves doivent élargir ou restreindre les autorisations d’un agent IA ?
Élargissez l’autonomie pour une intention quand ses conversations évaluées sont conformes, que ses validations se révèlent majoritairement correctes à l’audit et que ses actions sont rarement annulées ou contestées. Restreignez-la dès que l’un de ces points se dégrade. Changez une chose à la fois : relevez une limite ou faites descendre une action d’un niveau, puis observez les semaines suivantes.
Les preuves par intention :
| Signal | Ce qu’il vous dit | Élargir quand | Restreindre quand |
|---|---|---|---|
| Notes des conversations (exactitude, règles, escalade) | Si l’agent applique correctement la règle | Les critères critiques sont conformes de façon constante | Une défaillance critique se répète |
| Taux de modification des validations | La fréquence à laquelle les gens sont en désaccord avec l’agent | Faible, avec des temps de revue normaux et des audits sans défaut | En hausse, ou faible avec des temps de revue très courts |
| Audit des actions validées | Si les validations étaient justes | Presque toutes correctes | Des validations erronées sont trouvées |
| Taux d’annulation (remboursements récupérés, résiliations annulées) | Si les actions ont tenu | Rare | En hausse |
| Réouvertures et réclamations après l’action | Si le client était d’accord | Stables ou en baisse | En hausse |
Un taux de modification faible peut signifier que l’agent a raison, ou que les valideurs ont arrêté de lire. Seuls l’audit et les temps de revue permettent de trancher : utilisez les trois avant d’élargir. Élargissez ensuite par étapes : relevez L1 de 50 € à 75 € pour les remboursements d’une intention, gardez tout le reste, et comparez les quatre semaines suivantes avec les quatre précédentes. Le guide de gouvernance donne des exemples de critères pour faire monter une intention d’un niveau et une règle de rétrogradation. Pour vérifier que les actions ont réglé le besoin du client, voyez comment mener un audit du taux de résolution des agents IA, et gardez à jour les règles derrière chaque limite grâce à la gestion des politiques des agents IA.
Quand cette matrice n’est pas pour vous
Si votre agent IA se contente de répondre aux questions, vous êtes entièrement au niveau 0 : il vous faut une bonne base de connaissances, une règle de transfert et la relecture des conversations, pas un circuit de validation. Construisez la matrice la semaine avant de connecter l’agent aux remboursements ou aux modifications de compte. Et avec quelques dizaines d’actions par semaine, un chef d’équipe peut toutes les lire après coup : les rapports sur les taux de modification apportent alors peu.
La place de Kaizo
Kaizo assure le contrôle qualité et la supervision de la gouvernance pour les équipes support où les personnes et les agents IA se partagent le travail. AutoPilot évalue chaque conversation résolue selon votre propre grille, si bien que les notes de conversation du tableau des preuves portent sur toutes vos conversations, pas sur un échantillon, et chaque note renvoie aux lignes qui la justifient. Découvrez comment fonctionne le contrôle qualité des agents IA.
Voyez-le sur vos propres conversations. Kaizo évalue 100 % de vos conversations de support, celles de votre équipe comme celles de vos agents IA, et montre où la qualité se dégrade. Réservez une démo.
Par où commencer cette semaine
Vous pouvez construire une première matrice d’autonomie en un après-midi avec le responsable de votre agent IA et un chef d’équipe, à partir de la configuration de la plateforme, du journal des validations du mois dernier et de la règle de notation ci-dessus.
- Listez chaque action que votre agent IA peut effectuer aujourd’hui, à partir de la configuration de la plateforme, pas de mémoire.
- Notez chaque action, puis appliquez la règle de notation et les trois exceptions liées au contexte.
- Comparez avec la plateforme. Vérifiez que chaque limite de niveau 2 et chaque marquage de validation de niveau 3 est appliqué par la plateforme, pas seulement dans le prompt.
- Nommez le valideur et le délai pour chaque action de niveau 3, et réglez le refus par défaut en cas de dépassement.
- Récupérez les chiffres du mois dernier : validations par jour, taux de modification et temps de revue médian par valideur. C’est votre point de départ pour la première revue de l’autonomie.
Notre guide sur le service client agentique montre où ces niveaux s’inscrivent dans le déploiement d’ensemble.
Questions fréquentes
Qu’est-ce que l’autorisation avec humain dans la boucle pour les agents IA ?
C’est une règle selon laquelle un agent IA ne peut pas effectuer certaines actions tant qu’une personne nommée ne les a pas validées. L’agent propose l’action, la plateforme la met en pause, et le valideur la valide, la modifie ou la refuse. L’autorisation porte sur une action et un montant, ce n’est pas une permission générale accordée à l’agent.
ChatGPT fonctionne-t-il avec un humain dans la boucle ?
À lui seul, un assistant conversationnel fonctionne avec un humain dans la boucle au sens simple : il produit du texte et une personne décide quoi en faire. Dès qu’il est connecté à des outils qui effectuent des actions, comme des remboursements, vous devez décider quelles actions s’exécutent seules et lesquelles attendent une personne.
À quoi sert un bouton d’arrêt d’urgence (kill switch) pour un agent IA ?
Un bouton d’arrêt d’urgence arrête rapidement un agent IA, ou l’une de ses actions, quand quelque chose tourne mal, comme une mauvaise mise en production ou une erreur de règle qui se répète à grande échelle. Il complète les validations : les validations bloquent une action risquée avant qu’elle n’ait lieu, et un mécanisme d’arrêt limite les dégâts quand un schéma passe entre les mailles. Vérifiez ce que propose votre plateforme d’agents pour mettre en pause un agent ou une action, et qui peut s’en servir.
Les limites de remboursement doivent-elles être les mêmes pour tous les clients ?
Pas nécessairement. Fixez une limite par action, puis abaissez-la ou exigez une validation en cas de remboursements récents, d’identité non vérifiée ou de demande inhabituelle. L’IMDA mentionne aussi les limites fixées par les utilisateurs eux-mêmes, comme une validation pour les achats au-dessus d’un montant.
Que dit l’agent IA au client pendant qu’il attend la validation ?
Il doit dire simplement qu’un collègue doit confirmer l’action, combien de temps cela prend en général et comment le client sera informé. Il ne doit jamais promettre le résultat avant la validation : une promesse refusée est pire qu’une courte attente.
Un humain dans la boucle réduit-il la responsabilité de l’entreprise en cas d’erreur de l’agent IA ?
Non. Une validation montre qu’une personne a vérifié l’action, mais la responsabilité reste celle de l’entreprise, et un journal de validations machinales peut montrer que la supervision n’était pas réelle. Conservez le journal des validations, les taux de modification et les audits, pour pouvoir montrer que les contrôles ont fonctionné.
