La gouvernance des agents IA au service client est l’ensemble des responsables, des règles et des contrôles qui décident de ce qu’un agent IA peut dire et faire avec vos clients, de la façon dont ses conversations sont relues et de ce qui se passe quand il se trompe. Bien menée, elle n’est pas un frein. Elle produit les preuves dont vous avez besoin pour donner plus d’autonomie à l’agent, une étape à la fois.
En bref
- La plupart des guides traitent de l’IT et de la sécurité. Le service client a aussi besoin d’une gouvernance de ce que l’agent promet, des règles qu’il applique et du moment où il passe la main.
- Chaque agent IA a besoin d’un responsable unique, et chaque règle qu’il applique a besoin d’un responsable et d’une date de révision.
- Classez les actions de l’agent par niveaux : répondre seulement, agir seul, agir dans une limite, agir avec validation, jamais.
- Superviser, c’est évaluer les conversations elles-mêmes, et vérifier que les personnes qui valident les actions de l’agent ne les approuvent pas machinalement.
- Les 15 contrôles ci-dessous, chacun avec ses preuves, forment un modèle opérationnel à copier et les critères pour élargir l’autonomie.
Qu’est-ce que la gouvernance des agents IA au service client ?
La gouvernance des agents IA au service client consiste à décider qui est responsable de chaque agent IA, dans quelles règles et limites il travaille, quelles actions exigent une personne, comment ses conversations sont relues et comment les incidents sont traités. La gouvernance IT demande si l’agent peut accéder à un système. La gouvernance du service client demande si ce qu’il a fait pour le client était juste.
La plupart des pages sur ce sujet s’adressent aux équipes IT et sécurité. Ce travail est nécessaire, mais il ne suffit pas : un agent aux autorisations parfaitement délimitées peut quand même annoncer à 300 clients le mauvais délai de retour.
| Question | Gouvernance IT et sécurité | Gouvernance du service client |
|---|---|---|
| Que contrôle-t-elle ? | L’accès : identités, autorisations, outils, données | Le comportement : réponses, promesses, actions, transferts |
| Défaillance type | L’agent accède à un système auquel il ne devrait pas accéder | L’agent applique une ancienne règle, promet un remboursement qu’il ne peut pas accorder ou garde un dossier qu’il devrait transférer |
| Où se trouvent les preuves | Journaux d’accès, traces des appels d’outils | Dans les conversations elles-mêmes |
Le terme est nouveau pour vous ? Commencez par ce qu’est l’IA agentique (en anglais) et notre guide sur le service client agentique.
Que doit contenir un cadre de gouvernance des agents IA ?
Un cadre de gouvernance des agents IA pour le service client doit contenir un registre des agents, des responsables nommés, la responsabilité et le contrôle des changements des règles, des niveaux d’action avec des points de validation, des tests avant mise en production, la relecture des conversations, des règles d’escalade, l’information sur l’IA, une procédure d’incident et une revue régulière de l’autonomie. Chaque contrôle doit produire une preuve présentable à un auditeur.
Copiez le tableau, attribuez un responsable à chaque ligne, et les lacunes de votre organisation actuelle apparaîtront vite.
| # | Contrôle | Responsable | Preuve attendue | Fréquence |
|---|---|---|---|---|
| 1 | Registre des agents : chaque agent IA avec ses intentions, canaux, langues, version et plateforme | Responsable de l’agent IA | Fiche du registre avec la date de dernière revue | À chaque modification ; revue trimestrielle |
| 2 | Un responsable unique par agent, et un responsable par intention | Directeur ou directrice CX | Matrice des responsabilités signée (ci-dessous) | Trimestrielle |
| 3 | Source de référence des règles : chaque règle appliquée par l’agent a un responsable et une date de révision | Responsables des règles | Liste des règles avec responsable, version, date de révision | Mensuelle |
| 4 | Déclencheur de changement de règle : le contenu de l’agent est mis à jour et testé avant l’entrée en vigueur d’un changement de règle | Responsable de la règle, responsable de l’agent IA | Fiche de changement avec un résultat de test daté d’avant l’entrée en vigueur | À chaque changement |
| 5 | Niveaux d’action : ce que l’agent peut faire, à quel niveau, avec quels seuils | Directeur ou directrice CX | Matrice des actions et configuration de la plateforme qui l’applique | Trimestrielle, avant toute nouvelle action |
| 6 | Points de validation pour les actions qui exigent une personne | Chefs d’équipe | Journal des validations : qui, quand, quoi, validé ou modifié | En continu |
| 7 | Supervision des valideurs : taux de modification et temps de revue | Responsable qualité | Rapport avec les valeurs atypiques | Mensuelle |
| 8 | Tests avant mise en production par intention, y compris les cas limites des règles et les tentatives de faire sortir l’agent de ses règles | Responsable de l’agent IA | Jeu de tests et résultats par version, avec seuil de réussite | À chaque mise en production |
| 9 | Déploiement progressif et retour arrière | Responsable de l’agent IA | Fiche de mise en production avec la part du trafic et le plan de retour arrière | À chaque mise en production |
| 10 | Relecture des conversations avec une grille : exactitude, règles, escalade, information, ton | Responsable qualité | Conversations évaluées, chaque note renvoyant aux lignes qui la justifient | En continu |
| 11 | Règles d’escalade : quand l’agent passe la main, et quel contexte il transmet | Directeur ou directrice CX | Déclencheurs écrits, notes de qualité des transferts | Trimestrielle |
| 12 | Information sur l’IA dès la première interaction, sur chaque canal et dans chaque langue | Juridique ou conformité | Texte d’information par canal et par langue, contrôle évalué de cette information | À chaque mise en production |
| 13 | Limites d’accès et de données : identité propre, moindre privilège, traitement des données personnelles | IT et sécurité | Revue des accès, registre des traitements | Trimestrielle |
| 14 | Procédure d’incident : niveaux de gravité, qui peut mettre l’agent en pause, comment retrouver les clients touchés et réparer | Directeur ou directrice CX | Journal des incidents, liste des clients touchés, revue après incident | À chaque incident |
| 15 | Revue de l’autonomie : élargir ou restreindre le périmètre par intention, sur la base des preuves ci-dessus | Directeur ou directrice CX, responsable de l’agent IA | Compte rendu de décision avec les indicateurs utilisés | Mensuelle |
Les contrôles 1, 8, 9 et 13 sont proches du travail plateforme et IT qui accompagne tout déploiement. Les contrôles 3, 4, 7, 10 et 15 relèvent de l’équipe support, et ce sont eux qui décident si les erreurs de l’agent restent petites.
Qui est responsable d’un agent IA au service client ?
Une seule personne est responsable de chaque agent IA au service client : en général un responsable de l’agent IA rattaché au directeur ou à la directrice CX, qui répond de ses résultats. Les responsables des règles tiennent les contenus à jour, le responsable qualité relit ses conversations, l’IT sécurise ses accès et le juridique vérifie l’information des clients. Une responsabilité partagée sans nom unique est la lacune la plus fréquente.
Le cadre de Singapour pour l’IA agentique est direct sur ce point : « En tant que déployeurs, les organisations et les humains restent responsables des décisions et des actions des agents » (IMDA, Model AI Governance Framework for Agentic AI, en anglais, version 1.5, section 2.2.1, notre traduction). Le fournisseur construit l’agent. Votre entreprise répond de ce qu’il dit à vos clients.
Le rôle représente un vrai travail. Une équipe qui a passé deux mois à évaluer des plateformes d’agents IA pour grandes entreprises a conclu sur Reddit qu’il lui faudrait à peu près une personne à temps plein pour en être responsable (discussion, en anglais). Prévoyez-le avant le lancement.
Une matrice RACI à copier (R = réalise, A = responsable final, C = consulté, I = informé) :
| Activité | Directeur ou directrice CX | Responsable de l’agent IA | Responsables des règles | Responsable qualité | IT et sécurité | Juridique ou conformité |
|---|---|---|---|---|---|---|
| Décider des intentions traitées par l’agent | A | R | C | C | I | C |
| Fixer les niveaux d’action, valider les mises en production, gérer les incidents, élargir ou restreindre l’autonomie | A | R | C | C | C | C |
| Tenir à jour les règles et les contenus d’aide | I | C | A, R | I | C | |
| Relire les conversations et rendre compte de la qualité | I | C | I | A, R | I | |
| Accorder et revoir les accès aux systèmes | I | C | A, R | |||
| Vérifier l’information des clients et les obligations réglementaires | I | C | C | A, R |
Quelles règles un agent IA doit-il suivre, et qui les tient à jour ?
Un agent IA doit suivre les mêmes règles client que votre équipe humaine (remboursements, retours, éligibilité, compensations), plus des règles de conduite (information, ton, clients vulnérables) et des règles d’escalade. Chaque règle a besoin d’un responsable nommé et d’une date de révision, et tout changement doit atteindre les contenus de l’agent avant d’entrer en vigueur.
La défaillance, ici, est rarement une hallucination spectaculaire. C’est un agent qui applique parfaitement la règle du mois dernier, dans chaque conversation sur ce sujet, jusqu’à ce que quelqu’un modifie le contenu. C’est pourquoi notre guide sur les hallucinations des agents IA vérifie les réponses par rapport à la règle elle-même et commence par les sujets d’argent.
Trois règles gardent les règles à jour : l’agent répond à partir des mêmes pages de règles que votre équipe, pas d’une copie collée dans un prompt ; chaque demande de changement de règle comprend « mettre à jour et tester l’agent IA » avant la date d’entrée en vigueur ; et chaque mois, le responsable qualité liste les règles dont la date de révision est dépassée, pour que leurs responsables les confirment ou les mettent à jour.
Quelles actions un agent IA peut-il faire seul, et lesquelles exigent une validation ?
Un agent IA peut agir seul sur des actions réversibles et de faible valeur, dans des limites écrites, comme renvoyer une facture ou émettre un remboursement sous un montant fixé. Les actions à fort enjeu, irréversibles ou inhabituelles exigent d’abord la validation d’une personne. Certaines actions ne lui sont jamais permises. Écrivez les niveaux, avec leurs seuils, avant la mise en service de l’agent.
Le cadre de l’IMDA cite quatre types de points de contrôle qui doivent déclencher une validation humaine (section 2.2.2) : les actions à fort enjeu, les actions irréversibles (ses exemples incluent l’envoi de communications et les paiements), les comportements atypiques et les limites fixées par l’utilisateur. Appliqué au service client :
| Niveau | Ce que l’agent peut faire | Exemples au service client | Contrôle |
|---|---|---|---|
| 0. Informer | Répondre uniquement à partir de contenus validés | Horaires d’ouverture, statut de commande, questions pratiques | Relecture des conversations |
| 1. Agir seul | Actions réversibles sans argent en jeu | Renvoyer une facture, modifier une consigne de livraison, réserver un créneau de rappel | Consigné et relu |
| 2. Agir dans une limite | Actions impliquant de l’argent ou un engagement sous un seuil | Remboursement ou avoir sous votre limite, annulation unique de frais | Seuil appliqué par la plateforme, tous les cas relus |
| 3. Agir avec validation | Actions au-dessus de la limite, exceptions et cas qui demandent du jugement | Remboursement au-dessus de la limite, geste commercial hors règle, clôture de compte | Une personne valide avant l’action |
| 4. Jamais | Hors du périmètre de l’agent | Menaces juridiques, réclamations réglementaires, signes de vulnérabilité, modification de coordonnées bancaires | Transfert immédiat à une personne |
Deux détails font tenir les niveaux. C’est la configuration de la plateforme qui applique la limite, pas seulement le prompt. Et les validations ont elles aussi besoin de gouvernance. L’IMDA propose de suivre le taux de modification par les humains, car « un taux faible peut signaler une validation machinale », et le temps de revue, car un temps plus court peut signaler un biais d’automatisation ou une fatigue de relecture (section 2.2.2, notre traduction). Un valideur qui accepte 100 % des demandes en quatre secondes chacune n’est pas un contrôle.
Si plusieurs agents travaillent sur un même dossier, les niveaux doivent être cohérents entre eux. L’exemple de l’IMDA lui-même est celui d’un agent de support qui propose des remboursements pour résoudre vite les réclamations, tandis qu’un agent de protection du chiffre d’affaires bloque les remboursements au-dessus d’un seuil (section 1.2.3). Notre guide sur l’orchestration des agents IA explique comment concevoir ces transferts.
Comment relire les conversations d’un agent IA ?
Vous relisez les conversations d’un agent IA en les évaluant avec une grille écrite (exactitude, règles, escalade, information, ton) et en reliant chaque note aux lignes qui la justifient. Évaluez-les toutes, ou au moins chaque conversation de niveau 2 et au-delà, car les erreurs d’un agent IA se répètent et un petit échantillon les découvre tard.
La supervision a trois niveaux, chacun avec son guide dans cette série :
| Niveau | Question à laquelle il répond | Quand | Pour aller plus loin |
|---|---|---|---|
| Tests | La nouvelle version se comporte-t-elle bien avant que les clients ne la voient ? | Avant chaque mise en production | Tests d’agents IA, tester un chatbot |
| Monitoring | Quelque chose est-il en train de casser ? | En direct, avec des alertes | Monitoring des agents IA |
| Évaluation et contrôle qualité | Chaque conversation était-elle juste, et où la qualité se dégrade-t-elle ? | Après chaque conversation | Évaluation des agents IA |
Le taux de résolution n’est pas une note qualité : une conversation compte comme résolue quand le client n’a pas atteint une personne, ce qui ne dit rien de la justesse de la réponse. Notre liste des erreurs silencieuses des agents IA montre six façons dont les erreurs d’un agent sont comptées comme des succès.
Utilisez une grille d’évaluation commune aux conseillers et aux agents IA là où les critères s’appliquent aux deux, plus des contrôles propres à l’IA comme les faits et les règles inventés. Et dimensionnez honnêtement votre échantillon : un échantillon de 3 % (en anglais) ne peut pas fonder des décisions sur un seul agent.
Quelles preuves d’audit conserver pour un agent IA ?
Conservez des preuves qui montrent, pour n’importe quelle date, quelle version de l’agent tournait, quelles règles il appliquait, ce qu’il avait le droit de faire, qui a validé ses actions, comment ses conversations ont été évaluées et comment les incidents ont été traités. C’est la colonne des preuves des 15 contrôles, rangée là où un auditeur peut la trouver.
Le plus difficile à reconstituer après coup, c’est l’historique des versions relié aux versions des règles (« quel délai de retour l’agent appliquait-il le 3 mars ? ») et les conversations évaluées avec les lignes de transcription jointes. Pour les questions que l’IT et les achats posent sur les outils eux-mêmes, consultez notre checklist de sécurité pour le contrôle qualité par IA.
Comment gérer un incident lié à un agent IA ?
Gérez un incident lié à un agent IA en cinq étapes : le contenir (orienter le sujet concerné vers des personnes ou revenir à la version précédente), retrouver chaque conversation touchée, réparer auprès de ces clients, corriger la cause et retester, puis évaluer les conversations suivantes pour confirmer que la correction tient. Décidez à l’avance qui peut mettre l’agent en pause.
Un exemple chiffré montre pourquoi la deuxième étape exige une couverture complète. Les chiffres sont une illustration, pas les données d’une entreprise réelle.
- Un agent IA traite 40 000 conversations par mois. Les retours en représentent 12 %, soit environ 4 800 par mois, ou 160 par jour.
- Le 1er du mois, le délai de retour passe de 30 à 14 jours. Le contenu de l’agent est mis à jour le 10, si bien que pendant 9 jours il applique l’ancien délai.
- Pendant ces 9 jours, il traite environ 1 440 conversations sur les retours. Si 20 % concernent des articles achetés il y a 15 à 30 jours, environ 288 clients s’entendent dire qu’ils peuvent encore retourner leur article.
- Un échantillon aléatoire de 2 % porte sur environ 800 conversations par mois, soit 240 sur ces 9 jours. Environ 29 d’entre elles concernent des retours, et environ 6 contiennent l’erreur.
L’échantillon peut repérer le problème. Il ne peut pas vous dire qui sont les 282 autres clients ; pour cela, il faut rechercher ou évaluer chaque conversation sur le sujet. Honorer les promesses, pour un panier moyen de 60 €, coûte environ 17 280 €, plus les contacts que cela génère.
Fixez les niveaux de gravité à l’avance. Un engagement financier ou juridique erroné répété auprès de plusieurs clients, ou des données personnelles divulguées, signifie mettre le sujet en pause dans l’heure et prévenir le juridique ; une mauvaise réponse sur une règle sans engagement financier signifie orienter le sujet vers des personnes et corriger en quelques jours ; les problèmes de ton attendent la prochaine mise en production.
Qu’exigent l’AI Act et le cadre de Singapour des agents IA au service client ?
L’AI Act (le règlement européen sur l’IA) exige que les clients soient informés qu’ils interagissent avec un système d’IA, au plus tard lors de la première interaction, sauf si cela est évident ; cette obligation s’applique depuis le 2 août 2026. Le Model AI Governance Framework for Agentic AI de Singapour est un guide, pas une loi, qui couvre la délimitation des risques, la responsabilité humaine, les contrôles techniques et la transparence envers l’utilisateur final.
AI Act. L’article 50, paragraphe 1, du règlement (UE) 2024/1689 fait peser cette obligation sur les fournisseurs de systèmes d’IA qui interagissent directement avec des personnes. La FAQ de la Commission européenne sur l’article 50 (mise à jour le 24 juillet 2026) confirme qu’elle s’applique à partir du 2 août 2026, que l’information est due dès le début de la première interaction et que l’exception « évident » doit être interprétée de façon restrictive. L’IA qui surveille et évalue les salariés peut relever du haut risque au titre de l’annexe III, avec des obligations à partir du 2 décembre 2027 selon la modification de 2026 (page de la Commission sur l’AI Act). Notre guide sur l’AI Act et le service client entre dans le détail.
Singapour. Le cadre de l’IMDA (version 1.5, mise à jour le 5 juin 2026) s’adresse aux organisations qui construisent des agents IA ou qui en achètent. Pour les agents en contact avec les clients, il demande de la transparence, notamment d’indiquer aux utilisateurs ce que l’agent peut faire et quelles personnes ils peuvent alerter en cas de dysfonctionnement (section 2.4.2). Notre article sur le cadre de gouvernance de Singapour pour l’IA agentique le détaille pour les équipes support.
NIST. Aux États-Unis, le NIST AI Risk Management Framework (en anglais) (version 1.0, 26 janvier 2023) est destiné à un usage volontaire et organise le travail en quatre fonctions : Govern, Map, Measure et Manage.
Les 15 contrôles correspondent aux trois. Cette section résume des textes publics et ne constitue pas un conseil juridique ; vérifiez vos propres obligations avec votre conseil.
Comment la gouvernance permet-elle d’élargir l’autonomie d’un agent IA pas à pas ?
La gouvernance permet d’élargir l’autonomie en faisant de chaque étape une décision fondée sur des preuves : une intention monte d’un niveau quand ses conversations évaluées, ses résultats de tests et son historique d’incidents atteignent des seuils fixés à l’avance, et elle redescend quand ce n’est pas le cas. Sans ces preuves, l’autonomie grandit par optimisme, ou pas du tout.
L’IMDA recommande de déployer les agents progressivement, par utilisateurs, par outils et protocoles que l’agent peut utiliser, et par systèmes auxquels il est exposé (section 2.3.3). Au service client, l’unité naturelle est l’intention : élargissez une intention à la fois, pas l’agent entier.
Exemples de critères pour faire monter une intention d’un niveau. Ce sont des points de départ illustratifs, pas des références du secteur ; fixez les vôtres :
| Critère | Exemple de seuil |
|---|---|
| Volume évalué | Au moins 300 conversations sur cette intention au cours des 30 derniers jours |
| Critères critiques (exactitude, règles) | 98 % ou plus de réussite |
| Défaillances critiques | Aucune au cours des 30 derniers jours |
| Escalade correcte | 95 % ou plus des cas qui devaient être transférés l’ont été |
| Tests | Les actions du nouveau niveau réussissent le jeu de tests avant mise en production |
| Validation des responsables | Directeur ou directrice CX et responsable de l’agent IA, consignée dans la revue de l’autonomie |
Les règles de rétrogradation comptent tout autant. Une règle raisonnable : un schéma de défaillance critique (par exemple la même cause trois fois en une semaine) fait redescendre l’intention d’un niveau jusqu’à ce que la correction soit testée et que les conversations suivantes soient évaluées sans défaut. Périmètre étroit d’abord, périmètre plus large sur preuves.
De quels outils de gouvernance des agents IA avez-vous besoin ?
Il vous faut des outils pour cinq tâches : les contrôles de la plateforme d’agents (limites, mises en production, retour arrière), la sécurité des identités et des accès, un registre de gouvernance ou des risques, le monitoring et l’évaluation du comportement des agents, et le contrôle qualité des conversations elles-mêmes. Aucun outil ne couvre à lui seul les 15 contrôles : associez chaque contrôle à l’outil qui en produit la preuve.
| Type d’outil | Contrôles qu’il couvre en général | Ce qu’il laisse ouvert |
|---|---|---|
| Plateforme d’agents IA | 5, 6, 8, 9 : limites, validations, déploiement progressif, retour arrière | Ce que l’agent a dit aux clients |
| Identité et sécurité | 13 : identité, moindre privilège, revues des accès | Si la réponse était juste |
| Registres de gouvernance et des risques | 1, 2, 12 : inventaire, risques, réglementation | La qualité au quotidien |
| Observabilité et évaluation | 8 : traces, alertes, jeux de tests | L’évaluation selon votre grille support |
| Contrôle qualité des conversations | 10, 11, 12 : grille, escalade, information | Les accès, la mécanique des mises en production |
Sierra, par exemple, décrit une relecture par les pairs avant mise en production, un rôle de relecteur et des mises en production sur une partie du trafic dans son article sur la gouvernance des mises en production (en anglais). Ce type de contrôle nécessite quand même de relire les conversations en production une fois qu’une modification atteint tout le monde.
La place de Kaizo
Kaizo est un logiciel de contrôle qualité du service client qui évalue chaque conversation, celles de votre équipe comme celles de vos agents IA. Il couvre la relecture des conversations (contrôle 10) et les preuves évaluées pour l’escalade et l’information des clients (11 et 12) : AutoPilot évalue chaque conversation résolue selon votre propre grille et relie chaque note aux preuves. Consultez notre page sur le contrôle qualité des agents IA, ou réservez une démo pour le voir sur vos propres conversations.
Quand ce modèle n’est pas pour vous
Si votre agent IA se contente de répondre à partir de votre centre d’aide, n’effectue aucune action et traite quelques centaines de conversations par mois, cinq contrôles suffiront : un responsable, une date de révision des règles, l’information des clients, une règle de transfert et une lecture régulière de ses conversations. Ajoutez le reste quand il commence à agir, à manier de l’argent ou à tourner à des volumes que personne ne peut lire.
Par où commencer cette semaine
Vous pouvez commencer cette semaine sans nouvel outil ni comité de pilotage. Les cinq étapes ci-dessous mettent les bases de la gouvernance en place pour l’agent IA que vous exploitez déjà, et montrent rapidement quels contrôles du tableau manquent encore chez vous.
- Nommez le responsable. Une personne par agent IA, par écrit, avec le directeur ou la directrice CX comme responsable final.
- Remplissez le registre. Listez chaque agent, les intentions et canaux qu’il traite et sa version actuelle.
- Écrivez les niveaux d’action. Classez chaque action possible de l’agent dans un niveau, avec ses seuils, et vérifiez que la plateforme les applique.
- Listez les règles qu’il applique, avec un responsable et une date de révision, et ajoutez « mettre à jour l’agent IA » à votre processus de changement de règles.
- Évaluez les conversations de la semaine dernière pour une intention à fort volume avec votre grille, et voyez ce qu’un échantillon aurait manqué.
Questions fréquentes
Quelle est la différence entre la gouvernance de l’IA agentique et la gouvernance classique de l’IA ?
La gouvernance classique de l’IA porte sur ce qu’un modèle produit : l’exactitude, les biais et la transparence de ses prédictions ou de ses textes. La gouvernance de l’IA agentique ajoute ce que le système fait : les actions qu’il effectue, les outils qu’il utilise et qui les valide. Au service client, cela veut dire gouverner les remboursements, les modifications de compte et les transferts, pas seulement les réponses.
Quels sont les piliers de la gouvernance de l’IA ?
Il n’existe pas de liste officielle unique. Le cadre du NIST organise le travail en Govern, Map, Measure et Manage. Pour une équipe support, les piliers pratiques sont la responsabilité, le contrôle des règles, les limites d’action, la relecture des conversations et la gestion des incidents.
La gouvernance des agents IA est-elle une obligation légale ?
En partie. Dans l’UE, l’article 50 de l’AI Act impose l’information sur l’IA depuis le 2 août 2026, et le droit de la protection des données s’applique toujours. Le cadre de Singapour est un guide sans valeur légale et celui du NIST est destiné à un usage volontaire ; aucun des deux ne prévoit de sanctions.
Qui est responsable quand un agent IA donne une information erronée à un client ?
Partez du principe que c’est votre entreprise. Le cadre de Singapour indique que les organisations qui déploient les agents et les humains restent responsables des décisions et des actions de ces agents. Quoi que dise votre contrat avec le fournisseur, le client voit votre marque : la procédure d’incident et la réparation auprès des clients vous reviennent.
De combien de relecture humaine un agent IA a-t-il besoin ?
La relecture humaine doit suivre le risque, pas un pourcentage fixe. Évaluez automatiquement toutes les conversations, soumettez les actions de niveau 3 à une personne avant qu’elles aient lieu, et faites relire par des personnes les échecs, les notes contestées et un échantillon de calibrage hebdomadaire. Vérifiez ensuite que les personnes qui valident les actions en modifient réellement certaines.
