Vous repérez les hallucinations des agents IA en vérifiant chaque réponse du bot par rapport à vos propres contenus et à votre politique, pas en attendant les réclamations. Évaluez chaque conversation de l’agent IA sur des critères d’ancrage et de politique, lisez d’abord les sujets liés à l’argent, et remontez chaque hallucination confirmée jusqu’à l’article ou la règle qui l’explique, pour que le deuxième client ne reçoive jamais la même mauvaise réponse.
En bref
- Une hallucination d’agent IA est une réponse assurée que vos contenus ne justifient pas : une politique inventée, un chiffre faux, une action que le bot n’a jamais faite.
- La mauvaise réponse sur un remboursement est celle à craindre, parce que le client agit en conséquence et que l’entreprise en reste responsable.
- L’échantillonnage rate les hallucinations : dans un exemple chiffré, un échantillon de 2 % a 23 % de chances de ne montrer aucune des 72 mauvaises réponses sur les remboursements.
- Une routine en six étapes les repère : lister les affirmations à risque, rédiger des critères vérifiables, évaluer par rapport à vos contenus, tout évaluer, trier par gravité, corriger à la source.
- La QA après la conversation ne peut pas empêcher la première mauvaise réponse. Elle empêche les cent suivantes, et c’est là que se trouve le coût.
Si vous placez des agents IA face à vos clients, notre page sur le contrôle qualité des agents IA montre comment Kaizo évalue chaque conversation d’agent IA selon vos propres critères, y compris des vérifications sur les faits et les règles inventés. Ce guide présente la méthode, quel que soit l’outil que vous utilisez.
Qu’est-ce qu’une hallucination d’agent IA au service client ?
Une hallucination d’agent IA est une réponse qui paraît certaine mais qui est fausse ou que vos contenus ne justifient pas. Au support, elle prend en général la forme d’une politique, d’un prix, d’une promesse ou d’un fait sur lequel le client agit ensuite.
Le NIST Generative AI Profile (juillet 2024) appelle cela confabulation : “the production of confidently stated but erroneous or false content (known colloquially as ‘hallucinations’ or ‘fabrications’) by which users may be misled or deceived”, autrement dit un contenu erroné ou faux, présenté avec assurance, qui peut induire les utilisateurs en erreur. C’est la dernière partie qui compte le plus au support. Un client ne peut pas distinguer une mauvaise réponse assurée d’une bonne réponse assurée.
Au service client, les hallucinations se répartissent en six types. Chacun demande une vérification différente :
| Type | Exemple | Comment le vérifier |
|---|---|---|
| Politique inventée | “Vous pouvez demander le remboursement sous 60 jours” alors que la politique prévoit 30 jours | Comparer avec l’article de politique que le bot aurait dû utiliser |
| Chiffre faux | Un ancien prix, des frais erronés, un mauvais délai de livraison | Comparer chaque chiffre de la réponse avec la source |
| Action inventée | “J’ai traité votre remboursement” alors que le bot ne peut pas traiter de remboursement | Comparer l’affirmation avec les actions que le bot est autorisé à faire |
| Exception inventée | Des frais annulés ou un délai prolongé que personne n’a approuvés | Vérifier par rapport à la liste des exceptions que seul un humain peut accorder |
| Fait produit faux | Une fonctionnalité, une limite d’offre ou une compatibilité qui n’est pas réelle | Comparer avec la documentation produit |
| Source inventée | Un article d’aide, un formulaire ou un lien qui n’existe pas | Ouvrir le lien ou chercher le titre dans le centre d’aide |
Une hallucination est un type d’erreur silencieuse, ces erreurs qu’un tableau de bord compte comme des réussites. Notre typologie des erreurs silencieuses des agents IA couvre les autres, comme les escalades manquées et les fausses résolutions.
Pourquoi la mauvaise réponse sur un remboursement est-elle celle à craindre ?
La mauvaise réponse sur un remboursement est celle à craindre parce que le client agit en conséquence et que votre entreprise reste responsable de ce que son bot a dit. Elle transforme une erreur de support en coût, en réclamation ou en action en justice.
Le cas le plus connu est Moffatt v. Air Canada (février 2024). Le chatbot du site de la compagnie a dit à un client qu’un tarif de deuil pouvait être demandé après le voyage. La politique de la compagnie ne le permettait pas, et le lien fourni par le chatbot lui-même menait à une page qui le précisait.
Le Civil Resolution Tribunal de Colombie-Britannique a rejeté l’argument selon lequel le chatbot était responsable de ses propres actes. Il a conclu qu’Air Canada n’avait pas pris de précautions raisonnables pour s’assurer de l’exactitude de son chatbot, et lui a ordonné de payer 812,02 dollars canadiens. Pour une conversation, la somme est modeste. La même réponse répétée à chaque client qui pose la même question ne l’est pas.
Les sujets liés à l’argent sont aussi ceux où les hallucinations ont le plus de chances de sembler serviables. Un bot qui invente un délai de remboursement généreux produit un client satisfait, une conversation résolue et une bonne note de satisfaction, jusqu’au moment où le remboursement est refusé.
Pourquoi l’échantillonnage rate-t-il les hallucinations des agents IA ?
L’échantillonnage rate les hallucinations des agents IA parce qu’une hallucination sur un sujet est rare sur l’ensemble des conversations mais se répète au sein de ce sujet. Un petit échantillon aléatoire voit trop peu de conversations sur ce sujet pour révéler le schéma.
Voici un exemple chiffré, avec des chiffres choisis pour montrer le calcul, pas les données d’un client :
| Étape | Nombre |
|---|---|
| Conversations de l’agent IA sur un mois | 40 000 |
| Conversations sur les remboursements (6 %) | 2 400 |
| Réponses sur les remboursements avec une condition inventée (3 % des conversations sur les remboursements) | 72 |
| Échantillon QA aléatoire (2 % de toutes les conversations) | 800 |
| Conversations sur les remboursements attendues dans cet échantillon | 48 |
| Mauvaises réponses sur les remboursements attendues dans cet échantillon | 1,44 |
| Probabilité que l’échantillon n’en contienne aucune | 23 % |
| Probabilité qu’il en contienne zéro ou une | 58 % |
Les deux probabilités viennent de la loi binomiale : 0,97 puissance 48 donne 0,232, et en ajoutant la probabilité d’en avoir exactement une, on obtient 0,576. Plus d’un mois sur deux, vos évaluateurs voient donc au plus une mauvaise réponse sur les remboursements. Une seule ressemble à une exception, si bien que personne ne corrige l’article qui la cause.
Évaluez chaque conversation et vous les voyez toutes les 72, regroupées sur un même sujet, dans la semaine. C’est pourquoi notre guide sur comment évaluer 100 % des conversations (en anglais) compte davantage pour les bots que pour les personnes : les erreurs d’une personne se dispersent, celles d’un bot se répètent.
Comment repérer les hallucinations des agents IA : une routine en six étapes
Repérez les hallucinations des agents IA en six étapes : listez les affirmations à risque, rédigez des critères vérifiables, évaluez par rapport à vos contenus, évaluez chaque conversation, triez par gravité et corrigez chaque cas à sa source. Les étapes 1 à 3 se font une fois.
Étape 1 : lister les affirmations qui coûtent de l’argent si elles sont fausses
Commencez par les sujets où le client agit sur la réponse : remboursements, résiliations, frais, prix, dates de livraison, éligibilité et modifications de compte. Pour chaque sujet, notez les affirmations que fait le bot, comme “délai de remboursement”, “frais de résiliation” ou “quelles offres incluent X”. Cette liste devient le cœur de votre grille et votre première file de relecture.
Étape 2 : rédiger des critères qu’un évaluateur peut vérifier dans la transcription
Un critère comme “la réponse est exacte” est trop vague pour être évalué deux fois de la même façon. Rédigez-le pour qu’un évaluateur, ou un évaluateur automatisé, puisse désigner la ligne qui le respecte ou non :
| Critère | Conforme quand | Non conforme quand |
|---|---|---|
| Ancré dans nos contenus | Chaque fait de la réponse figure dans un article d’aide ou une politique que nous publions | La réponse contient un fait, un chiffre ou une condition que nos contenus n’indiquent pas |
| Limites de la politique | Remboursements, avoirs et exceptions restent dans le cadre de la politique écrite | Le bot propose ou promet quelque chose que la politique n’autorise pas |
| Actions annoncées | Le bot ne dit avoir fait que ce qu’il peut réellement faire | Le bot dit avoir traité, annulé ou modifié quelque chose qu’il ne peut pas |
| Incertitude | Le bot dit qu’il ne sait pas, ou transfère, quand les contenus n’ont pas de réponse | Le bot comble le vide par une supposition |
Notre guide pour rédiger une grille QA qu’une IA peut évaluer (en anglais) montre comment formuler le reste de la grille de la même manière.
Étape 3 : évaluer par rapport à vos propres contenus
Une vérification d’ancrage ne vaut que par les contenus auxquels elle se réfère. Connectez l’évaluateur au même centre d’aide et aux mêmes articles de politique que ceux dont le bot tire ses réponses, pour que “non justifié par nos contenus” ait un sens précis.
Dans Kaizo, vous rédigez les critères avec vos propres mots et connectez votre base de connaissances, pour que l’IA juge chaque réponse par rapport à vos contenus.
Étape 4 : évaluer chaque conversation de l’agent IA
Évaluez-les toutes, car l’exemple chiffré ci-dessus montre ce qu’un échantillon cache. AutoPilot de Kaizo évalue chaque conversation selon vos critères au moment de sa résolution et ajoute un commentaire qui explique la note. Vous pouvez définir les files, canaux ou équipes qu’il évalue, pour que les sujets liés à l’argent soient couverts dès le premier jour.
Étape 5 : trier par gravité, pas par date
Toutes les hallucinations n’appellent pas la même réponse. Une règle de gravité garde l’équipe concentrée sur celles qui coûtent de l’argent :
| Gravité | À quoi elle ressemble | Réponse |
|---|---|---|
| Critique | Remboursement inventé, frais annulés, affirmation juridique ou de sécurité, promesse que l’entreprise doit honorer ou retirer | Le jour même : contacter les clients concernés, retirer le sujet au bot ou imposer un transfert jusqu’à la correction |
| Élevée | Chiffre ou condition faux sur un sujet lié à l’argent, action inventée | Sous 2 jours ouvrés : corriger l’article source, réévaluer le sujet |
| Moyenne | Fait produit faux sans coût associé, lien inventé | Dans la liste hebdomadaire des corrections de contenu |
| Faible | Détail sans conséquence, comme un mauvais exemple d’horaires d’ouverture d’un magasin | Regroupé avec la revue mensuelle des contenus |
Étape 6 : remonter chaque hallucination à sa source et réévaluer
La plupart des hallucinations viennent de quelque chose que vous pouvez corriger : un article d’aide périmé, deux articles qui se contredisent, une condition enfouie en bas de page, ou un sujet sans aucun article.
Corrigez la source, puis réévaluez ce sujet sur la semaine suivante pour confirmer que la correction tient. L’analyse des causes racines de Kaizo regroupe les échecs derrière une baisse, si bien que dix mauvaises réponses issues d’un même article deviennent une seule correction.
Quels signaux révèlent une hallucination ?
Le comportement du client après la conversation est le signal d’hallucination le moins coûteux : contacts répétés, contestations et corrections par des conseillers. Servez-vous de ces signaux pour choisir les conversations à lire en premier.
- Le client revient sous 7 jours sur le même sujet, souvent par un autre canal.
- Le client cite le bot à un conseiller : “votre assistant m’a dit”.
- Un conseiller retire ou corrige quelque chose que le bot avait promis.
- Une demande de remboursement, d’avoir ou d’exception suit une conversation du bot sur ce sujet.
- La réponse du bot contient un chiffre, une date ou un lien qui ne figure pas dans l’article source.
- Le client conteste (“ce n’est pas ce que dit votre site”) et le bot se répète.
Chaque signal est aussi un critère de grille ou un filtre. Les signaux liés au transfert ont tout particulièrement leur place dans la grille, comme l’explique notre guide sur l’évaluation du transfert entre agent IA et conseiller.
Ce que la QA après la conversation ne peut pas faire
La QA après la conversation ne peut pas empêcher la première mauvaise réponse, parce qu’elle évalue les conversations une fois terminées. Elle empêche la même mauvaise réponse d’atteindre les clients suivants, et retrouve ceux qui l’ont déjà reçue.
Kaizo évalue les conversations une fois terminées, dans l’outil de support où elles se trouvent. Il ne surveille pas le bot en direct et ne bloque pas une réponse avant son envoi.
Les garde-fous qui s’exécutent pendant que le bot répond, et les tests avant lancement comme les tests de régression des prompts dans une chaîne de développement, relèvent de l’équipe qui construit l’agent. Ce sont des étapes différentes, qui fonctionnent en parallèle de la QA.
Ce que l’évaluation après la conversation apporte, c’est la partie que les autres étapes ne voient pas : ce que le bot a réellement dit à de vrais clients, sur chaque conversation, avec la transcription derrière chaque constat. C’est aussi la preuve dont vous avez besoin pour contacter les clients qui ont reçu une mauvaise réponse avant qu’ils ne s’en aperçoivent eux-mêmes.
Comment commencer à repérer les hallucinations ce mois-ci
Commencez par un sujet lié à l’argent, quatre critères et chaque conversation sur ce sujet pendant deux semaines. Cela suffit pour trouver votre première source à corriger et mesurer votre taux d’hallucination.
- Choisissez le sujet où une mauvaise réponse coûte le plus, en général les remboursements ou les résiliations.
- Ajoutez les quatre critères de l’étape 2 à la grille du bot.
- Évaluez chaque conversation de l’agent IA sur ce sujet pendant deux semaines.
- Comptez les conversations qui échouent sur un critère d’ancrage ou de politique, divisées par toutes les conversations sur le sujet. C’est votre taux d’hallucination pour ce sujet.
- Corrigez la première source, réévaluez pendant une semaine et comparez.
Voyez-le dans une démo en direct. Kaizo évalue chaque conversation d’agent IA par rapport à vos propres contenus et critères, et relie chaque critère non respecté à la ligne en cause. Parlons-en.
Questions fréquentes
Peut-on empêcher complètement un chatbot IA d’halluciner ?
Aucune méthode actuelle ne le garantit. Ancrer le bot dans vos contenus, limiter ses sujets et imposer un transfert quand il n’a pas de réponse réduisent tous les hallucinations. Ce que vous pouvez garantir, c’est de les trouver : évaluez chaque conversation par rapport à vos contenus, pour qu’une mauvaise réponse soit repérée dès les premières conversations où elle apparaît, et non après une réclamation.
Une base de connaissances empêche-t-elle un agent IA d’inventer ?
Elle réduit le problème sans le supprimer. Un bot qui répond à partir de votre base de connaissances peut encore mal combiner deux articles, en utiliser un périmé, ou combler un vide là où aucun article n’existe. C’est pourquoi la vérification d’ancrage compare chaque réponse à la source, et pourquoi un article périmé ou manquant est la cause racine la plus fréquente.
Comment mesurer le taux d’hallucination d’un agent IA ?
Comptez les conversations qui échouent sur un critère d’ancrage ou de politique et divisez par toutes les conversations évaluées, sujet par sujet. Mesurez par sujet plutôt que globalement, car un taux global faible peut cacher un taux élevé sur les remboursements. Suivez-le chaque semaine pendant que vous corrigez les sources, puis chaque mois une fois qu’il est stable.
Qui est responsable quand un chatbot donne une mauvaise information à un client ?
Dans l’affaire Air Canada, c’était l’entreprise. En février 2024, un tribunal de Colombie-Britannique a jugé que la compagnie était responsable de toutes les informations de son site web, y compris des réponses de son chatbot, et lui a ordonné de payer 812,02 dollars canadiens. Il s’agit d’une seule décision de petites créances dans une seule province, pas d’une règle générale : vérifiez le droit là où vous exercez.
En combien de temps corriger une hallucination une fois repérée ?
Corrigez-la selon sa gravité. Retirez un sujet critique au bot ou imposez un transfert le jour même, et contactez les clients qui ont reçu la mauvaise réponse. Corrigez les articles source de gravité élevée sous deux jours ouvrés, puis réévaluez le sujet pendant une semaine pour confirmer que la correction tient. Les gravités plus faibles peuvent aller dans la liste hebdomadaire des corrections de contenu.
