Responsabilité du chatbot IA : qui répond de votre agent ?

Dans la plupart des cas, oui : l’entreprise qui place un agent IA face à ses clients répond de ce que cet agent leur dit. Dans l’affaire Moffatt c. Air Canada, un tribunal canadien a tenu la compagnie aérienne pour responsable de la mauvaise réponse de son chatbot, exactement comme pour une page web erronée. Un avertissement ne transfère pas cette responsabilité au bot ni à son éditeur.

Cet article présente les décisions, les règles et les contrôles pratiques à l’intention des responsables support. Il s’agit d’une information générale, pas d’un conseil juridique : pour votre marché et vos contrats, consultez un avocat.

En bref

• La responsabilité d’un chatbot IA part d’une règle ancienne : une entreprise répond des informations qu’elle donne à ses clients, quel que soit le canal ou le système qui les donne.
• Dans l’affaire Moffatt c. Air Canada (2024), le tribunal a qualifié l’idée qu’un chatbot soit responsable de ses propres actes d’« argument remarquable » et a condamné la compagnie à payer.
• Un avertissement du type « l’IA peut faire des erreurs » n’est pas un bouclier : les règles sur les clauses abusives, la responsabilité du fait des produits et les régulateurs limitent ce qu’il peut faire.
• Quand un client conteste une promesse de l’IA, la partie qui détient la transcription, la version de la règle et la version de l’agent en vigueur ce jour-là est en meilleure position.
• La règle opérationnelle la plus sûre tient en trois mots : honorer, corriger, analyser. Tenez les promesses raisonnables, contactez tous ceux qui ont reçu la même mauvaise réponse et corrigez la cause avant la conversation suivante.

Une entreprise est-elle responsable de ce que son chatbot IA dit aux clients ?

Oui, dans la décision que tout le monde cite. Dans l’affaire Moffatt c. Air Canada, le Civil Resolution Tribunal de Colombie-Britannique a traité le chatbot comme une partie du site web de la compagnie et l’a jugée responsable d’une déclaration inexacte faite par négligence, après qu’un client s’est fié à sa mauvaise réponse.

Les faits sont simples (décision 2024 BCCRT 149, en anglais, rendue le 14 février 2024). En novembre 2022, après un décès dans sa famille, un client interroge le chatbot du site d’Air Canada sur les tarifs de deuil. Le chatbot répond qu’il peut réserver tout de suite et demander le tarif réduit dans les 90 jours suivant l’émission du billet, même après le voyage. La page sur les tarifs de deuil, vers laquelle il renvoie, dit le contraire. Un représentant d’Air Canada admet ensuite par e-mail que le chatbot a employé des « mots trompeurs » (paragraphe 22).

Le tribunal a examiné la demande au regard des cinq éléments de la déclaration inexacte faite par négligence (paragraphe 25). Chacun se transpose à une conversation de support :

Air Canada soutenait ne pas pouvoir être tenue responsable de son chatbot. Le tribunal a répondu : « Il devrait être évident pour Air Canada qu’elle est responsable de toutes les informations figurant sur son site web. Peu importe que l’information provienne d’une page statique ou d’un chatbot » (paragraphe 27, notre traduction). La condamnation s’est élevée à 812,02 $ CA avec les intérêts et les frais (paragraphe 44).

Gardez l’affaire en proportion. C’est une décision de petites créances dans une seule province canadienne, elle ne lie aucun tribunal ailleurs, et elle n’a pas examiné si l’éditeur du chatbot devait quelque chose à la compagnie. Sa valeur tient au raisonnement, qui applique les règles ordinaires que toute entreprise connaît déjà. Pour le modèle opérationnel qui l’entoure, commencez par notre guide sur la gouvernance des agents IA.

Qui est responsable quand l’IA se trompe : l’entreprise, l’éditeur ou l’IA ?

Face au client, c’est l’entreprise qui déploie l’agent IA qui est responsable dans la plupart des situations, car l’agent parle en son nom. L’IA elle-même n’est pas une personne juridique. La part de l’éditeur se décide surtout dans votre contrat et, dans l’UE, par les règles de responsabilité du fait des produits, qui couvrent les dommages corporels, matériels et la perte de données, pas une mauvaise réponse sur un remboursement.

Trois niveaux décident de qui paie :

1. Vous et le client. Le droit de la consommation, le droit des contrats et les règles sur les déclarations trompeuses s’appliquent à ce que disent vos canaux. Le client n’a pas besoin de savoir quel éditeur a construit le modèle.
2. Vous et l’éditeur. Les garanties, les clauses d’indemnisation et les plafonds de responsabilité du contrat décident si vous pouvez récupérer une perte. Beaucoup de conditions d’éditeurs limitent ou excluent la responsabilité sur l’exactitude des réponses : lisez-les avant le lancement, pas après un incident.
3. Le niveau de la responsabilité du fait des produits dans l’UE. La directive révisée sur la responsabilité du fait des produits, (UE) 2024/2853, pose que le « logiciel » est un produit (article 4, point 1), qu’il fonctionne sur un appareil, dans le cloud ou comme service (considérant 13). Elle s’applique aux produits mis sur le marché ou mis en service après le 9 décembre 2026 (article 2, paragraphe 1), date à laquelle les États membres doivent aussi l’avoir transposée (article 22, paragraphe 1).

Pour le support, la directive compte moins que ses gros titres ne le laissent penser. Elle couvre le décès, les dommages corporels y compris l’atteinte à la santé psychologique, les dommages aux biens et la destruction ou la corruption de données non utilisées à des fins professionnelles (article 6). Le considérant 24 précise qu’une perte purement économique ne suffit pas, à elle seule, à engager la responsabilité au titre de la directive. Une mauvaise promesse de remboursement ou de frais est une perte purement économique : elle relève donc du droit de la consommation et du droit des contrats. Quand la directive s’applique, la responsabilité envers la personne lésée ne peut pas être limitée ou exclue par une clause contractuelle (article 15).

La différence entre un chatbot et un agent IA compte ici. Un chatbot qui répond ne fait que des déclarations. Un agent qui émet des remboursements, annule des commandes ou modifie des comptes crée aussi des transactions : une erreur n’est plus seulement une réponse trompeuse, c’est une action que vos systèmes ont exécutée. C’est pourquoi les actions qu’un agent peut faire seul relèvent d’une matrice d’autonomie, pas seulement du prompt.

Un avertissement « l’IA peut faire des erreurs » protège-t-il l’entreprise ?

Peu, et pas à lui seul. Un avertissement peut aider les clients à juger une réponse et soutient les obligations de transparence, mais il ne rend pas exacte une réponse trompeuse. Les tribunaux et les régulateurs regardent ce qu’on a dit au client et s’il était raisonnable de s’y fier, et le droit de la consommation limite les clauses qui transfèrent ce risque au client.

Quatre limites reviennent sans cesse :

• La confiance raisonnable survit à un lien. La réponse du chatbot d’Air Canada renvoyait vers la bonne page. Le tribunal a tout de même demandé pourquoi les clients « devraient revérifier sur une partie du site une information trouvée sur une autre » (paragraphe 28, notre traduction).
• Les conditions doivent être prouvées et équitables. Air Canada invoquait son tarif mais n’en a pas déposé le texte pertinent : elle « n’a pas prouvé de moyen de défense contractuel » (paragraphe 31, notre traduction). Au Royaume-Uni, une clause abusive dans un contrat de consommation « ne lie pas le consommateur » (Consumer Rights Act 2015, section 62, en anglais, notre traduction).
• Certaines responsabilités ne peuvent pas être exclues du tout. Selon la directive européenne sur la responsabilité du fait des produits, une clause contractuelle ne peut pas limiter ou exclure la responsabilité envers la personne lésée (article 15).
• Les régulateurs regardent au-delà des étiquettes. En annonçant son opération Operation AI Comply le 25 septembre 2024, la FTC américaine, par la voix de sa présidente d’alors Lina Khan, a déclaré qu’« il n’existe pas d’exemption IA aux lois en vigueur » (notre traduction).

Un avertissement qui indique au client qu’il parle à une IA est autre chose, et dans l’UE il est désormais obligatoire. Gardez-le, et gardez-le honnête. Ne le prenez simplement pas pour le contrôle qui vous met à l’abri. Le contrôle, c’est un agent qui ne fait pas la mauvaise promesse.

Qu’attendent les règles américaines, européennes et britanniques des agents IA au service client ?

Les trois attendent le même comportement de base : dire la vérité aux clients, ne pas les induire en erreur et rester responsable des systèmes qui leur parlent. L’UE ajoute une obligation explicite d’information sur l’IA, la FCA britannique applique son Consumer Duty aux entreprises financières qui utilisent l’IA, et les régulateurs américains appliquent le droit existant de la protection des consommateurs aux promesses sur l’IA et aux défaillances des chatbots.

Les attentes britanniques sont les plus concrètes pour les équipes support des entreprises réglementées. Dans son AI Update d’avril 2024 (en anglais), la FCA écrit que les chatbots IA peuvent aider les clients à comprendre les produits, mais que « les entreprises doivent tenir compte de leurs obligations au titre du Consumer Duty » (paragraphe 3.25, notre traduction). Elle renvoie aux règles sur la compréhension par le consommateur, qui visent à répondre aux besoins d’information des clients (paragraphe 3.36), et indique que dans les banques, les assureurs et les entreprises soumises au régime SM&CR renforcé, tout usage de l’IA dans un domaine d’activité relève des responsabilités d’un Senior Manager (paragraphe 3.40). En pratique : un responsable nommé par agent, des données de résultat sur ses conversations, et la trace que le conseil d’administration les a examinées.

Le rapport du CFPB précise qu’il ne constitue pas une interprétation d’une réglementation. Pour le détail européen, y compris les classes de risque et les dates, consultez notre guide sur l’AI Act et le service client.

Quels engagements un agent IA peut-il prendre envers les clients ?

Un agent IA peut expliquer une règle avec les mots du texte validé, confirmer des faits qu’un système vient de renvoyer, et s’engager sur un résultat seulement quand un outil l’a exécuté dans ses limites. Il ne doit jamais accorder d’exception, promettre une compensation, donner un conseil juridique ou financier, ni annoncer une date ou un montant qu’il n’a pas obtenu d’un système.

Le tableau fonctionne parce qu’il transforme « être exact » en règles qu’un relecteur peut vérifier sur une transcription. L’ensemble des limites, avec des chiffres par action, figure dans notre guide sur les garde-fous des agents IA, et les types de réponses inventées à repérer dans notre guide sur les hallucinations des agents IA.

De quelles preuves avez-vous besoin quand un client conteste une promesse de l’IA ?

Vous devez montrer ce que l’agent a dit, mot pour mot et horodaté, quelle règle et quel contenu il aurait dû utiliser ce jour-là, quelle version de l’agent tournait, ce qu’un outil a réellement fait, et comment la conversation a été vérifiée. Sans ce dossier, la capture d’écran du client est la seule preuve, et elle l’emporte en général.

La décision Air Canada montre ce que coûte un dossier vide. Le client a déposé une capture d’écran de la réponse du chatbot. La compagnie « n’a fourni aucune information sur la nature de son chatbot » (paragraphe 14, notre traduction), n’a pas déposé le tarif qu’elle invoquait (paragraphe 31) et n’a apporté aucune preuve du vrai tarif de deuil : le tribunal en a tiré une conclusion défavorable et a retenu le chiffre du client (paragraphe 36).

Conservez ces sept éléments pour chaque conversation d’agent IA, aussi longtemps que vos équipes réclamations et juridique le demandent :

1. La transcription complète, non modifiée, avec les horodatages et le canal.
2. La version de l’agent : modèle, prompt ou instructions, et configuration en vigueur.
3. La version du contenu : les articles d’aide et les textes de règles que l’agent pouvait utiliser ce jour-là.
4. Les appels d’outils et leurs résultats : ce que l’agent a demandé à un système, et ce que le système a renvoyé.
5. L’information sur l’IA que le client a vue, et si un transfert vers une personne a été proposé.
6. La trace de l’évaluation : note, relecteur ou contrôle automatique, et tout signalement.
7. Le journal des corrections : ce qui a changé après un signalement, quand, et qui l’a validé.

L’élément le plus difficile à reconstituer après coup est le lien entre les dates et les versions : « quel délai de retour l’agent appliquait-il le 3 mars ? » Notez-le à chaque mise en production. Notre guide sur les politiques des agents IA explique comment garder les versions des règles et le contenu de l’agent synchronisés.

Comment gérer une mauvaise promesse de votre agent IA ?

Honorer, corriger, analyser. Honorez la promesse quand le client s’y est raisonnablement fié et que le coût est proportionné. Corrigez-la auprès de tous les autres clients qui ont reçu la même réponse, avant qu’ils n’agissent. Analysez la cause et confirmez la correction sur les nouvelles conversations. Contester une petite réclamation isolée coûte en général plus que cela ne rapporte.

Honorer. Fixez à l’avance une règle écrite, portée par la direction CX avec le juridique : par exemple, honorer toute promesse d’un agent IA sous un certain montant quand le client a agi sur cette base, et envoyer les montants supérieurs à un valideur nommé sous un jour ouvré. Air Canada avait proposé un bon de 200 $, que le client n’a pas accepté, et le tribunal a refusé de le déduire (paragraphe 41). Un geste commercial n’est pas un règlement si le client ne l’accepte pas.

Corriger. Recherchez ou évaluez toutes les conversations sur le même sujet depuis le début de l’erreur, listez les clients qui ont reçu la mauvaise réponse et contactez ceux qui n’ont pas encore agi. Notre guide sur l’audit du taux de résolution des agents IA explique comment vérifier que les conversations « résolues » l’étaient vraiment.

Analyser. Trouvez la cause (un article périmé, une règle manquante, une modification du prompt), corrigez-la, retestez, puis vérifiez les conversations suivantes sur ce sujet pour confirmer que la correction tient.

Un exemple chiffré montre pourquoi l’étape de correction est rentable. Les chiffres sont une illustration, pas des données d’une entreprise réelle.

• Un agent IA traite 300 conversations de résiliation par jour. Une mise à jour du contenu indique à tort un délai de remboursement intégral de 60 jours ; la règle est de 30 jours.
• L’erreur dure 12 jours : 3 600 conversations de résiliation. Dans 15 % d’entre elles, le client se situe entre le 31e et le 60e jour, et l’agent lui dit qu’un remboursement intégral est encore possible : 540 clients.
• Si 40 % d’entre eux agissent avant que quelqu’un ne s’en aperçoive, 216 demandes de remboursement arrivent. À 90 € en moyenne, les honorer coûte 19 440 €.
• Les 324 autres clients n’ont pas encore agi. Les contacter le jour où l’erreur est découverte, avec la bonne règle et des excuses, évite l’essentiel du coût restant et les empêche de se fier raisonnablement à la mauvaise réponse.

Un échantillon aléatoire de 2 % aurait porté sur environ 72 de ces 3 600 conversations, dont environ 11 contiendraient l’erreur. Cela peut repérer le problème. Cela ne peut pas vous donner la liste des 540 noms, et c’est cette liste dont l’étape de correction a besoin.

La checklist des risques de responsabilité d’un agent IA

Utilisez la checklist ci-dessous pour revoir un agent IA avant son lancement, puis chaque trimestre. Chaque ligne nomme un risque, un exemple de support, le contrôle qui le prévient et la preuve que vous devriez pouvoir produire si un client, un auditeur ou un régulateur la demande. Supprimez les lignes qui ne s’appliquent pas à votre agent, et donnez un responsable à chaque ligne.

Les lignes 1, 2, 3, 11 et 12 sont celles où naît la plus grande part de la responsabilité au support : une mauvaise réponse sur de l’argent, répétée, sans trace pour l’expliquer.

Quand cette checklist n’est pas pour vous

Si votre agent IA répond seulement à partir d’articles d’aide publics, n’exécute aucune action et transfère toutes les questions d’argent, de compte ou de réclamation à des personnes, les lignes 1, 4, 5 et 11 couvrent l’essentiel de votre exposition. Ajoutez les autres le jour où l’agent reçoit un outil de remboursement, d’avoir ou de résiliation, ou commence à servir un produit réglementé.

La checklist ne remplace pas non plus la revue juridique. Le droit de la consommation, les règles financières et les régulateurs sectoriels diffèrent d’un pays à l’autre, et un avocat qui connaît votre marché doit relire votre information sur l’IA, vos conditions et votre contrat avec l’éditeur.

La place de Kaizo

Kaizo vérifie chaque conversation de support, humaine ou IA, selon votre propre grille, et vous montre quoi corriger. Il couvre les preuves des lignes 2 et 12 : AutoPilot évalue chaque conversation résolue selon votre propre grille d’évaluation, et chaque note renvoie aux lignes de la conversation. Découvrez le fonctionnement du contrôle qualité des agents IA, ou réservez une démo pour le voir sur vos propres conversations.

Par où commencer cette semaine

Vous pouvez commencer cette semaine sans nouvel outil : cinq étapes montrent où votre agent IA peut créer une responsabilité aujourd’hui, et quels éléments vous ne pourriez pas produire si un client contestait une réponse demain.

1. Extrayez 50 conversations de la semaine dernière sur les remboursements, les frais, les résiliations et les réclamations, et repérez chaque déclaration qui constitue un engagement.
2. Vérifiez chaque engagement au regard du tableau expliquer, confirmer, s’engager, exception et conseil ci-dessus.
3. Faites un test de récupération : choisissez une conversation d’il y a un mois et essayez de produire la transcription, la version de l’agent et la version de la règle en moins d’une heure.
4. Écrivez la règle « honorer » : le montant jusqu’auquel une mauvaise promesse de l’IA est honorée sans discussion, et qui valide au-delà.
5. Copiez les 14 lignes, donnez un responsable à chacune, et apportez les écarts à votre prochaine revue de gouvernance des agents IA.

Questions fréquentes

Qu’est-ce que la responsabilité en intelligence artificielle ?

La responsabilité en IA signifie qu’une personne ou une organisation nommée répond de ce que fait un système d’IA, peut l’expliquer et doit corriger quand il se trompe. Au service client, c’est l’entreprise qui déploie l’agent, avec un responsable par agent, la trace de ce qu’il a dit et fait, et un processus pour corriger les erreurs.

Les agents IA sont-ils traités différemment des chatbots en matière de responsabilité ?

Le principe est le même : l’entreprise répond des deux. L’exposition diffère. Un chatbot qui se contente de répondre fait des déclarations sur lesquelles un client peut s’appuyer. Un agent IA qui rembourse, résilie ou modifie des comptes exécute aussi des actions : une erreur peut directement déplacer de l’argent ou des données. C’est pourquoi les actions doivent avoir des limites appliquées dans les outils eux-mêmes.

Peut-on récupérer auprès de l’éditeur le coût d’une erreur de l’agent IA ?

Seulement si votre contrat le permet. Examinez les garanties, les clauses d’indemnisation et le plafond de responsabilité de l’éditeur avant le lancement, car beaucoup de conditions limitent la responsabilité sur l’exactitude des réponses. Dans l’UE, la directive révisée sur la responsabilité du fait des produits ajoute des recours sans faute contre les fabricants de logiciels défectueux pour les dommages corporels, matériels et aux données, pas pour une mauvaise réponse sur un remboursement.

Relire les conversations IA réduit-il notre responsabilité ?

La relecture ne transfère pas la responsabilité, mais elle change deux choses. Elle trouve les mauvaises réponses tôt, donc moins de clients s’y fient. Et elle produit la preuve d’une diligence raisonnable : dans l’affaire Air Canada, l’absence de diligence pour s’assurer que le chatbot était exact faisait partie du raisonnement retenu contre la compagnie.

Doit-on dire aux clients qu’ils parlent à une IA ?

Dans l’UE, oui : depuis le 2 août 2026, les personnes doivent en être informées dès la première interaction, sauf si c’est évident. Ailleurs, c’est une bonne pratique, qui soutient les obligations d’honnêteté que les régulateurs de la consommation et de la finance appliquent déjà. Une information renseigne le client. Elle n’excuse pas une mauvaise réponse.