Aansprakelijkheid AI-chatbot: wie staat in voor je AI-agent?

In de meeste gevallen wel: het bedrijf dat een AI-agent op klanten loslaat, staat in voor wat die agent hen vertelt. In Moffatt v. Air Canada hield een Canadees tribunaal de luchtvaartmaatschappij verantwoordelijk voor het foute antwoord van haar chatbot, net zoals voor een foute webpagina. Een disclaimer verschuift die verantwoordelijkheid niet naar de bot of naar de leverancier.

Dit artikel legt de zaken, regels en praktische controles uit voor supportleiders. Het is algemene informatie, geen juridisch advies: vraag voor je eigen markt en contracten een advocaat.

In het kort

• Aansprakelijkheid voor AI-chatbots begint bij een oude regel: een bedrijf is verantwoordelijk voor de informatie die het klanten geeft, via welk kanaal of systeem dan ook.
• In Moffatt v. Air Canada (2024) noemde het tribunaal het idee dat een chatbot verantwoordelijk is voor zijn eigen handelen “een opmerkelijke stelling” en veroordeelde het de luchtvaartmaatschappij tot betaling.
• Een disclaimer als “AI kan fouten maken” is geen schild: regels over oneerlijke bedingen, productaansprakelijkheid en toezichthouders beperken allemaal wat die kan doen.
• Wanneer een klant een belofte van de AI betwist, staat de partij met het transcript, de beleidsversie en de agentversie van die dag het sterkst.
• De veiligste werkregel is nakomen, corrigeren en onderzoeken: kom redelijke beloftes na, neem contact op met iedereen die hetzelfde foute antwoord kreeg en los de oorzaak op voor het volgende gesprek.

Is een bedrijf aansprakelijk voor wat zijn AI-chatbot klanten vertelt?

Ja, in de uitspraak die de meeste mensen aanhalen. In Moffatt v. Air Canada behandelde het Civil Resolution Tribunal van British Columbia de chatbot als onderdeel van de website van de luchtvaartmaatschappij en vond het de maatschappij aansprakelijk voor nalatige misleiding (negligent misrepresentation) toen een klant op het foute antwoord vertrouwde.

De feiten zijn eenvoudig (uitspraak, 2024 BCCRT 149, in het Engels, uitgesproken op 14 februari 2024). In november 2022, na een overlijden in de familie, vroeg een klant de chatbot op de website van Air Canada naar rouwtarieven. De chatbot zei dat hij nu kon boeken en het ticket binnen 90 dagen na uitgifte kon indienen voor een verlaagd tarief, ook na de reis. De gelinkte pagina over rouwtarieven zei het tegendeel. Een vertegenwoordiger van Air Canada gaf later in een e-mail toe dat de chatbot “misleidende woorden” had gebruikt (paragraaf 22).

Het tribunaal toetste de vordering aan de vijf onderdelen van nalatige misleiding (paragraaf 25). Elk onderdeel past op een supportgesprek:

Air Canada voerde aan dat het niet aansprakelijk kon worden gehouden voor zijn chatbot. Het tribunaal antwoordde: “Het zou voor Air Canada duidelijk moeten zijn dat het verantwoordelijk is voor alle informatie op zijn website. Het maakt geen verschil of de informatie van een statische pagina of van een chatbot komt” (paragraaf 27). De veroordeling kwam met rente en kosten op 812,02 Canadese dollar (paragraaf 44).

Houd de zaak in proportie. Het is een uitspraak over een kleine vordering in één Canadese provincie, ze bindt geen rechter elders, en ze ging niet in op de vraag of de leverancier van de chatbot de luchtvaartmaatschappij iets verschuldigd was. De waarde zit in de redenering, die de gewone regels toepast waar elk bedrijf al mee leeft. Begin voor het operationele model hieromheen met de gids over AI-agent governance.

Wie is aansprakelijk als AI de fout ingaat: het bedrijf, de leverancier of de AI?

Tegenover de klant is in de meeste situaties het bedrijf dat de AI-agent inzet aansprakelijk, omdat de agent namens het bedrijf spreekt. De AI zelf is geen rechtspersoon. Het aandeel van de leverancier wordt vooral bepaald door je contract, en in de EU door de regels voor productaansprakelijkheid, die gaan over letselschade, schade aan eigendommen en verloren data, niet over een fout antwoord over een terugbetaling.

Drie lagen bepalen wie betaalt:

1. Jij en de klant. Consumentenrecht, contractrecht en regels over misleiding gelden voor wat je kanalen zeggen. De klant hoeft niet te weten welke leverancier het model bouwde.
2. Jij en de leverancier. Garanties, vrijwaringen en aansprakelijkheidsplafonds in de overeenkomst met de leverancier bepalen of je een verlies kunt verhalen. Veel leveranciersvoorwaarden beperken of sluiten aansprakelijkheid voor de juistheid van output uit, dus lees ze voor de lancering, niet na een incident.
3. De EU-laag van productaansprakelijkheid. De herziene richtlijn productaansprakelijkheid, (EU) 2024/2853, stelt dat “software” een product is (artikel 4, punt 1), of het nu op een apparaat draait, in de cloud of als dienst (overweging 13). Ze geldt voor producten die na 9 december 2026 in de handel worden gebracht of in gebruik worden genomen (artikel 2, lid 1), dezelfde datum waarop lidstaten haar in nationaal recht moeten hebben omgezet (artikel 22, lid 1).

De richtlijn doet er voor support minder toe dan de koppen doen vermoeden. Ze dekt overlijden, lichamelijk letsel inclusief schade aan de psychische gezondheid, schade aan eigendommen en de vernietiging of beschadiging van data die niet voor beroepsdoeleinden worden gebruikt (artikel 6). Overweging 24 zegt dat zuivere vermogensschade op zichzelf geen aansprakelijkheid onder de richtlijn oplevert. Een foute belofte over een terugbetaling of kosten is zuivere vermogensschade, dus die blijft bij het consumenten- en contractrecht. Waar de richtlijn wel geldt, kan de aansprakelijkheid tegenover de benadeelde niet door een contractueel beding worden beperkt of uitgesloten (artikel 15).

Het verschil tussen een chatbot en een AI-agent telt hier. Een chatbot die alleen antwoordt, doet uitspraken. Een agent die terugbetaalt, orders annuleert of accounts wijzigt, voert ook transacties uit, dus een fout is niet langer alleen een misleidend antwoord: het is een actie die je systemen hebben uitgevoerd. Daarom horen de acties die een agent zelfstandig mag uitvoeren in een autonomiematrix, niet alleen in de prompt.

Beschermt een disclaimer als “AI kan fouten maken” het bedrijf?

Niet veel, en niet op zichzelf. Een disclaimer kan klanten helpen een antwoord op waarde te schatten en ondersteunt transparantieplichten, maar maakt een misleidend antwoord niet juist. Rechters en toezichthouders kijken naar wat de klant werd verteld en of het redelijk was daarop te vertrouwen, en het consumentenrecht beperkt bedingen die dat risico op de klant afschuiven.

Vier grenzen komen steeds terug:

• Redelijk vertrouwen overleeft een link. Het antwoord van de chatbot van Air Canada linkte naar de juiste beleidspagina. Het tribunaal vroeg toch waarom klanten “informatie op het ene deel van de website op een ander deel zouden moeten nakijken” (paragraaf 28).
• Voorwaarden moeten worden bewezen en eerlijk zijn. Air Canada verwees naar zijn tarievenregeling maar diende de relevante tekst niet in, dus het “heeft geen contractueel verweer bewezen” (paragraaf 31). In het Verenigd Koninkrijk is een oneerlijk beding in een consumentenovereenkomst “niet bindend voor de consument” (Consumer Rights Act 2015, section 62, in het Engels).
• Sommige aansprakelijkheid kan helemaal niet worden uitgesloten. Onder de EU-richtlijn productaansprakelijkheid kan een contractueel beding de aansprakelijkheid tegenover de benadeelde niet beperken of uitsluiten (artikel 15).
• Toezichthouders kijken voorbij labels. Toen de FTC op 25 september 2024 haar actie Operation AI Comply aankondigde, zei toenmalig voorzitter Lina Khan dat “er geen AI-uitzondering bestaat op de geldende wetten”.

Een disclaimer die klanten vertelt dat ze met een AI praten, is iets anders, en in de EU is die nu verplicht. Houd hem, en houd hem eerlijk. Zie hem alleen niet als de controle die je uit de problemen houdt. De controle is een agent die de foute belofte niet doet.

Wat verwachten de regels in de VS, de EU en het VK van AI-agents in de klantenservice?

Alle drie verwachten hetzelfde kerngedrag: vertel klanten de waarheid, misleid ze niet en blijf verantwoordelijk voor de systemen die met hen praten. De EU voegt een expliciete plicht toe om AI kenbaar te maken, de Britse FCA past haar Consumer Duty toe op financiële instellingen die AI gebruiken, en Amerikaanse toezichthouders handhaven het bestaande consumentenrecht tegen AI-claims en falende chatbots.

De Britse verwachtingen zijn het concreetst voor supportteams bij gereguleerde ondernemingen. In haar AI Update van april 2024 (in het Engels) schreef de FCA dat AI-chatbots klanten kunnen helpen producten te begrijpen, maar dat “ondernemingen hun verplichtingen onder de Consumer Duty moeten overwegen” (paragraaf 3.25). Ze verwijst naar de regels over klantbegrip en het voldoen aan de informatiebehoefte van klanten (paragraaf 3.36), en zegt dat bij banken, verzekeraars en enhanced SM&CR-ondernemingen elk gebruik van AI in een bedrijfsonderdeel onder de verantwoordelijkheden van een Senior Manager valt (paragraaf 3.40). In de praktijk: één benoemde eigenaar per agent, uitkomstdata over de gesprekken, en vastgelegd dat het bestuur ernaar heeft gekeken.

De CFPB vermeldt zelf dat haar spotlight geen interpretatie van een regelgeving is. Zie voor de EU-details, inclusief risicoklassen en data, de gids over de AI-verordening voor de klantenservice.

Welke toezeggingen mag een AI-agent aan klanten doen?

Een AI-agent mag beleid uitleggen in de woorden van de goedgekeurde beleidstekst, feiten bevestigen die een systeem net heeft teruggegeven, en een uitkomst alleen toezeggen wanneer een tool die binnen zijn limieten heeft uitgevoerd. Hij mag nooit uitzonderingen toestaan, compensatie beloven, juridisch of financieel advies geven, of een datum of bedrag noemen dat hij niet uit een systeem kreeg.

De tabel werkt omdat hij “wees juist” vertaalt naar regels die een beoordelaar tegen een transcript kan controleren. De volledige set limieten, met getallen per actie, staat in de gids over AI-agent guardrails, en de soorten verzonnen antwoorden om op te letten staan in hoe je AI-hallucinaties opspoort.

Welk bewijs heb je nodig als een klant een belofte van de AI betwist?

Je moet kunnen laten zien wat de agent zei, woord voor woord en met tijdstempel, welk beleid en welke content hij die dag had moeten gebruiken, welke versie van de agent draaide, wat een tool werkelijk deed, en hoe het gesprek werd gecontroleerd. Zonder dat dossier is de screenshot van de klant het enige bewijs, en die wint meestal.

De uitspraak over Air Canada laat zien wat een leeg dossier kost. De klant diende een screenshot van het antwoord van de chatbot in. De luchtvaartmaatschappij “gaf geen informatie over de aard van haar chatbot” (paragraaf 14), diende de tarievenregeling waarop ze zich beriep niet in (paragraaf 31) en leverde geen bewijs van het echte rouwtarief, dus het tribunaal trok een ongunstige conclusie en gebruikte het bedrag van de klant (paragraaf 36).

Bewaar voor elk gesprek van een AI-agent deze zeven gegevens, zo lang als je klachten- en juridische teams aangeven:

1. Het volledige transcript, onbewerkt, met tijdstempels en het kanaal.
2. De agentversie: model, prompt of instructies, en de configuratie die gold.
3. De contentversie: welke helpartikelen en beleidsteksten de agent die dag kon gebruiken.
4. Toolaanroepen en resultaten: wat de agent een systeem vroeg te doen, en wat het systeem teruggaf.
5. De AI-melding die de klant zag, en of een overdracht naar een mens werd aangeboden.
6. Het beoordelingsdossier: score, beoordelaar of geautomatiseerde controle, en eventuele signalen.
7. Het log van oplossingen: wat er na een signaal veranderde, wanneer, en wie het goedkeurde.

Het gegeven dat later het moeilijkst te reconstrueren is, is het verband tussen data en versies: “welke retourtermijn paste de agent op 3 maart toe?” Leg het vast bij elke release. Beleid voor AI-agents beschrijft hoe je beleidsversies en agentcontent gelijk houdt.

Hoe ga je om met een foute belofte van je AI-agent?

Nakomen, corrigeren, onderzoeken. Kom de belofte na wanneer de klant er redelijkerwijs op vertrouwde en de kosten in verhouding staan. Corrigeer haar bij elke andere klant die hetzelfde antwoord kreeg, voordat die erop handelt. Onderzoek de oorzaak en bevestig de oplossing op nieuwe gesprekken. Eén kleine claim aanvechten kost meestal meer dan het oplevert.

Nakomen. Leg vooraf een schriftelijke regel vast, met de Head of CX als eigenaar en samen met juridische zaken: kom bijvoorbeeld elke belofte van een AI-agent onder een vast bedrag na als de klant erop handelde, en stuur grotere beloftes binnen één werkdag naar een benoemde goedkeurder. Air Canada bood een tegoedbon van 200 dollar aan, die de klant niet accepteerde, en het tribunaal weigerde die te verrekenen (paragraaf 41). Een coulancegebaar is geen schikking, tenzij de klant ermee instemt.

Corrigeren. Doorzoek of scoor elk gesprek over hetzelfde onderwerp sinds de fout begon, maak een lijst van de klanten die het foute antwoord kregen en neem contact op met wie nog niet heeft gehandeld. De audit van het oplossingspercentage van AI-agents legt uit hoe je controleert of “opgeloste” gesprekken echt opgelost waren.

Onderzoeken. Vind de oorzaak (een verouderd artikel, een ontbrekende regel, een gewijzigde prompt), los ze op, test opnieuw en controleer daarna de volgende gesprekken over dat onderwerp om te bevestigen dat de oplossing standhoudt.

Een uitgewerkt voorbeeld laat zien waarom de stap corrigeren loont. De getallen zijn een illustratie, geen data van een echt bedrijf.

• Een AI-agent voert 300 opzeggingsgesprekken per dag. Een contentupdate geeft ten onrechte een termijn van 60 dagen voor volledige terugbetaling; het beleid is 30 dagen.
• De fout loopt 12 dagen: 3.600 opzeggingsgesprekken. In 15% daarvan zit de klant tussen dag 31 en dag 60, en de agent zegt dat volledige terugbetaling nog mogelijk is: 540 klanten.
• Als 40% van hen handelt voordat iemand het merkt, komen er 216 terugbetalingsclaims binnen. Bij gemiddeld € 90 kost het nakomen daarvan € 19.440.
• De andere 324 klanten hebben nog niet gehandeld. Wie hen benadert op de dag dat de fout wordt gevonden, met het juiste beleid en een excuus, voorkomt het grootste deel van de resterende kosten en voorkomt dat ze redelijkerwijs op het foute antwoord vertrouwen.

Een willekeurige steekproef van 2% zou ongeveer 72 van die 3.600 gesprekken hebben beoordeeld, en in ongeveer 11 daarvan zou de fout zitten. Dat kan het probleem aan het licht brengen. Het geeft je niet de lijst met 540 namen, en die lijst is wat de stap corrigeren nodig heeft.

De checklist voor aansprakelijkheidsrisico’s van AI-agents

Gebruik de checklist hieronder om een AI-agent voor de lancering te beoordelen, en daarna elk kwartaal. Elke rij noemt een risico, een voorbeeld uit support, de controle die het voorkomt en het bewijs dat je moet kunnen tonen als een klant, auditor of toezichthouder erom vraagt. Schrap rijen die niet op je agent van toepassing zijn, en geef elke rij een eigenaar.

De rijen 1, 2, 3, 11 en 12 zijn waar de meeste aansprakelijkheid in support begint: een fout antwoord over geld, herhaald, zonder dossier om het te verklaren.

Wanneer deze checklist niets voor jou is

Beantwoordt je AI-agent alleen vragen uit openbare helpartikelen, voert hij geen acties uit en draagt hij elke vraag over geld, accounts of klachten over aan mensen, dan dekken de rijen 1, 4, 5 en 11 het grootste deel van je risico. Voeg de rest toe op de dag dat de agent een tool krijgt voor terugbetalingen, tegoeden of opzeggingen, of een gereguleerd product gaat bedienen.

De checklist vervangt ook geen juridische toetsing. Consumentenrecht, financiële regels en sectortoezichthouders verschillen per land, en een advocaat die je markt kent, moet je AI-melding, je voorwaarden en je contract met de leverancier lezen.

Waar Kaizo past

Kaizo controleert elk supportgesprek, van een mens of een AI, tegen je eigen rubric en laat zien wat je moet verbeteren. Het levert het bewijs voor de rijen 2 en 12: AutoPilot scoort elk opgelost gesprek tegen je eigen scorecard, en elke score verwijst naar de regels in het gesprek. Bekijk hoe kwaliteitscontrole voor AI-agents werkt, of boek een demo om het op je eigen gesprekken te zien.

Hoe je deze week begint

Je kunt deze week beginnen zonder nieuwe tool: vijf stappen laten zien waar je AI-agent vandaag aansprakelijkheid kan scheppen en welke gegevens je niet zou kunnen tonen als een klant morgen een antwoord betwist.

1. Haal 50 gesprekken op van vorige week over terugbetalingen, kosten, opzeggingen en klachten, en markeer elke uitspraak die een toezegging is.
2. Toets elke toezegging aan de tabel hierboven: uitleggen, bevestigen, toezeggen, uitzondering en advies.
3. Doe een ophaaltest: kies een gesprek van een maand geleden en probeer binnen een uur het transcript, de agentversie en de beleidsversie op tafel te leggen.
4. Schrijf de regel voor nakomen: het bedrag tot waar een foute AI-belofte zonder discussie wordt nagekomen, en wie daarboven goedkeurt.
5. Kopieer de 14 rijen, geef elke rij een eigenaar en breng de gaten in bij je volgende review van AI-agent governance.

Veelgestelde vragen

Wat is verantwoording bij kunstmatige intelligentie?

Verantwoording bij AI betekent dat een benoemde persoon of organisatie instaat voor wat een AI-systeem doet, het kan uitleggen en het moet rechtzetten als het misgaat. In de klantenservice is dat het bedrijf dat de agent inzet, met één eigenaar per agent, vastgelegd wat de agent zei en deed, en een proces om fouten te corrigeren.

Worden AI-agents voor aansprakelijkheid anders behandeld dan chatbots?

Het principe is hetzelfde: het bedrijf staat voor beide in. Het risico verschilt. Een chatbot die alleen antwoordt, doet uitspraken waarop een klant kan vertrouwen. Een AI-agent die terugbetaalt, annuleert of accounts wijzigt, voert ook acties uit, dus een fout kan direct geld of data verplaatsen. Daarom hebben acties limieten nodig die in de tools zelf worden afgedwongen.

Kunnen we de kosten van een fout van een AI-agent op de leverancier verhalen?

Alleen als je contract dat toelaat. Kijk voor de lancering naar de garanties, vrijwaringen en het aansprakelijkheidsplafond van de leverancier, want veel voorwaarden beperken de aansprakelijkheid voor de juistheid van output. In de EU voegt de herziene richtlijn productaansprakelijkheid risicoaansprakelijkheid toe tegenover fabrikanten van gebrekkige software voor letsel, schade aan eigendommen en data, niet voor een fout antwoord over een terugbetaling.

Vermindert het beoordelen van AI-gesprekken onze aansprakelijkheid?

Beoordelen verschuift de verantwoordelijkheid niet, maar het verandert twee dingen. Het vindt foute antwoorden vroeg, zodat minder klanten erop vertrouwen. En het levert bewijs van redelijke zorg: in de zaak Air Canada was het gebrek aan zorg om te verzekeren dat de chatbot juist was een deel van het oordeel tegen de luchtvaartmaatschappij.

Moeten we klanten vertellen dat ze met een AI praten?

In de EU wel: sinds 2 augustus 2026 moeten mensen dat vanaf de eerste interactie te horen krijgen, tenzij het duidelijk is. Elders is het goede praktijk, en het ondersteunt de eerlijkheidsplichten die consumenten- en financiële toezichthouders al toepassen. Een melding informeert de klant. Ze verontschuldigt geen fout antwoord.