Haftung für KI-Chatbots: Wer haftet für Ihren KI-Agenten?

In den meisten Fällen ja: Das Unternehmen, das einen KI-Agenten vor seine Kunden stellt, haftet für das, was dieser Agent ihnen sagt. Im Fall Moffatt v. Air Canada hielt ein kanadisches Tribunal die Fluggesellschaft für die falsche Antwort ihres Chatbots verantwortlich, genauso wie für eine falsche Webseite. Ein Haftungshinweis schiebt diese Verantwortung weder auf den Bot noch auf seinen Anbieter.

Dieser Artikel erklärt die Fälle, Regeln und praktischen Kontrollen für Verantwortliche im Kundenservice. Er ist eine allgemeine Information und keine Rechtsberatung: Für Ihren Markt und Ihre Verträge fragen Sie eine Anwältin oder einen Anwalt.

Kurz gesagt

• Die Haftung für KI-Chatbots beginnt mit einer alten Regel: Ein Unternehmen ist für die Informationen verantwortlich, die es Kunden gibt, egal über welchen Kanal oder welches System.
• Im Fall Moffatt v. Air Canada (2024) nannte das Tribunal die Idee, ein Chatbot sei für sein eigenes Handeln verantwortlich, „ein bemerkenswertes Vorbringen“ und verurteilte die Fluggesellschaft zur Zahlung.
• Ein Hinweis wie „KI kann Fehler machen“ ist kein Schutzschild: Regeln zu missbräuchlichen Klauseln, zur Produkthaftung und die Aufsichtsbehörden begrenzen, was er bewirken kann.
• Bestreitet ein Kunde eine Zusage der KI, ist die Seite mit dem Transkript, der Version der Richtlinie und der Version des Agenten vom betreffenden Tag in der stärkeren Position.
• Die sicherste Betriebsregel lautet einhalten, korrigieren, prüfen: angemessene Zusagen einhalten, alle kontaktieren, die dieselbe falsche Antwort bekamen, und die Ursache vor der nächsten Konversation beheben.

Haftet ein Unternehmen für das, was sein KI-Chatbot Kunden sagt?

Ja, in dem entschiedenen Fall, den die meisten zitieren. Im Fall Moffatt v. Air Canada behandelte das Civil Resolution Tribunal von British Columbia den Chatbot als Teil der Website der Fluggesellschaft und sah sie wegen fahrlässiger Falschdarstellung (negligent misrepresentation) als haftbar an, weil sich ein Kunde auf seine falsche Antwort verlassen hatte.

Der Sachverhalt ist einfach (Entscheidung, 2024 BCCRT 149, ergangen am 14. Februar 2024). Im November 2022 fragte ein Kunde nach einem Todesfall in der Familie den Chatbot auf der Website von Air Canada nach Trauerfalltarifen. Der Chatbot sagte, er könne jetzt buchen und das Ticket innerhalb von 90 Tagen nach Ausstellung für einen ermäßigten Tarif einreichen, auch nach der Reise. Die verlinkte Seite zum Trauerfalltarif sagte das Gegenteil. Ein Vertreter von Air Canada räumte später in einer E-Mail ein, der Chatbot habe „irreführende Worte“ verwendet (Randnummer 22).

Das Tribunal prüfte den Anspruch anhand der fünf Elemente der fahrlässigen Falschdarstellung (Randnummer 25). Jedes lässt sich auf eine Supportkonversation übertragen:

Air Canada argumentierte, sie könne nicht für ihren Chatbot haftbar gemacht werden. Das Tribunal antwortete: „Es sollte für Air Canada offensichtlich sein, dass sie für alle Informationen auf ihrer Website verantwortlich ist. Es macht keinen Unterschied, ob die Information von einer statischen Seite oder einem Chatbot stammt“ (Randnummer 27). Mit Zinsen und Gebühren belief sich die Anordnung auf 812,02 CA$ (Randnummer 44).

Ordnen Sie den Fall richtig ein. Es ist eine Entscheidung über eine geringfügige Forderung in einer kanadischen Provinz, sie bindet kein Gericht anderswo, und sie hat nicht geprüft, ob der Anbieter des Chatbots der Fluggesellschaft etwas schuldete. Ihr Wert liegt in der Begründung, die die gewöhnlichen Regeln anwendet, nach denen jedes Unternehmen ohnehin lebt. Für das Betriebsmodell dazu beginnen Sie mit dem Leitfaden zur KI-Agenten-Governance.

Wer haftet, wenn KI Fehler macht: das Unternehmen, der Anbieter oder die KI?

Gegenüber dem Kunden haftet in den meisten Situationen das Unternehmen, das den KI-Agenten einsetzt, weil der Agent in seinem Namen spricht. Die KI selbst ist keine Rechtsperson. Den Anteil des Anbieters bestimmt vor allem Ihr Vertrag, und in der EU die Regeln zur Produkthaftung, die Personenschäden, Sachschäden und verlorene Daten abdecken, nicht aber eine falsche Antwort zu einer Erstattung.

Drei Ebenen entscheiden, wer zahlt:

1. Sie und der Kunde. Verbraucherrecht, Vertragsrecht und Regeln zu Falschdarstellungen gelten für das, was Ihre Kanäle sagen. Der Kunde muss nicht wissen, welcher Anbieter das Modell gebaut hat.
2. Sie und der Anbieter. Gewährleistungen, Freistellungen und Haftungsobergrenzen im Vertrag mit dem Anbieter entscheiden, ob Sie einen Schaden ersetzt bekommen. Viele Bedingungen von Anbietern begrenzen oder schließen die Haftung für die Richtigkeit der Ausgaben aus; lesen Sie sie also vor dem Launch, nicht nach einem Vorfall.
3. Die EU-Ebene der Produkthaftung. Die überarbeitete Produkthaftungsrichtlinie, (EU) 2024/2853, legt fest, dass „Software“ ein Produkt ist (Artikel 4 Nummer 1), egal ob sie auf einem Gerät, in der Cloud oder als Dienst läuft (Erwägungsgrund 13). Sie gilt für Produkte, die nach dem 9. Dezember 2026 in Verkehr gebracht oder in Betrieb genommen werden (Artikel 2 Absatz 1), demselben Datum, bis zu dem die Mitgliedstaaten sie in nationales Recht umgesetzt haben müssen (Artikel 22 Absatz 1).

Für den Support zählt die Richtlinie weniger, als ihre Schlagzeilen vermuten lassen. Sie deckt Tod, Körperverletzung einschließlich Schäden an der psychischen Gesundheit, Sachschäden sowie die Vernichtung oder Beschädigung von Daten ab, die nicht beruflich genutzt werden (Artikel 6). Erwägungsgrund 24 sagt, dass ein reiner Vermögensschaden für sich allein keine Haftung nach der Richtlinie auslöst. Eine falsche Zusage zu einer Erstattung oder Gebühr ist ein reiner Vermögensschaden, sie bleibt also beim Verbraucher- und Vertragsrecht. Wo die Richtlinie greift, kann die Haftung gegenüber der geschädigten Person nicht durch eine Vertragsklausel begrenzt oder ausgeschlossen werden (Artikel 15).

Der Unterschied zwischen einem Chatbot und einem KI-Agenten ist hier wichtig. Ein Chatbot, der nur antwortet, macht Aussagen. Ein Agent, der Erstattungen auslöst, Bestellungen storniert oder Konten ändert, erzeugt auch Transaktionen, ein Fehler ist also nicht mehr nur eine irreführende Antwort: Es ist eine Aktion, die Ihre Systeme ausgeführt haben. Deshalb gehören die Aktionen, die ein Agent allein ausführen darf, in eine Autonomiematrix, nicht nur in den Prompt.

Schützt ein Hinweis wie „KI kann Fehler machen“ das Unternehmen?

Kaum, und nicht für sich allein. Ein Haftungshinweis kann Kunden helfen, eine Antwort einzuordnen, und unterstützt Transparenzpflichten, aber er macht eine irreführende Antwort nicht richtig. Gerichte und Aufsichtsbehörden schauen darauf, was dem Kunden gesagt wurde und ob es vernünftig war, sich darauf zu verlassen, und das Verbraucherrecht begrenzt Klauseln, die dieses Risiko auf den Kunden abwälzen.

Vier Grenzen tauchen immer wieder auf:

• Berechtigtes Vertrauen übersteht einen Link. Die Antwort des Chatbots von Air Canada verlinkte auf die richtige Richtlinienseite. Das Tribunal fragte trotzdem, warum Kunden „Informationen aus einem Teil ihrer Website in einem anderen Teil gegenprüfen müssen“ (Randnummer 28).
• Klauseln müssen belegt und fair sein. Air Canada berief sich auf ihren Tarif, legte den maßgeblichen Text aber nicht vor, und hat deshalb „keine vertragliche Einwendung belegt“ (Randnummer 31). Im Vereinigten Königreich ist eine missbräuchliche Klausel in einem Verbrauchervertrag „für den Verbraucher nicht bindend“ (Consumer Rights Act 2015, section 62).
• Manche Haftung lässt sich gar nicht ausschließen. Nach der EU-Produkthaftungsrichtlinie kann eine Vertragsklausel die Haftung gegenüber der geschädigten Person weder begrenzen noch ausschließen (Artikel 15).
• Aufsichtsbehörden schauen hinter die Etiketten. Als die FTC am 25. September 2024 ihre Aktion Operation AI Comply ankündigte, sagte die damalige Vorsitzende Lina Khan, es gebe „keine KI-Ausnahme von den geltenden Gesetzen“.

Ein Hinweis, der Kunden sagt, dass sie mit einer KI sprechen, ist etwas anderes, und in der EU ist er jetzt Pflicht. Behalten Sie ihn und halten Sie ihn ehrlich. Behandeln Sie ihn nur nicht als die Kontrolle, die Sie vor Ärger bewahrt. Die Kontrolle ist ein Agent, der die falsche Zusage gar nicht erst macht.

Was erwarten Regeln in den USA, der EU und im Vereinigten Königreich von KI-Agenten im Kundenservice?

Alle drei erwarten im Kern dasselbe Verhalten: Kunden die Wahrheit sagen, sie nicht in die Irre führen und für die Systeme verantwortlich bleiben, die mit ihnen sprechen. Die EU ergänzt eine ausdrückliche Pflicht zur Offenlegung von KI, die britische FCA wendet ihre Consumer Duty auf Finanzunternehmen an, die KI nutzen, und US-Behörden setzen bestehendes Verbraucherschutzrecht gegen KI-Versprechen und Fehler von Chatbots durch.

Die britischen Erwartungen sind für Supportteams in regulierten Unternehmen am konkretesten. In ihrem AI Update vom April 2024 schrieb die FCA, dass KI-Chatbots Kunden helfen können, Produkte zu verstehen, aber „Unternehmen sollten ihre Pflichten unter der Consumer Duty berücksichtigen“ (Absatz 3.25). Sie verweist auf die Regeln zum Kundenverständnis, nach denen Unternehmen den Informationsbedarf der Kunden decken müssen (Absatz 3.36), und sagt, dass in Banken, Versicherern und Enhanced-SM&CR-Unternehmen jeder Einsatz von KI in einem Geschäftsbereich in die Verantwortung eines Senior Managers fällt (Absatz 3.40). In der Praxis heißt das: eine benannte verantwortliche Person pro Agent, Ergebnisdaten zu seinen Konversationen und ein Nachweis, dass sich die Geschäftsleitung damit befasst hat.

Der CFPB-Bericht hält fest, dass er keine Auslegung einer Vorschrift ist. Für die Details zur EU, einschließlich Risikoklassen und Fristen, lesen Sie unseren Leitfaden zur KI-Verordnung im Kundenservice.

Welche Zusagen darf ein KI-Agent Kunden machen?

Ein KI-Agent darf eine Richtlinie mit den Worten des freigegebenen Richtlinientexts erklären, Tatsachen bestätigen, die ein System gerade zurückgegeben hat, und sich nur dann auf ein Ergebnis festlegen, wenn ein Tool es innerhalb seiner Grenzen ausgeführt hat. Er sollte nie Ausnahmen gewähren, Entschädigung versprechen, Rechts- oder Finanzberatung geben oder einen Termin oder Betrag nennen, den er nicht aus einem System hat.

Die Tabelle funktioniert, weil sie „sei korrekt“ in Regeln übersetzt, die eine prüfende Person an einem Transkript kontrollieren kann. Den vollständigen Satz an Grenzen, mit Zahlen pro Aktion, finden Sie im Leitfaden zu KI-Agenten-Guardrails, und die Arten erfundener Antworten, auf die Sie achten sollten, im Leitfaden zum Erkennen von KI-Halluzinationen.

Welche Belege brauchen Sie, wenn ein Kunde eine Zusage der KI bestreitet?

Sie müssen zeigen können, was der Agent gesagt hat, Wort für Wort und mit Zeitstempel, welche Richtlinie und welche Inhalte er an diesem Tag hätte nutzen sollen, welche Version des Agenten lief, was ein Tool tatsächlich getan hat und wie die Konversation geprüft wurde. Ohne diesen Nachweis ist der Screenshot des Kunden der einzige Beleg, und der gewinnt meistens.

Die Entscheidung zu Air Canada zeigt, was eine leere Akte kostet. Der Kunde reichte einen Screenshot der Antwort des Chatbots ein. Die Fluggesellschaft „machte keine Angaben zur Art ihres Chatbots“ (Randnummer 14), legte den Tarif, auf den sie sich berief, nicht vor (Randnummer 31) und bot keinen Beleg für den tatsächlichen Trauerfalltarif. Das Tribunal zog daraus einen für sie nachteiligen Schluss und nutzte die Zahl des Kunden (Randnummer 36).

Bewahren Sie für jede Konversation eines KI-Agenten diese sieben Nachweise auf, so lange, wie Ihr Beschwerde- und Ihr Rechtsteam es vorgeben:

1. Das vollständige Transkript, unbearbeitet, mit Zeitstempeln und Kanal.
2. Die Version des Agenten: Modell, Prompt oder Anweisungen und die geltende Konfiguration.
3. Die Version der Inhalte: welche Hilfeartikel und Richtlinientexte der Agent an diesem Tag nutzen konnte.
4. Tool-Aufrufe und Ergebnisse: was der Agent ein System tun ließ und was das System zurückgab.
5. Die KI-Offenlegung, die der Kunde gesehen hat, und ob eine Übergabe an einen Menschen angeboten wurde.
6. Der Prüfnachweis: Score, prüfende Person oder automatische Prüfung und jede ausgelöste Markierung.
7. Das Korrekturprotokoll: was sich nach einer Markierung geändert hat, wann und wer es freigegeben hat.

Am schwersten lässt sich später die Verbindung zwischen Daten und Versionen rekonstruieren: „Welche Retourenfrist hat der Agent am 3. März angewendet?“ Halten Sie sie bei jedem Release fest. Wie Richtlinienversionen und Inhalte des Agenten im Gleichschritt bleiben, zeigt unser Leitfaden zu Richtlinien für KI-Agenten.

Wie gehen Sie mit einer falschen Zusage Ihres KI-Agenten um?

Einhalten, korrigieren, prüfen. Halten Sie die Zusage ein, wenn sich der Kunde berechtigt darauf verlassen hat und die Kosten verhältnismäßig sind. Korrigieren Sie sie bei allen anderen Kunden, die dieselbe Antwort bekommen haben, bevor sie handeln. Prüfen Sie die Ursache und bestätigen Sie die Korrektur an neuen Konversationen. Eine einzelne kleine Forderung anzufechten kostet meist mehr, als es spart.

Einhalten. Legen Sie vorab eine schriftliche Regel fest, verantwortet von der Leitung Kundenservice gemeinsam mit der Rechtsabteilung: zum Beispiel jede Zusage eines KI-Agenten unter einem festen Betrag einhalten, wenn der Kunde danach gehandelt hat, und größere innerhalb eines Arbeitstags an eine benannte freigebende Person geben. Air Canada bot einen Gutschein über 200 $ an, den der Kunde nicht annahm, und das Tribunal lehnte es ab, ihn zu verrechnen (Randnummer 41). Eine Kulanzgeste ist kein Vergleich, solange der Kunde ihr nicht zustimmt.

Korrigieren. Durchsuchen oder bewerten Sie jede Konversation zum selben Thema seit Beginn des Fehlers, listen Sie die Kunden auf, die die falsche Antwort bekamen, und kontaktieren Sie diejenigen, die noch nicht gehandelt haben. Wie Sie prüfen, ob „gelöste“ Konversationen wirklich gelöst waren, zeigt unser Leitfaden, wie Sie die Lösungsquote von KI-Agenten prüfen.

Prüfen. Finden Sie die Ursache (ein veralteter Artikel, eine fehlende Regel, eine Änderung am Prompt), beheben Sie sie, testen Sie erneut und prüfen Sie dann die nächsten Konversationen zu diesem Thema, um zu bestätigen, dass die Korrektur hält.

Ein Rechenbeispiel zeigt, warum sich der Schritt Korrigieren lohnt. Die Zahlen sind eine Illustration, keine Daten eines echten Unternehmens.

• Ein KI-Agent bearbeitet 300 Kündigungskonversationen am Tag. Ein Update der Inhalte nennt fälschlich eine Frist von 60 Tagen für eine volle Erstattung; die Richtlinie sagt 30 Tage.
• Der Fehler läuft 12 Tage: 3.600 Kündigungskonversationen. In 15 % davon ist der Kunde zwischen Tag 31 und Tag 60, und der Agent sagt, eine volle Erstattung sei noch möglich: 540 Kunden.
• Handeln 40 % davon, bevor es jemand bemerkt, kommen 216 Erstattungsforderungen. Bei durchschnittlich 90 $ kostet es 19.440 $, sie einzuhalten.
• Die anderen 324 Kunden haben noch nicht gehandelt. Sie am Tag der Entdeckung mit der richtigen Richtlinie und einer Entschuldigung zu kontaktieren, stoppt den Großteil der restlichen Kosten und verhindert, dass sie sich berechtigt auf die falsche Antwort verlassen.

Eine Zufallsstichprobe von 2 % hätte etwa 72 dieser 3.600 Konversationen geprüft, und etwa 11 davon hätten den Fehler enthalten. Das kann das Problem aufdecken. Es liefert Ihnen aber nicht die Liste mit 540 Namen, und genau diese Liste braucht der Schritt Korrigieren.

Die Checkliste zum Haftungsrisiko von KI-Agenten

Nutzen Sie die Checkliste unten, um einen KI-Agenten vor dem Launch und danach einmal im Quartal zu prüfen. Jede Zeile nennt ein Risiko, ein Beispiel aus dem Support, die Kontrolle, die es verhindert, und den Beleg, den Sie vorlegen können sollten, wenn ein Kunde, Auditor oder eine Aufsichtsbehörde fragt. Streichen Sie Zeilen, die für Ihren Agenten nicht gelten, und geben Sie jeder Zeile eine verantwortliche Person.

In den Zeilen 1, 2, 3, 11 und 12 beginnt die meiste Haftung im Support: eine falsche Antwort zu Geld, wiederholt, ohne einen Nachweis, der sie erklärt.

Wann diese Checkliste nicht zu Ihnen passt

Beantwortet Ihr KI-Agent nur Fragen aus öffentlichen Hilfeartikeln, führt keine Aktionen aus und übergibt jede Frage zu Geld, Konto oder Beschwerden an Menschen, decken die Zeilen 1, 4, 5 und 11 den Großteil Ihres Risikos ab. Ergänzen Sie den Rest an dem Tag, an dem der Agent ein Tool für Erstattungen, Gutschriften oder Kündigungen bekommt oder ein reguliertes Produkt bedient.

Die Checkliste ersetzt auch keine rechtliche Prüfung. Verbraucherrecht, Finanzregeln und Branchenaufsicht unterscheiden sich von Land zu Land, und eine Anwältin oder ein Anwalt, die Ihren Markt kennen, sollte Ihre Offenlegung, Ihre Bedingungen und Ihren Vertrag mit dem Anbieter lesen.

Wo Kaizo ins Bild passt

Kaizo prüft jede Supportkonversation, menschlich oder KI, anhand Ihres eigenen Bewertungsrasters und zeigt Ihnen, was zu beheben ist. Kaizo liefert die Belege für die Zeilen 2 und 12: AutoPilot bewertet jede gelöste Konversation anhand Ihrer eigenen Scorecard, und jeder Score verweist auf die Stellen in der Konversation. Unter Qualitätssicherung für KI-Agenten sehen Sie, wie es funktioniert, oder buchen Sie eine Demo, um es an Ihren eigenen Konversationen zu sehen.

So starten Sie diese Woche

Sie können diese Woche ohne neues Tool beginnen: Fünf Schritte zeigen, wo Ihr KI-Agent heute Haftung erzeugen kann und welche Nachweise Sie nicht vorlegen könnten, wenn ein Kunde morgen eine Antwort bestreitet.

1. Ziehen Sie 50 Konversationen aus der letzten Woche zu Erstattungen, Gebühren, Kündigungen und Beschwerden und markieren Sie jede Aussage, die eine Zusage ist.
2. Prüfen Sie jede Zusage anhand der Tabelle oben mit Erklären, Bestätigen, Festlegen, Ausnahme und Beratung.
3. Machen Sie einen Abruftest: Wählen Sie eine Konversation von vor einem Monat und versuchen Sie, Transkript, Version des Agenten und Version der Richtlinie innerhalb einer Stunde vorzulegen.
4. Schreiben Sie die Regel zum Einhalten: den Betrag, bis zu dem eine falsche Zusage der KI ohne Diskussion eingehalten wird, und wer darüber freigibt.
5. Kopieren Sie die 14 Zeilen, geben Sie jeder eine verantwortliche Person und bringen Sie die Lücken in Ihre nächste Prüfung zur KI-Agenten-Governance ein.

Häufig gestellte Fragen

Was bedeutet Verantwortlichkeit bei künstlicher Intelligenz?

Verantwortlichkeit bei KI bedeutet, dass eine benannte Person oder Organisation für das einsteht, was ein KI-System tut, es erklären kann und es richtigstellen muss, wenn etwas schiefgeht. Im Kundenservice ist das das Unternehmen, das den Agenten einsetzt, mit einer verantwortlichen Person pro Agent, Nachweisen darüber, was er gesagt und getan hat, und einem Prozess, um Fehler zu korrigieren.

Werden KI-Agenten bei der Haftung anders behandelt als Chatbots?

Das Prinzip ist dasselbe: Das Unternehmen haftet für beide. Das Risiko unterscheidet sich. Ein Chatbot, der nur antwortet, macht Aussagen, auf die sich ein Kunde verlassen kann. Ein KI-Agent, der erstattet, storniert oder Konten ändert, führt auch Aktionen aus, ein Fehler kann also direkt Geld oder Daten bewegen. Deshalb brauchen Aktionen Grenzen, die in den Tools selbst durchgesetzt werden.

Können wir die Kosten eines Fehlers des KI-Agenten vom Anbieter zurückholen?

Nur, wenn Ihr Vertrag es erlaubt. Prüfen Sie Gewährleistungen, Freistellungen und die Haftungsobergrenze des Anbieters vor dem Launch, denn viele Bedingungen begrenzen die Haftung für die Richtigkeit der Ausgaben. In der EU ergänzt die überarbeitete Produkthaftungsrichtlinie verschuldensunabhängige Ansprüche gegen Hersteller fehlerhafter Software bei Personen-, Sach- und Datenschäden, nicht aber bei einer falschen Antwort zu einer Erstattung.

Senkt die Prüfung von KI-Konversationen unsere Haftung?

Die Prüfung überträgt keine Verantwortung, aber sie ändert zwei Dinge. Sie findet falsche Antworten früh, sodass sich weniger Kunden darauf verlassen. Und sie erzeugt Belege für angemessene Sorgfalt: Im Fall Air Canada war die fehlende Sorgfalt, die Richtigkeit des Chatbots sicherzustellen, Teil der Feststellung gegen die Fluggesellschaft.

Müssen wir Kunden sagen, dass sie mit einer KI sprechen?

In der EU ja: Seit dem 2. August 2026 müssen Menschen ab der ersten Interaktion informiert werden, es sei denn, es ist offensichtlich. Anderswo ist es gute Praxis und unterstützt die Ehrlichkeitspflichten, die Verbraucher- und Finanzaufsicht ohnehin anwenden. Eine Offenlegung informiert den Kunden. Sie entschuldigt keine falsche Antwort.