KI-Verordnung im Kundenservice: was für KI-Agenten gilt

Für KI-Agenten im Kundenservice ist die zentrale Regel der KI-Verordnung (Verordnung (EU) 2024/1689, AI Act) die Transparenz: Seit dem 2. August 2026 müssen Menschen ab der ersten Interaktion erfahren, dass sie mit einer KI interagieren, es sei denn, das ist offensichtlich.

Die meisten Support-Chatbots und Voicebots sind nicht hochriskant. KI, die Ihre menschlichen Agents beobachtet und bewertet, kann es sein, und das Ableiten von Emotionen von Beschäftigten aus biometrischen Daten ist verboten.

Kurz gesagt

• Art. 50 Abs. 1 der KI-Verordnung verlangt, dass Kunden spätestens bei der ersten Interaktion erfahren, dass sie mit einer KI sprechen, und gilt seit dem 2. August 2026.
• Der digitale Omnibus zur KI, in Kraft seit dem 27. Juli 2026, hat die Fristen für Hochrisiko-Systeme auf den 2. Dezember 2027 und den 2. August 2028 verschoben, die Chatbot-Regel aber nicht aufgeschoben.
• Eine kundennahe Support-KI fällt meist in die Transparenzstufe, während KI zur Beobachtung und Bewertung von Beschäftigten unter eine Hochrisiko-Kategorie fällt, sofern keine Ausnahme greift.
• KI, die Ihre menschlichen Agents bewertet, wirft zwei Fragen auf: das Verbot der Emotionserkennung am Arbeitsplatz und die Hochrisiko-Regeln für die Überwachung von Beschäftigten.
• Die QA kann die Einhaltung in jeder Konversation zeigen: Bewerten Sie die KI-Offenlegung, die Übergabe an eine Person und das, was der KI-Agent versprochen hat.

Dieser Artikel erklärt die Rechtslage zum Stand 4. November 2026. Er ist keine Rechtsberatung. Für die QA-Seite von KI-Agenten zeigt die Seite zur Qualitätssicherung von KI-Agenten, wie Kaizo Konversationen von KI-Agenten mit derselben Scorecard bewertet wie die Ihres Teams.

Was verlangt die KI-Verordnung von KI-Agenten im Kundenservice?

Die KI-Verordnung verlangt, dass ein KI-Agent, der mit Kunden spricht, so gestaltet ist, dass sie wissen, dass er eine KI ist, es sei denn, das ist aus dem Kontext offensichtlich. Das ist Art. 50 Abs. 1, und es ist eine Pflicht des Anbieters.

Nach Art. 50 Abs. 1 der Verordnung (EU) 2024/1689 müssen Anbieter sicherstellen, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass diese Personen informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person offensichtlich.

Art. 50 Abs. 5 ergänzt, dass die Information klar und eindeutig sein muss, spätestens zum Zeitpunkt der ersten Interaktion bereitgestellt wird und barrierefrei ist.

Die FAQ der Europäischen Kommission zu Artikel 50, aktualisiert am 24. Juli 2026, ergänzen Details, die für Supportteams wichtig sind:

Wer ist der Anbieter? Meist das Unternehmen, das den KI-Agenten (auf Englisch) entwickelt. Das kann Ihr Helpdesk-Anbieter sein oder Ihr eigenes Team, wenn Sie ihn selbst bauen.

Wenn Sie den KI-Agenten eines Anbieters einsetzen, sind Sie trotzdem für das verantwortlich, was Ihre Kunden sehen: Prüfen Sie, dass die Offenlegung in jedem Kanal und jeder Sprache, die Sie betreiben, eingeschaltet ist, denn einem Kunden ist egal, wessen Pflicht es war.

Die wichtigsten Fristen der KI-Verordnung für Supportteams

Die KI-Verordnung trat am 1. August 2024 in Kraft und gilt stufenweise; der digitale Omnibus zur KI hat die Fristen für Hochrisiko-Systeme verschoben und die Chatbot-Regel beim 2. August 2026 belassen.

Quellen: Die Daten stammen aus Art. 111 und 113 der Verordnung (EU) 2024/1689 in der durch die Verordnung (EU) 2026/1744 geänderten Fassung, abgeglichen mit der Seite der Europäischen Kommission zur KI-Verordnung, aktualisiert am 19. Oktober 2026. Der Omnibus wurde am 24. Juli 2026 im Amtsblatt veröffentlicht.

Er hat auch Art. 4 neu gefasst: Anbieter und Betreiber müssen nun Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu fördern, und der Text stellt klar, dass sie damit kein bestimmtes Niveau garantieren müssen.

In welche Risikoklasse fällt eine KI im Kundenservice?

Eine kundennahe Support-KI fällt meist in die Transparenzstufe, mit der Offenlegungspflicht und nichts weiter. Die Einstufung hängt von der Zweckbestimmung des Systems ab, nicht von der Technik.

Die KI-Verordnung ordnet Systeme vier Stufen zu. So lassen sich typische Einsätze im Support zuordnen, als Ausgangspunkt für Ihre eigene Bewertung:

Zwei Details verändern das Bild.

Erstens sagt Art. 6 Abs. 3, dass ein System nach Anhang III nicht hochriskant ist, wenn es kein erhebliches Risiko eines Schadens birgt, zum Beispiel weil es eine eng gefasste Verfahrensaufgabe erfüllt oder eine vorbereitende Aufgabe für eine Bewertung durch einen Menschen. Ein System, das Profiling natürlicher Personen vornimmt, gilt jedoch immer als hochriskant.

Zweitens addieren sich die Stufen: Ein Hochrisiko-System, das auch mit Menschen spricht, muss zusätzlich Art. 50 erfüllen.

Die meisten KI-Agenten im Support beantworten Fragen und führen einfache Aktionen aus. Wenn Ihrer auch über Erstattungen oberhalb eines Limits, über Kredite oder über den Zugang zu grundlegenden Diensten entscheidet, prüfen Sie diesen Anwendungsfall mit Ihrer Rechtsberatung anhand von Anhang III Nummer 5.

Was gilt für KI, die Ihre menschlichen Agents bewertet?

KI, die Ihre Agents bewertet, wirft zwei Fragen auf: Leitet sie Emotionen aus biometrischen Daten ab, was am Arbeitsplatz verboten ist, und bewertet sie Leistung, ein Hochrisiko-Einsatz, sofern keine Ausnahme greift?

Das Verbot der Emotionserkennung. Art. 5 Abs. 1 Buchst. f verbietet den Einsatz von KI-Systemen, um Emotionen einer Person am Arbeitsplatz abzuleiten, außer aus medizinischen oder Sicherheitsgründen, und gilt seit dem 2. Februar 2025.

Die Verordnung definiert ein Emotionserkennungssystem in Art. 3 Nr. 39 als ein System, das Emotionen oder Absichten auf Grundlage biometrischer Daten ableitet, etwa einer Stimme oder eines Gesichts. Erwägungsgrund 18 ergänzt, dass das bloße Erkennen einer erhobenen Stimme keine Emotionserkennung ist, es sei denn, es wird genutzt, um Emotionen abzuleiten.

Die Leitlinien der Kommission zu verbotenen KI-Praktiken, veröffentlicht am 4. Februar 2025 und nicht verbindlich, nutzen ein Callcenter als Beispiel.

Wie die Kanzlei Lewis Silkin zusammenfasst, wird das Verfolgen von Emotionen von Beschäftigten per Spracherkennung, um zu überwachen, wie Callcenter-Mitarbeitende mit Kunden umgehen, als verboten genannt. Das Ableiten von Emotionen aus geschriebenem Text beruht dagegen nicht auf biometrischen Daten und fällt nicht unter das Verbot.

Was das in der Praxis bedeutet:

Die Hochrisiko-Frage. Anhang III Nummer 4 Buchstabe b nennt KI-Systeme, die bestimmungsgemäß für die Beobachtung und Bewertung der Leistung und des Verhaltens von Personen in Beschäftigungsverhältnissen verwendet werden sollen. Ein QA-Tool, das Agents bewertet, kann unter diese Beschreibung fallen, sofern keine Ausnahme nach Art. 6 Abs. 3 greift, etwa wenn die KI eine Bewertung vorbereitet, die ein Mensch vornimmt.

Diese Pflichten gelten ab dem 2. Dezember 2027. Betreiber, die Arbeitgeber sind, müssen dann die Arbeitnehmervertreter und die betroffenen Beschäftigten informieren, bevor sie ein Hochrisiko-KI-System am Arbeitsplatz in Betrieb nehmen (Art. 26 Abs. 7).

Wie ein bestimmtes QA-Tool eingestuft wird, hängt von seiner Zweckbestimmung und davon ab, wie Sie es nutzen. Bitten Sie Ihren Anbieter um seine eigene Einschätzung und beziehen Sie Ihren Betriebsrat oder Ihre Arbeitnehmervertretung früh ein: In mehreren EU-Ländern brauchen Überwachungstools ohnehin deren Zustimmung.

Wie eine Bewertung mit menschlicher Prüfung in der Praxis funktioniert, zeigt unser Leitfaden zur Validierung der KI-QA-Bewertung (auf Englisch).

Wie kann die QA zeigen, dass Ihr KI-Agent die Regeln einhält?

Die QA zeigt die Einhaltung, indem sie jede Konversation des KI-Agenten auf das bewertet, was Gesetz und Ihre Richtlinie verlangen, etwa die KI-Offenlegung und einen Weg zu einer Person, wobei jeder Score mit einem Beleg verknüpft ist.

Art. 50 setzt eine Regel für die Gestaltung des Systems. Ob sie im Betrieb funktioniert, in jedem Kanal, jeder Sprache und jedem Ablauf, wissen Sie nur, wenn Sie die Konversationen prüfen. Ergänzen Sie diese Kriterien auf Ihrer Scorecard für KI-Agenten:

Der Weg zu einer Person ist nicht für jeden Chatbot eine Pflicht nach der KI-Verordnung, aber dort beginnen die Beschwerden von Kunden über KI-Agenten, und unser Beitrag über stille Fehler von KI-Agenten zeigt, was schiefgeht, wenn der Bot nie eskaliert. Die vollständige Methode finden Sie im Leitfaden zur Qualitätssicherung von KI-Agenten.

Sehen Sie es in einer Live-Demo. Kaizo bewertet 100 % der Konversationen Ihrer KI-Agenten anhand Ihrer eigenen Scorecard und verknüpft jeden Score mit dem Beleg in der Konversation. Termin buchen.

Welche Bußgelder sieht die KI-Verordnung vor?

Verstöße gegen die Transparenzpflichten nach Art. 50 können nach Art. 99 Abs. 4 der KI-Verordnung mit Geldbußen von bis zu 15 Mio. EUR oder 3 % des gesamten weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Für verbotene Praktiken gilt die höchste Obergrenze, bis zu 35 Mio. EUR oder 7 % nach Art. 99 Abs. 3.

Dieselbe Obergrenze gilt für die Pflichten der Betreiber von Hochrisiko-Systemen nach Art. 26.

Für KMU, einschließlich Start-ups, begrenzt Art. 99 Abs. 6 jede Geldbuße auf den niedrigeren der beiden Beträge. Die tatsächliche Geldbuße legen die nationalen Behörden fest, und die FAQ der Kommission weisen darauf hin, dass bei KMU und kleinen Midcap-Unternehmen die Verhältnismäßigkeit berücksichtigt wird.

So bereiten Sie Ihr Supportteam auf die KI-Verordnung vor

Bereiten Sie sich in fünf Schritten vor: Erfassen Sie Ihre KI-Systeme, stufen Sie jedes nach seinem Einsatz ein, prüfen Sie die KI-Offenlegung in jedem Kanal, klären Sie, wie die KI-Bewertung von Agents funktioniert, und bewerten Sie jede Konversation Ihrer KI-Agenten auf die Offenlegung.

1. Erfassen Sie jedes KI-System im Support. Chatbots, Voicebots, KI-Agenten, Agent Assist (auf Englisch), QA-Bewertung, Stimmungsanalyse, Routing. Notieren Sie, wer jedes System anbietet und wofür es genutzt wird.
2. Stufen Sie jedes nach seiner Zweckbestimmung ein. Nutzen Sie die Risikotabelle oben als ersten Durchgang und bestätigen Sie das Ergebnis mit Ihrer Rechtsberatung. Markieren Sie alles, was Beschäftigte bewertet oder über den Zugang von Kunden zu Diensten entscheidet.
3. Prüfen Sie die Offenlegung in jedem Kanal und jeder Sprache. Starten Sie mit jedem Bot eine Konversation, wie ein Kunde es täte, in Chat, E-Mail, Telefon und jeder Sprache, und prüfen Sie die erste Nachricht.
4. Klären Sie, wie KI Ihre Agents bewertet. Bestätigen Sie, dass kein Tool Emotionen von Agents aus Stimme oder Video ableitet, legen Sie fest, wo eine Person KI-Scores prüft, und informieren Sie die Arbeitnehmervertretung.
5. Bewerten Sie jede Konversation Ihrer KI-Agenten auf die Offenlegung. Eine einmalige Prüfung belegt die Gestaltung; die Bewertung aller Konversationen zeigt, dass sie auch nach der nächsten Änderung am Ablauf hält. Genau dafür ist die Qualitätssicherung von KI-Agenten in Kaizo gebaut.

Welches Recht gilt? Die Verordnung (EU) 2024/1689 (KI-Verordnung) in der durch die Verordnung (EU) 2026/1744 (digitaler Omnibus zur KI) geänderten Fassung, geprüft auf EUR-Lex und den Seiten der Europäischen Kommission zur KI-Verordnung am 4. November 2026.

Leitlinien und Verhaltenskodizes der Kommission sind nicht verbindlich und können sich noch ändern, und nationale Behörden können eigene Hinweise veröffentlichen. Prüfen Sie also den aktuellen Stand, bevor Sie in einem konkreten Fall handeln.

Häufig gestellte Fragen

Muss ein Chatbot im Kundenservice sagen, dass er eine KI ist?

Ja, in der EU seit dem 2. August 2026. Art. 50 Abs. 1 der KI-Verordnung verlangt, dass Menschen spätestens bei der ersten Interaktion erfahren, dass sie mit einem KI-System interagieren, es sei denn, das ist offensichtlich. Die Kommission legt die Ausnahme „offensichtlich“ eng aus, ein klarer Hinweis zu Beginn der Konversation ist also die sichere Wahl.

Ist ein Chatbot im Kundenservice ein Hochrisiko-KI-System?

Meist nicht. Ein Chatbot, der Supportfragen beantwortet, fällt unter die Transparenzregeln nach Art. 50. Hochriskant kann er werden, wenn er für einen in Anhang III aufgeführten Zweck eingesetzt wird, etwa um die Kreditwürdigkeit zu bewerten oder über den Zugang zu grundlegenden Diensten zu entscheiden. Die Einstufung hängt von der Zweckbestimmung ab, prüfen Sie also jeden Anwendungsfall.

Hat der digitale Omnibus die Chatbot-Regeln der KI-Verordnung aufgeschoben?

Nein. Der digitale Omnibus zur KI, Verordnung (EU) 2026/1744, hat die Hochrisiko-Fristen auf den 2. Dezember 2027 und den 2. August 2028 verschoben. Art. 50 gilt weiter ab dem 2. August 2026. Nur Anbieter generativer KI-Systeme, die bereits auf dem Markt waren, haben für die maschinenlesbare Kennzeichnung nach Art. 50 Abs. 2 bis zum 2. Dezember 2026 Zeit.

Gilt die KI-Verordnung auch für Unternehmen außerhalb der EU?

Ja, in vielen Fällen. Nach Art. 2 gilt sie für Anbieter, die KI-Systeme in der EU in Verkehr bringen, unabhängig von ihrem Sitz, und für Anbieter und Betreiber außerhalb der EU, wenn die Ausgabe des Systems in der EU verwendet wird. Ein US-Unternehmen, dessen KI-Agent Kunden in der EU betreut, sollte davon ausgehen, dass die Offenlegungspflicht gilt.

Ist die Stimmungsanalyse von Supportkonversationen nach der KI-Verordnung erlaubt?

Stimmung aus Chat- und E-Mail-Text ist keine Emotionserkennung, denn sie nutzt keine biometrischen Daten (siehe Sentiment-Scoring in der QA). Emotionen von Beschäftigten am Arbeitsplatz aus Stimme oder Gesicht abzuleiten, ist verboten, außer aus medizinischen oder Sicherheitsgründen. Emotionen eines Kunden aus seiner Stimme abzuleiten, ist nach Anhang III hochriskant, und der Kunde muss informiert werden (Art. 50 Abs. 3).