KI-QA-Sicherheitscheckliste für IT, Recht und Einkauf

Eine KI-QA-Sicherheitscheckliste ist die Liste der Prüfungen, die IT, Rechtsabteilung und Einkauf durchführen, bevor ein KI-Tool für Qualitätssicherung Ihre Supportkonversationen lesen darf. Sie umfasst Audits und Zertifizierungen des Anbieters, den Auftragsverarbeitungsvertrag und die Unterauftragsverarbeiter, die Frage, ob Ihre Daten KI-Modelle trainieren, die Bewertung von Agents nach DSGVO und KI-Verordnung sowie die Ausstiegsbedingungen.

Kurz gesagt

• Verteilen Sie die Checkliste nach Zuständigkeit: IT übernimmt die Sicherheitsprüfungen, die Rechtsabteilung Datenschutz und KI-Regeln, der Einkauf Vertrag und Dokumentenpaket.
• KI-QA wird strenger geprüft als die meisten Supporttools, weil sie jede Konversation liest und Beschäftigte bewertet, oft mit KI-Modellanbietern als Unterauftragsverarbeitern.
• Die IT-Prüfungen betreffen unabhängige Audits, Verschlüsselung, Zugriff, Protokollierung, Tests und Incident Response.
• Die Datenschutzprüfungen folgen den einschlägigen DSGVO-Artikeln: Auftragsverarbeitungsvertrag, Unterauftragsverarbeiter, Übermittlungen, Speicherdauer, Folgenabschätzung und automatisierte Entscheidungen.
• Die KI-Prüfungen betreffen Modelltraining, Modellanbieter, menschliche Prüfung und die Einordnung nach der KI-Verordnung (AI Act), deren Regeln für Hochrisiko-Anwendungen ab dem 2. Dezember 2027 gelten.

Diese Checkliste richtet sich an Teams, die Software für Qualitätsmanagement im Kundenservice kaufen, die Supportkonversationen mit KI bewertet. Die rechtlichen Verweise wurden am 4. November 2026 an den offiziellen Texten geprüft. Sie sind ein Ausgangspunkt für Ihre eigene Rechtsberatung, kein Ersatz dafür.

So nutzen Sie diese KI-QA-Sicherheitscheckliste

Geben Sie jeden Teil der Checkliste an das zuständige Team, schicken Sie dem Anbieter alle Fragen auf einmal und verlangen Sie Dokumente statt Antworten in einem Formular. Die meisten Sicherheitsprüfungen geraten ins Stocken, weil die Fragen in drei Wellen von drei Teams kommen.

Markieren Sie jeden Prüfpunkt als erfüllt, mit Auflage erfüllt oder nicht erfüllt. Ein „nicht erfüllt“ bei den Punkten 1, 9, 10 oder 17 sollte den Kauf stoppen, bis er gelöst ist. Wenn Sie parallel Funktionen vergleichen, lesen Sie unseren Vergleich von QA-Software für den Kundenservice zusätzlich zu dieser Liste.

Warum KI-QA-Software strenger geprüft werden muss

KI-QA-Software muss strenger geprüft werden, weil sie jede Kundenkonversation liest, die Beschäftigten bewertet, die sie geführt haben, und Text oft an KI-Modellanbieter schickt. Damit liegen Kundendaten, Beschäftigtendaten und automatisierte Bewertung in einem Tool.

Drei Dinge unterscheiden sie von einem typischen Helpdesk-Add-on:

• Volumen: Ein manuelles Programm liest eine Stichprobe, ein KI-Tool verarbeitet unter Umständen jede Konversation, einschließlich Kartennummern, Gesundheitsangaben oder Beschwerden, die ein Kunde eingetippt hat.
• Beschäftigte als betroffene Personen: QA-Scores sind personenbezogene Daten Ihrer Agents und können in Entscheidungen über Vergütung, Beförderung oder Kündigung einfließen. Das berührt die DSGVO-Regeln zu automatisierten Entscheidungen und in der KI-Verordnung die Kategorie der KI zur Bewertung von Beschäftigten.
• Modellanbieter: Die KI, die Scores und Kommentare schreibt, wird oft von einem Dritten betrieben, der damit Unterauftragsverarbeiter Ihrer Daten wird.

IT-Sicherheitsprüfungen

Die IT-Prüfungen bestätigen, dass ein unabhängiger Prüfer die Kontrollen des Anbieters getestet hat und die Grundlagen von Verschlüsselung, Zugriff, Protokollierung und Incident Response vorhanden sind. Verlangen Sie die Berichte selbst, unter NDA, kein Siegel auf einer Website.

1. Unabhängiger Auditbericht. Verlangen Sie den aktuellen SOC-2-Type-II-Bericht und prüfen Sie Zeitraum und Umfang. SOC-2-Berichte, definiert von der AICPA, decken Kontrollen zu Sicherheit, Verfügbarkeit, Verarbeitungsintegrität, Vertraulichkeit und Datenschutz ab. Ein Type-II-Bericht prüft, ob die Kontrollen über einen Zeitraum funktioniert haben, nicht nur, ob sie so entworfen wurden.
2. ISO-27001-Zertifikat. Prüfen Sie, ob der Geltungsbereich das gekaufte Produkt abdeckt, das Ablaufdatum und die Zertifizierungsstelle.
3. Penetrationstests. Fragen Sie, wie oft ein Dritter die Produktionsanwendung testet und wie kritische Befunde bis zur Behebung verfolgt werden.
4. Verschlüsselung. Bestätigen Sie, dass Daten bei der Übertragung und im Ruhezustand verschlüsselt sind, und wer die Schlüssel verwaltet.
5. Zugriffskontrolle. Fragen Sie, wie Mitarbeitende des Anbieters auf Produktionsdaten zugreifen, ob der Zugriff nur bei Bedarf erfolgt und protokolliert wird, und wie sich Ihre eigenen Nutzer anmelden.
6. Audit-Logs. Prüfen Sie, ob Sie sehen können, wer in Ihrem Unternehmen Scores und Einstellungen angesehen oder geändert hat, und in welchem Plan.
7. Incident Response. Verlangen Sie den Incident-Response-Plan und fragen Sie, wie schnell der Anbieter Sie über einen Vorfall mit Ihren Daten informiert.
8. Notfallvorsorge. Verlangen Sie den Plan für Business Continuity und Disaster Recovery und fragen Sie, ob Produktionsdaten aus Entwicklungs- und Testumgebungen herausgehalten werden.

Datenschutz- und DSGVO-Prüfungen

Die DSGVO-Prüfungen bestätigen, dass der Anbieter als Ihr Auftragsverarbeiter unter einem Vertrag nach Artikel 28 handelt, dass jeder Unterauftragsverarbeiter und jede Übermittlung bekannt ist und dass Sie Ihre eigenen Hausaufgaben zu den Beschäftigten gemacht haben. Lesen Sie die Klauseln gegen die Verordnung, nicht gegen die Zusammenfassung des Anbieters.

9. Ein Auftragsverarbeitungsvertrag nach Artikel 28 Absatz 3. Artikel 28 Absatz 3 DSGVO zählt auf, was der Vertrag regeln muss: Verarbeitung nur auf Ihre dokumentierte Weisung, Vertraulichkeit des Personals, die Sicherheitsmaßnahmen nach Artikel 32, Regeln für Unterauftragsverarbeiter, Unterstützung bei Betroffenenrechten und bei den Artikeln 32 bis 36, Löschung oder Rückgabe am Ende sowie Audits. Prüfen Sie, ob der Vertrag auch die KI-Funktionen abdeckt, nicht nur das Kernprodukt.
10. Unterauftragsverarbeiter. Nach Artikel 28 Absatz 2 braucht ein Auftragsverarbeiter Ihre vorherige schriftliche Genehmigung, um einen weiteren Auftragsverarbeiter einzusetzen, und bei einer allgemeinen Genehmigung muss er Sie über Änderungen informieren, damit Sie widersprechen können. Verlangen Sie die Liste mit Rolle und Datenstandort jedes Unterauftragsverarbeiters, einschließlich der KI-Modellanbieter.
11. Übermittlungen außerhalb der EU. Sitzt ein Unterauftragsverarbeiter außerhalb des EWR, fragen Sie nach der Grundlage für die Übermittlung nach Kapitel V der DSGVO: ein Angemessenheitsbeschluss (Artikel 45) oder Garantien wie Standardvertragsklauseln (Artikel 46).
12. Speicherung und Löschung. Fragen Sie, wie lange Konversationen, Transkripte und Scores gespeichert werden, ob Sie die Frist festlegen können und wie Daten nach Vertragsende zurückgegeben oder gelöscht werden, wie Artikel 28 Absatz 3 Buchstabe g verlangt.
13. Datenminimierung. Fragen Sie, ob Sie Queues, Felder oder Kanäle von der Bewertung ausnehmen können, damit das Tool nur verarbeitet, was die QA braucht (Artikel 5 Absatz 1 Buchstabe c).
14. Meldung von Datenpannen. Nach Artikel 33 Absatz 2 muss ein Auftragsverarbeiter Sie „unverzüglich“ informieren, nachdem ihm eine Verletzung bekannt wurde. Prüfen Sie, ob der Vertrag eine konkrete Zusage enthält, denn Ihre eigene 72-Stunden-Frist zur Meldung an die Aufsichtsbehörde nach Artikel 33 Absatz 1 läuft ab Ihrer Kenntnis.
15. Ihre Datenschutz-Folgenabschätzung. Artikel 35 verlangt eine Datenschutz-Folgenabschätzung, wenn eine Verarbeitung voraussichtlich ein hohes Risiko birgt, unter anderem bei systematischer und umfassender Bewertung von Personen auf Grundlage automatisierter Verarbeitung, die zu Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung führt. Die DSFA-Leitlinien der Artikel-29-Datenschutzgruppe (2017, vom EDSA bestätigt) nennen Bewertung oder Scoring, systematische Überwachung und Beschäftigte als Faktoren und sagen, dass eine Verarbeitung, die zwei ihrer Kriterien erfüllt, in den meisten Fällen eine DSFA braucht. Verlangen Sie vom Anbieter die Informationen, die Sie dafür brauchen; Artikel 28 Absatz 3 Buchstabe f verpflichtet einen Auftragsverarbeiter zur Unterstützung.
16. Automatisierte Entscheidungen über Agents. Artikel 22 gibt Personen das Recht, keiner ausschließlich automatisierten Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung unterworfen zu werden. Fließen QA-Scores in Entscheidungen über Agents ein, sorgen Sie dafür, dass ein Mensch sie prüft und Agents einen Score anfechten können. Prüfen Sie auch nationales Beschäftigtendatenschutzrecht: Artikel 88 erlaubt den EU-Staaten spezifischere Vorschriften für Beschäftigtendaten, und der Betriebsrat muss unter Umständen beteiligt werden.

KI-spezifische Prüfungen

Die KI-Prüfungen klären, was mit Ihren Daten in den KI-Funktionen geschieht, wer die KI überstimmen kann und wie das Tool unter der KI-Verordnung einzuordnen ist. Verlangen Sie schriftliche Antworten, die Sie dem Vertrag beifügen können.

17. Modelltraining. Fragen Sie schriftlich, ob Ihre Konversationen genutzt werden, um ein Modell zu trainieren oder feinabzustimmen, durch den Anbieter oder seine Modellanbieter.
18. Modellanbieter. Fragen Sie, welche KI-Anbieter Ihre Daten verarbeiten, wo, und ob sich die KI-Funktionen abschalten lassen oder ein Opt-in sind.
19. Menschliche Prüfung und Korrektur. Prüfen Sie, ob ein Reviewer jeden KI-Score und Kommentar ändern kann, die Änderung gespeichert wird und Agents einen Score anfechten können, wie in unserem Leitfaden zur Gestaltung eines Einspruchsverfahrens für KI-QA-Scores (auf Englisch). Das ist zugleich Ihre Absicherung nach Artikel 22.
20. Nachvollziehbarkeit und Tests. Fragen Sie, ob jeder Score den Beleg dahinter zeigt, wie in unserem Beitrag zur Nachvollziehbarkeit von QA-Scores (auf Englisch) beschrieben, und ob Sie KI-Scores vor dem Start gegen die Bewertungen Ihrer eigenen Reviewer testen können. Unser Protokoll zur Validierung von KI-QA-Scores (auf Englisch) zeigt, wie dieser Test abläuft.
21. Position zur KI-Verordnung. Fragen Sie, wie der Anbieter das Produkt einstuft und was er Ihnen als Betreiber liefert. Die Tabelle zeigt die Fristen.

Das Verbot und der Hochrisiko-Punkt stammen aus der KI-Verordnung, Verordnung (EU) 2024/1689, geprüft an der konsolidierten Fassung. Die Hochrisiko-Frist wurde durch die ändernde Verordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026, vom 2. August 2026 auf den 2. Dezember 2027 verschoben.

Nach Artikel 3 Nummer 39 bedeutet Emotionserkennung eine Ableitung aus biometrischen Daten, das Verbot betrifft also vor allem Sprachfunktionen. Ob ein QA-Tool unter Nummer 4 Buchstabe b fällt, hängt davon ab, wie Sie die Scores nutzen. Lassen Sie das für Ihren Einsatz von Ihren Juristen entscheiden.

Prüfungen für Einkauf und Vertrag

Die Prüfungen des Einkaufs machen aus den Antworten Vertragsbedingungen und sichern einen sauberen Ausstieg. Eine Sicherheitsantwort, die nicht im Vertrag steht, ist eine Vertriebsaussage.

22. Vertragsbedingungen. Nehmen Sie die Antworten zu den Punkten 7, 10, 12, 14 und 17 in den Vertrag oder den Auftragsverarbeitungsvertrag auf.
23. Ausstieg. Vereinbaren Sie, wie lange Sie nach Vertragsende Daten exportieren können, in welchen Formaten und wann der Anbieter sie löscht.
24. Das Dokumentenpaket. Sammeln Sie an einem Ort: Auditbericht, Zertifikate, Auftragsverarbeitungsvertrag, Liste der Unterauftragsverarbeiter, Zusammenfassung des Penetrationstests, Incident- und Notfallpläne sowie jeden Standardfragebogen, den der Anbieter ausgefüllt hat, etwa einen SIG Lite.

Wie Kaizo diese Checkliste beantwortet

Kaizo veröffentlicht die meisten Antworten in seinem Trust Center, die Berichte gibt es auf Anfrage. Die Tabelle ordnet die Prüfpunkte dem zu, was Kaizos eigene Seiten heute sagen; wo eine Seite einen Punkt nicht beantwortet, fragen Sie uns in der Sicherheitsprüfung.

Kaizo bewertet Konversationen, nachdem sie beendet sind. Es hört keine laufenden Gespräche mit, sodass Echtzeit-Überwachung in dieser Prüfung keine Rolle spielt.

So läuft die Sicherheitsprüfung, ohne den Kauf aufzuhalten

Starten Sie die Sicherheitsprüfung in derselben Woche wie die Demos, nicht nachdem das Business entschieden hat. Schicken Sie die ganze Checkliste auf einmal, verlangen Sie das Dokumentenpaket und beginnen Sie parallel mit Ihrer Folgenabschätzung.

Schritt 1: Schicken Sie die Checkliste mit der Ausschreibung

Fragen von Sicherheit, Recht und Einkauf, die mit der ersten Anfrage an den Anbieter gehen, werden zusammen mit den Produktfragen beantwortet. Nach einer Entscheidung verschickt, werden sie zu einem zweiten Projekt.

Schritt 2: Verlangen Sie Dokumente, fragen Sie dann nur, was offen bleibt

Lesen Sie zuerst Auditbericht, Auftragsverarbeitungsvertrag und Liste der Unterauftragsverarbeiter. Die meisten Zeilen eines Fragebogens sind dort beantwortet, der Rest wird eine kurze Liste für ein Gespräch.

Schritt 3: Schreiben Sie die DSFA, während der Vertrag verhandelt wird

Ihre Folgenabschätzung braucht die Antworten des Anbieters zu Datenflüssen, Unterauftragsverarbeitern und Speicherdauer, die Sie jetzt haben. Beziehen Sie Betriebsrat oder Beschäftigtenvertretung früh ein, wenn Scores der Agents in Leistungsentscheidungen einfließen sollen. Unser Leitfaden zu einem QA-Programm, dem Agents vertrauen (auf Englisch), zeigt, wie Sie ihnen die Bewertung erklären.

Fordern Sie unser Sicherheitspaket in einer Live-Demo an. Wir zeigen Ihnen Kaizo mit realistischen Beispieldaten und schicken die Trust-Center-Dokumente, die Ihr Team braucht. Termin buchen.

Häufig gestellte Fragen

Was ist ein Sicherheitsfragebogen für Anbieter?

Ein Sicherheitsfragebogen ist eine standardisierte Liste von Fragen, die ein Käufer einem Lieferanten schickt, um dessen Sicherheits- und Datenschutzkontrollen vor der Unterschrift zu prüfen. Verbreitet sind SIG und SIG Lite von Shared Assessments sowie der CAIQ der Cloud Security Alliance. Viele Anbieter halten einen ausgefüllten bereit, was beiden Seiten Wochen spart.

Beeinflusst die Anbindung eines QA-Tools an Zendesk die DSGVO-Konformität?

Ja. Wenn ein QA-Tool Konversationen aus Zendesk oder einem anderen Helpdesk abruft, verarbeitet der QA-Anbieter diese personenbezogenen Daten in Ihrem Auftrag, Sie brauchen also einen Auftragsverarbeitungsvertrag mit dem QA-Anbieter selbst. Die Konformität des Helpdesks deckt ein separates Tool nicht ab. Nehmen Sie den QA-Anbieter in Ihr Verzeichnis der Verarbeitungstätigkeiten auf.

Was sind die 7 Grundsätze der DSGVO?

Artikel 5 DSGVO nennt sieben Grundsätze: Rechtmäßigkeit, Verarbeitung nach Treu und Glauben und Transparenz; Zweckbindung; Datenminimierung; Richtigkeit; Speicherbegrenzung; Integrität und Vertraulichkeit; Rechenschaftspflicht. Für KI-QA zählen Datenminimierung und Speicherbegrenzung am meisten: Bewerten Sie nur die Queues, die Sie brauchen, und speichern Sie Konversationen nicht länger, als Ihr QA-Zweck verlangt.

Ist KI-QA-Software nach der KI-Verordnung hochriskant?

Das kann sein. Anhang III Nummer 4 Buchstabe b führt KI, die bestimmungsgemäß Leistung und Verhalten von Personen am Arbeitsplatz überwacht und bewertet, als hochriskant auf, mit Pflichten ab dem 2. Dezember 2027. Ein QA-Tool zur Bewertung von Agents kann darunterfallen, abhängig von seiner Zweckbestimmung und Ihrer Nutzung. Holen Sie für Ihren Fall eine rechtliche Einschätzung ein.

Müssen Agents erfahren, dass KI ihre Konversationen bewertet?

Ja, nach den Transparenzpflichten der DSGVO in den Artikeln 13 und 14 müssen Agents erfahren, wie ihre personenbezogenen Daten verarbeitet werden, einschließlich automatisierter Bewertung. Viele Länder ergänzen arbeitsrechtliche Regeln, und Betriebsräte können mitbestimmen. Agents früh zu informieren, auch darüber, wie sie einen Score anfechten, erleichtert zudem die Einführung.