Richtlinien für KI-Agenten: Vorlage und Drift-Checkliste

Richtlinienmanagement für KI-Agenten bedeutet, dass ein Supportteam die Regeln, denen ein KI-Agent folgt (was er tun darf, seine Grenzen, seine Ausnahmen und wann er übergeben muss), einmal aufschreibt, ihnen eine verantwortliche Person gibt, sie versioniert und synchron hält mit dem, was Ihre menschlichen Agents gesagt bekommen. Eine Wissensdatenbank gibt dem Agenten Fakten. Ein Richtlinienzentrum sagt ihm, was er damit tun darf.

Kurz gesagt

• Hilfeartikel sind für Menschen geschrieben, die Lücken mit Urteilsvermögen füllen; ein KI-Agent wiederholt ihre stillschweigenden Ausnahmen, alten Versionen und Widersprüche in großem Maßstab.
• Trennen Sie Wissen (Fakten), Richtlinie (was der Agent tun darf, Grenzen, Ausnahmen, Eskalation) und Verfahren (die Schritte): Jedes scheitert anders und hat eine andere verantwortliche Person.
• Führen Sie eine Richtlinienkarte pro Regel, mit verantwortlicher Person, Version, Prüfdatum, verknüpften Artikeln und Testfällen, und lassen Sie sowohl das Makro für Menschen als auch die Anweisung des KI-Agenten darauf verweisen.
• Behandeln Sie jede Richtlinienänderung wie ein Release: eine benannte freigebende Person je nach Risikostufe, ein Stichtag, ein erneuter Lauf der verknüpften Testfälle und eine Woche genauerer Prüfung.
• Schließen Sie den Kreis: Ordnen Sie jede gescheiterte KI-Konversation einer Ursache zu, leiten Sie Richtlinienursachen an die verantwortliche Person der Karte weiter und bewerten Sie nach der Korrektur erneut.

Dieser Leitfaden ist der Hub für Richtlinien und Wissen in unserer Reihe zur KI-Agenten-Governance, geschrieben für die Leitung Kundenservice oder die KI-Leitung, deren KI-Agent immer wieder Antworten gibt, die „technisch im Hilfecenter standen“.

Warum bricht eine Wissensdatenbank, die für Menschen geschrieben ist, bei KI-Agenten?

Eine Wissensdatenbank, die für Menschen geschrieben ist, bricht bei KI-Agenten, weil Menschen zwischen den Zeilen lesen und ein KI-Agent nicht. Menschliche Agents wissen, welcher Artikel veraltet ist, welche Ausnahme die Teamleitung erlaubt und welche zwei Seiten sich widersprechen. Der Agent ruft ab, was am besten passt, und sagt es jedes Mal mit voller Überzeugung.

Vier Fehlermuster decken das meiste ab, was schiefgeht:

Intercoms eigener Leitfaden zu Wissensdatenbanken für Chatbots benennt das Risiko klar: Ein KI-Agent ruft einen veralteten Artikel getreu ab und gibt eine selbstsichere, falsche Antwort. Die Kosten sind nicht abstrakt. Im Fall Moffatt v. Air Canada (2024 BCCRT 149) legte ein Chatbot einer trauernden Kundin nahe, sie könne einen Trauerfalltarif nach der Reise beantragen. Air Canada argumentierte, die richtige Information stehe auf der eigenen Seite zu Trauerfalltarifen, die in derselben Antwort verlinkt war, und der Chatbot sei eine eigenständige juristische Person, die für ihre eigenen Handlungen verantwortlich sei. Das Tribunal in British Columbia wies dieses Argument zurück, wie diese Zusammenfassung von WeirFoulds erklärt. Das Unternehmen haftete für die Antwort.

Viele „Halluzinationen“ im Support sind Inhaltsprobleme. Unser Leitfaden zum Erkennen von KI-Halluzinationen zeigt, wie Sie eine erfundene Antwort von einer getreu wiederholten falschen unterscheiden, und warum KI-Gespräche scheitern zerlegt die Ursachen weiter.

Was ist der Unterschied zwischen Wissen und Richtlinie für einen KI-Agenten?

Wissen ist, was wahr ist: Preise, Rückgabefristen, Lieferzeiten, wie eine Funktion arbeitet. Die Richtlinie ist, was der KI-Agent damit tun darf: welche Aktionen er ausführen kann, bis zu welcher Grenze, mit welchen Ausnahmen und wann er übergeben muss. Das Verfahren ist die Reihenfolge der Schritte. Alle drei in einem Artikel zu vermischen, ist die Wurzel der meisten Drift.

Die Agent-Plattformen ziehen diese Linie bereits. Intercom prüft die Guidance von Fin, bevor Fin Ihre Hilfeinhalte nach einer Antwort durchsucht, und die Fin Procedures ergänzen Bedingungen und Übergaben an ein Team. Decagon beschreibt seine Agent Operating Procedures als Anweisungen in natürlicher Sprache, die durch Code gestützt werden, geschrieben so, wie Sie menschliche Mitarbeitende mit SOPs schulen würden. Jede Plattform gibt Ihnen einen Ort für Anweisungen. Keine entscheidet, welche Regel die aktuelle ist. Das ist die Aufgabe eines Richtlinienzentrums.

Wie bereiten Sie eine Wissensdatenbank für einen KI-Agenten vor?

Um eine Wissensdatenbank für einen KI-Agenten vorzubereiten, beginnen Sie mit den Intents, die der Agent bearbeiten wird, nicht mit dem ganzen Hilfecenter. Finden Sie für jeden Intent jeden Artikel, der ihn berührt, entfernen Sie Dubletten und Widersprüche, schreiben Sie Bedingungen ausdrücklich aus und übertragen Sie jede Regel, die ein Ergebnis verändert, auf eine Richtlinienkarte, auf die der Artikel verweist.

1. Listen Sie die wichtigsten Intents für das erste Quartal des Agenten auf, sortiert nach Volumen und Risiko (Geld, Berechtigung, rechtliche Formulierungen).
2. Sammeln Sie jede Quelle, die einen Intent beantwortet: Hilfeartikel, Makros, Wiki-Seiten, gespeicherte Antworten, angepinnte Slack-Nachrichten.
3. Markieren Sie jeden Satz als Wissen, Richtlinie oder Verfahren. Sätze mit Richtlinien enthalten Wörter wie „darf“, „muss“, „bis zu“, „nur wenn“, „außer“ und „kontaktieren Sie uns“.
4. Lösen Sie Konflikte vor dem Launch. Wenn zwei Quellen sich widersprechen, entscheidet die verantwortliche Person der Richtlinie, eine Karte hält die Antwort fest, und die unterlegene Seite wird umgeschrieben oder aus den Quellen des Agenten entfernt.
5. Schreiben Sie Bedingungen aus. „Wenn Sie den Jahrestarif haben“ ist besser als „je nach Tarif“. Intercoms Leitfaden empfiehlt aus demselben Grund eine Frage pro Artikel und ausdrückliche Bedingungen.
6. Grenzen Sie Varianten ab. Varianten nach Region, Tarif und Produkt bekommen jeweils eine eigene Karte oder Zielgruppe.
7. Verlinken, nicht kopieren. Hilfeartikel und Anweisungen an den Agenten verweisen auf die Karte; sie formulieren die Grenze nie mit eigenen Worten neu.

Für das Hilfecenter selbst behandelt unser Leitfaden zum Aufbau einer Wissensdatenbank im Kundenservice (auf Englisch) Struktur und Schreibregeln für menschliche Leser.

Was sollte eine Richtlinienkarte für einen KI-Agenten enthalten?

Eine Richtlinienkarte für einen KI-Agenten sollte die Richtlinie in einem Satz enthalten, ihren Geltungsbereich, die erlaubten Aktionen und Grenzen, die Ausnahmen, die Eskalationsregel, eine verantwortliche Person, ein Prüfdatum, die verknüpften Hilfeartikel und die Testfälle, die belegen, dass der Agent ihr folgt. Ergänzen Sie eine Version und einen Stichtag, damit Menschen und Agent sich gleichzeitig ändern.

Hier ist die Vorlage, ausgefüllt für eine Erstattung bei beschädigter Ware. Kopieren Sie sie in eine Tabelle oder ein Wiki, eine Karte pro Richtlinie.

Zwei Regeln halten die Karte ehrlich. Jede Grenze steht an genau einem Ort, der Karte, und Artikel, Makro und Anweisung an den Agenten verweisen darauf. Und eine Karte ohne Testfälle ist nicht fertig. Unser Leitfaden zum Testen von KI-Agenten enthält die Vorlage für Testfälle, die zu den letzten Feldern dieser Karte passt.

Wie halten Sie Verfahren für Menschen und Anweisungen für KI-Agenten in einer maßgeblichen Quelle?

Machen Sie die Richtlinienkarte zum einzigen Ort, an dem eine Regel definiert ist, und verknüpfen Sie sowohl das Makro für Menschen als auch die Anweisung an den KI-Agenten damit. Wenn sich die Karte ändert, ändern sich beide im selben Release, und niemand bearbeitet eine Grenze direkt in einem Prompt oder einem Makro.

Die maßgebliche Quelle ist kein neues Tool. Sie ist eine Disziplin darüber, wo Text steht:

Zwei Gewohnheiten lassen das funktionieren. Benennen Sie Anweisungen nach der Karten-ID, damit eine Suche nach „RF-DMG-02“ jede Stelle findet, die davon abhängt. Und vergleichen Sie Ergebnisse, nicht Texte: Prüfen Sie einmal im Monat, ob ein menschlicher Agent und der KI-Agent bei derselben Art von Fall zum selben Ergebnis kommen. Wenn nicht, arbeitet einer von beiden mit einer alten Version.

Anweisungen allein legen keine Quelle still. Laut Intercoms Guidance-Leitfaden kann Fin Inhalte, die laut seinen Guidance-Regeln zu meiden sind, trotzdem anzeigen, und Intercom empfiehlt, diese Inhalte zu entfernen oder nach Zielgruppe zu beschränken. Einen alten Artikel aus den Quellen des Agenten zu entfernen, gehört zu jeder Richtlinienänderung.

Wer gibt eine Richtlinienänderung frei, und wie erreicht sie den KI-Agenten?

Eine Richtlinienänderung gibt die fachlich verantwortliche Person der Richtlinie frei, mit weiteren Freigebenden, je höher das Risiko ist. Sie erreicht den KI-Agenten im selben Release wie das Makro für Menschen und den Hilfeartikel: Karte aktualisiert, alte Quellen stillgelegt, Anweisung aktualisiert, Testfälle erneut ausgeführt, Stichtag gesetzt, danach eine Woche genauerer Prüfung.

Knüpfen Sie den Freigabeweg daran, was die Änderung am Ergebnis für den Kunden verändert:

Bei Stufe C trifft die Richtlinie auf die Autonomie. Welche Aktionen ein Agent allein ausführen darf, behandelt unser Leitfaden zu den Autonomiestufen für KI-Agenten, und die harten Grenzen, die unabhängig von Anweisungen gelten, unser Leitfaden zu Guardrails für KI-Agenten.

Das entspricht der allgemeinen Praxis im KI-Risikomanagement: Das NIST AI Risk Management Framework verlangt transparente Richtlinien und Verfahren, eine geplante regelmäßige Überprüfung und klar definierte Rollen. Eine Richtlinienkarte mit verantwortlicher Person, Prüfdatum und Änderungsprotokoll wendet das auf eine einzelne Erstattungsregel an.

Der Schritt, den die meisten Teams auslassen, ist der Stichtag. Eine Richtlinie, die sich am 1. Dezember ändert, sollte den Agenten am 1. Dezember erreichen, nicht am 20. November oder am 5. Dezember, im selben Moment, in dem das menschliche Team umstellt.

Wie werden aus gescheiterten Konversationen Korrekturen an Richtlinien?

Aus gescheiterten Konversationen werden Korrekturen an Richtlinien, wenn jeder Fehler einer Ursache zugeordnet wird, Richtlinienursachen an die verantwortliche Person der Karte gehen und die Korrektur geprüft wird, indem derselbe Intent danach erneut bewertet wird. Ohne Zuordnung sieht jeder Fehler wie ein KI-Problem aus, und das Team feilt an Prompts, während die eigentliche Ursache in einem veralteten Artikel steckt. Der Kreislauf:

1. Bewerten Sie die Konversationen des KI-Agenten mit Kriterien, die die Fehlerarten trennen: Richtigkeit gegenüber Ihren Inhalten, Treue zur Richtlinie, Zuständigkeit und Eskalation.
2. Ordnen Sie die Ursache zu für jeden Fehler: veraltete Richtlinienversion, fehlende Ausnahme, widersprüchliche Quellen, Anweisung nicht befolgt, fehlender Zugriff auf Tools oder Daten oder ein Produktfehler. Unser Leitfaden zu Agent-Fehler oder Prozessfehler (auf Englisch) bietet dieselbe Unterscheidung für menschliche Agents.
3. Leiten Sie weiter: jede Ursache an ihre verantwortliche Person, Richtlinienursachen an die verantwortliche Person der Karte, Ursachen in den Anweisungen an die verantwortliche Person für die KI, Zugriffsursachen an die Entwicklung.
4. Korrigieren Sie zuerst die Karte, dann die Artikel, das Makro und die Anweisung, die darauf verweisen.
5. Ergänzen Sie einen Testfall aus der Konversation, die die Lücke aufgedeckt hat, und verknüpfen Sie ihn mit der Karte.
6. Bewerten Sie erneut: den Intent in der Woche danach, und vergleichen Sie die Fehlerquote mit der Vorwoche.

Einen KI-Agenten zu korrigieren ist nicht dasselbe, wie einen Menschen zu coachen; lesen Sie dazu Menschen coachen vs. KI-Agenten verbessern.

Ein Rechenbeispiel (Illustration, keine Kundendaten)

Ein KI-Agent bearbeitet 20.000 Konversationen im Monat, 3.000 davon zu Erstattungen und Rücksendungen. Die Bewertung jeder einzelnen zeigt für diesen Intent eine Fehlerquote von 3 % bei der Treue zur Richtlinie: 90 Konversationen. Die QA-Leitung ordnet sie zu:

Zwei Korrekturen am Inhalt (die alte FAQ stilllegen, die Ausnahme für verderbliche Ware auf die Karte schreiben) beheben 65 der 90 Fehler, also 72 %. Mit der Korrektur der widersprüchlichen Artikel sind es 79 von 90, also 88 %. Nur 7 Fehler, 8 %, sind ein Prompt-Problem: Ein Team, das mit dem Umschreiben des Prompts begonnen hätte, hätte den kleinsten Teil angefasst. Die Scores der nächsten Woche zeigen, ob die Korrekturen gehalten haben.

Wie erkennen Sie Richtlinien-Drift, bevor Kunden es tun?

Sie erkennen Richtlinien-Drift, indem Sie in festem Rhythmus prüfen, ob jede Richtlinie einmal definiert ist, eine verantwortliche Person hat, aktuell ist und von Menschen und KI-Agent gleich angewendet wird. Drift zeigt sich als langsamer Anstieg der Eskalationen mit dem Vermerk „unklar“ oder daran, dass Menschen und Agent beim selben Fall zu unterschiedlichen Ergebnissen kommen.

Kopieren Sie diese Drift-Checkliste in Ihre monatliche Richtlinienprüfung:

Die Prüfungen 7, 8 und 9 brauchen Konversationsdaten, keine Dokumentenprüfung: Eine Drift, die 2 % eines Intents betrifft, ist in einer Stichprobe von 50 unsichtbar und in einer ganzen Woche an Scores offensichtlich. Unser Leitfaden zum Prüfen der Lösungsquote von KI-Agenten zeigt, wie Sie prüfen, ob „gelöste“ Konversationen tatsächlich korrekt gelöst wurden.

Wo Kaizo ins Spiel kommt

Kaizo deckt die Belegseite des Kreislaufs ab: die Bewertung, die Fehlermuster und die erneute Bewertung nach einer Korrektur. AutoPilot bewertet jede gelöste Konversation anhand Ihrer eigenen Scorecard.

Mit QA für KI-Agenten ergänzen Sie die Kriterien, an denen ein Bot scheitert (sachliche Richtigkeit, Treue zur Richtlinie, Zuständigkeit und Eskalation), in Ihren eigenen Worten, und verbinden Ihre Wissensdatenbank, damit die KI gegen Ihre Inhalte urteilt. Jeder Score ist mit dem Beleg in der Konversation verknüpft. Die Ursachenanalyse gruppiert die Fehler hinter einem Einbruch, sodass aus zehn schlechten Antworten aus einem Artikel eine Korrektur wird. Bewerten Sie nach jeder Änderung erneut, um zu bestätigen, dass die Korrektur gehalten hat.

Sehen Sie es an Ihren eigenen Konversationen. Demo buchen und einen Intent mitbringen, bei dem Ihr KI-Agent und Ihr Team sich nicht einig sind.

Wann ist ein Richtlinienzentrum mehr, als Sie brauchen?

Ein vollständiges Richtlinienzentrum ist noch nichts für Sie, wenn Ihr KI-Agent nur Fragen aus einem kleinen Hilfecenter beantwortet, keine Aktionen ausführt und ein paar hundert Konversationen im Monat bearbeitet. Dann reichen eine verantwortliche Person pro Artikel, ein Prüfdatum und eine monatliche Lektüre der Konversationen des Agenten. Die Zeichen, dass Sie diesem leichten Setup entwachsen sind:

• Der Agent führt Aktionen aus (Erstattungen, Kündigungen, Kontoänderungen), statt nur zu antworten.
• Ihre Richtlinien unterscheiden sich nach Region, Tarif oder Produkt.
• Richtlinien ändern sich öfter als einmal im Quartal oder zu einem festen Stichtag.
• Menschliche Agents gewähren Ausnahmen, nach denen Kunden dann den KI-Agenten fragen.
• Mehr als ein KI-Agent antwortet denselben Kunden. Jeder muss auf dieselbe Karte verweisen, ein Teil davon, sicher zum agentischen Kundenservice überzugehen.

So fangen Sie diese Woche an

Beginnen Sie mit einem Intent, nicht mit dem ganzen Hilfecenter. Eine Woche reicht, um eine einzelne Richtlinienkarte zu schreiben, die Quellen rundherum aufzuräumen und zu messen, ob der KI-Agent ihr folgt.

1. Wählen Sie einen Intent, bei dem es um Geld geht, meist Erstattungen oder Kündigungen.
2. Sammeln Sie jede Quelle, die ihn beantwortet: Artikel, Makros, Wiki-Seiten, angepinnte Slack-Nachrichten, die Anweisungen des Agenten.
3. Schreiben Sie eine Richtlinienkarte mit der Vorlage oben, und lassen Sie die fachlich verantwortliche Person die Grenzen und Ausnahmen unterschreiben.
4. Legen Sie jede Quelle still oder schreiben Sie sie um, die der Karte widerspricht, und entfernen Sie stillgelegte Seiten aus den Quellen des Agenten.
5. Machen Sie aus drei vergangenen gescheiterten Konversationen Testfälle, die mit der Karte verknüpft sind.
6. Bewerten Sie diesen Intent zwei Wochen lang, ordnen Sie jeden Fehler einer Ursache zu und gehen Sie die Drift-Checkliste durch, bevor Sie die zweite Karte beginnen.

Häufig gestellte Fragen

Was ist eine Wissensdatenbank im Kundenservice?

Eine Wissensdatenbank ist eine Sammlung von Antworten, die Ihre Kunden und Agents durchsuchen können, etwa ein Hilfecenter mit Artikeln wie „Wie sende ich einen Artikel zurück?“. Sie wird zur Wissensdatenbank eines KI-Agenten, wenn der Agent diese Artikel abruft, um Kunden zu antworten. Deshalb werden veraltete oder widersprüchliche Artikel in großem Maßstab zu falschen Antworten. Die Regeln dahinter gehören auf Richtlinienkarten, auf die die Artikel verweisen.

Gehören Richtlinien für KI-Agenten in den Prompt oder in die Wissensdatenbank?

Weder noch, jedenfalls nicht allein. Fakten gehören in die Wissensdatenbank, Regeln auf eine Richtlinienkarte mit verantwortlicher Person und Version, und die Anweisung an den Agenten sollte auf diese Karte verweisen, statt ihren Text einzufügen. Eine Grenze, die in einen Prompt kopiert wurde, veraltet als Erstes.

Haftet ein Unternehmen, wenn sein Chatbot eine Richtlinie falsch wiedergibt?

Das ist möglich. Im Fall Moffatt v. Air Canada (2024 BCCRT 149) erklärte ein Tribunal in British Columbia die Fluggesellschaft für das, was ihr Chatbot einer Kundin gesagt hatte, für haftbar und wies das Argument zurück, der Chatbot sei eine eigenständige juristische Person. Behandeln Sie jede Antwort eines KI-Agenten als Ihre eigene Aussage zur Richtlinie, und holen Sie für Ihren Markt rechtlichen Rat ein.

Wie oft sollten Richtlinien für KI-Agenten geprüft werden?

Prüfen Sie jede Karte zu einem festen Datum, das sich nach dem Risiko richtet (monatlich für Regeln zu Geld und Berechtigung, vierteljährlich für den Rest), und sofort, wenn sich die fachliche Regel ändert. Prüfen Sie wöchentlich die Fehler bei der Treue zur Richtlinie und die Eskalationen mit dem Vermerk „Richtlinie unklar“ pro Karte.

Was ist der Unterschied zwischen einem Chatbot und einem KI-Agenten, der Aktionen ausführt?

Ein Chatbot beantwortet Fragen aus seinen Inhalten. Ein KI-Agent handelt auch: Er schlägt die Bestellung nach, wendet die Richtlinie an und löst die Erstattung aus. Deshalb braucht ein Agent Richtlinien mit Grenzen, Ausnahmen und Eskalationsregeln, nicht nur korrekte Artikel.