Singapur: Governance-Rahmen für agentische KI

Das Model AI Governance Framework for Agentic AI ist ein Leitfaden der Infocomm Media Development Authority (IMDA) aus Singapur für den verantwortungsvollen Einsatz von KI-Agenten. Er verlangt von Unternehmen, Risiken vorab zu bewerten und zu begrenzen, Menschen wirksam in die Verantwortung zu nehmen, technische Kontrollen und Prozesse umzusetzen und die Eigenverantwortung der Endnutzer zu ermöglichen. Für den Support heißt das: begrenzte Berechtigungen, Freigabepunkte, Tests, Monitoring und Offenlegung.

Kurz gesagt

• Die IMDA hat den Rahmen am 22. Januar 2026 vorgestellt; die aktuelle Fassung ist Version 1.5, veröffentlicht am 20. Mai 2026 und aktualisiert am 5. Juni 2026.
• Er ist ein Leitfaden, kein Gesetz: Er beschreibt „aufkommende Best Practices“, bezeichnet sich als lebendes Dokument und sieht keine Sanktionen vor.
• Er nennt Kundenservice-Agenten ausdrücklich als Agenten, die mit Nutzern interagieren, und verlangt die Offenlegung der KI in der Oberfläche, am Ort der Interaktion.
• Die Zuordnungstabelle unten macht aus jedem Abschnitt einen Schritt für einen KI-Agenten im Support und nennt die Nachweise, die Sie aufbewahren sollten.
• Wenn Sie Kunden in der EU bedienen, ist die KI-Verordnung die verbindliche Ebene darüber; die beiden überschneiden sich am stärksten bei der Offenlegung.

Diese Erklärung stützt sich auf die Primärquelle und ist keine Rechtsberatung. Sie gehört zu unserem Leitfaden zur Governance von KI-Agenten.

Was ist das Model AI Governance Framework for Agentic AI?

Das Model AI Governance Framework for Agentic AI ist ein 53-seitiges Dokument der IMDA, das Unternehmen einen strukturierten Überblick über die Risiken agentischer KI und über aufkommende Best Practices im Umgang mit diesen Risiken gibt. Es richtet sich an Unternehmen, die KI-Agenten einsetzen, ob sie diese selbst bauen oder agentische Lösungen von Drittanbietern nutzen.

Teil 1 erklärt, was ein Agent ist und was schiefgehen kann. Teil 2 ist der eigentliche Rahmen, in vier Dimensionen:

1. 2.1 Risiken vorab bewerten und begrenzen: geeignete Anwendungsfälle (2.1.1); Grenzen, Identität und Berechtigungen des Agenten (2.1.2).
2. 2.2 Menschen wirksam in die Verantwortung nehmen: Zuständigkeiten innerhalb und außerhalb des Unternehmens (2.2.1); wirksame menschliche Aufsicht (2.2.2).
3. 2.3 Technische Kontrollen und Prozesse umsetzen: Kontrollen im Design (2.3.1), Tests vor dem Einsatz (2.3.2), Rollout, Monitoring und Change Management danach (2.3.3).
4. 2.4 Eigenverantwortung der Endnutzer ermöglichen: Transparenz für Nutzer, die mit Agenten interagieren (2.4.2); Schulung für Nutzer, die mit ihnen arbeiten (2.4.3).

Ist Singapurs Rahmen für agentische KI verpflichtend?

Nein. Der Rahmen versteht sich als Leitfaden: Er bietet „aufkommende Best Practices“, die meisten Empfehlungen lauten „Unternehmen sollten erwägen“, und er bezeichnet sich als „lebendes Dokument“. Laut der Mitteilung zur Vorstellung gibt er Unternehmen Orientierung, wie sie Agenten verantwortungsvoll einsetzen. Er sieht weder Sanktionen noch einen eigenen Durchsetzungsmechanismus vor.

Das Dokument verwendet das Wort „freiwillig“ nicht. Beschreiben Sie es intern deshalb genau: ein nicht gesetzlicher Leitfaden einer Aufsichtsbehörde. Ihre gesetzlichen Pflichten aus Datenschutz-, Verbraucher- und Branchenrecht gelten in jedem Fall, und der Rahmen stellt klar, dass die Unternehmen, die Agenten einsetzen, und die Menschen, die sie beaufsichtigen, für die Handlungen der Agenten verantwortlich bleiben.

Welche Risiken entstehen laut dem Rahmen durch KI-Agenten?

Der Rahmen nennt fünf Arten von Schäden durch Agenten: fehlerhafte Aktionen, unbefugte Aktionen, voreingenommene oder unfaire Aktionen, Datenschutzverletzungen und Störungen angebundener Systeme. Hinzu kommen systemische Risiken durch Geschwindigkeit und Volumen, kaskadierende Fehler und Setups mit mehreren Agenten. Für jedes gibt es ein einfaches Beispiel aus dem Support.

Das Beispiel der IMDA für einen Konflikt zwischen mehreren Agenten ist ein Supportfall: Ein Kundenservice-Agent bietet Erstattungen an, um Beschwerden schnell zu lösen, während ein Agent zum Umsatzschutz Erstattungen über einem bestimmten Betrag blockiert. Wenn Sie sich in Richtung agentischer Kundenservice bewegen, mit Agenten, die einander Fälle übergeben, ist dieser Konflikt eine Designfrage.

Wie gilt jeder Teil des Rahmens für einen KI-Agenten im Kundenservice?

Jede Dimension wird für das Supportteam zu einigen Entscheidungen: welche Anliegen der Agent mit welchen Berechtigungen bearbeiten darf, wer ihn verantwortet und was freigibt, wie er getestet und beobachtet wird und was Kunden und Mitarbeitende erfahren. Die Schritte folgen der Reihenfolge der Abschnitte im Rahmen.

2.1 Risiken vorab bewerten und begrenzen

Der Rahmen bewertet das Risiko nach Auswirkung (Bereich und Anwendungsfall, sensible Daten, externe Systeme, Lese- oder Schreibzugriff, Umkehrbarkeit) und Wahrscheinlichkeit (Autonomie, Komplexität der Aufgabe, Anbindung an externe Systeme, Bereitstellung durch Dritte, Systemkomplexität). Wenden Sie das pro Anliegen an, nicht pro Bot:

• Stufen Sie Ihre Anliegen ein. Der Bestellstatus ist reiner Lesezugriff. Eine Erstattung ist eine Schreibaktion mit Geld. Eine Kontoschließung lässt sich schwer rückgängig machen.
• Nutzen Sie das Prinzip der geringsten Rechte: die minimal nötigen Tools und Datenzugriffe. Lesezugriff für den Bestellstatus, keine Administratorrechte im Helpdesk.
• Begrenzen Sie Prozessaufgaben mit einer SOP statt mit freiem Ermessen. Abläufe für Erstattungen und Kündigungen sind genau das.
• Planen Sie, wie Sie den Agenten offline nehmen, für ein Anliegen oder einen Kanal, benennen Sie, wer das darf, und testen Sie es.
• Geben Sie dem Agenten eine eigene Identität, verknüpft mit einem menschlichen Verantwortlichen, mit Berechtigungen, die nie über denen der Person liegen, die ihn autorisiert.

2.2 Menschen wirksam in die Verantwortung nehmen

Benennen Sie einen Verantwortlichen für Anwendungsfälle und Grenzen, ein Team für Design, Tests und Monitoring und einen Sicherheitsverantwortlichen für Guardrails und Red Teaming. Wenn der Agent von einem Anbieter stammt, verlangt der Rahmen, Sicherheit, Leistung und Datenschutz im Vertrag zu regeln und Offenlegungen sowie die Protokollierung von Tool-Nutzung und Zugriffshistorie anzufordern. Unsere Sicherheitscheckliste für KI-QA enthält Einkaufsfragen, die Sie wiederverwenden können.

Verlangen Sie Freigaben an „wesentlichen Kontrollpunkten“: Aktionen mit hoher Tragweite, unumkehrbare Aktionen (der Rahmen nennt das Versenden von Mitteilungen und das Ausführen von Zahlungen), auffälliges Verhalten und vom Nutzer gesetzte Grenzen. Prüfen Sie dann die Freigebenden anhand zweier Indikatoren: der Override-Quote, bei der eine niedrige Quote auf bloßes Abnicken hindeuten kann, und der Reaktionszeit, bei der eine kurze Zeit auf Automation Bias oder Ermüdung bei der Prüfung hindeuten kann.

2.3 Technische Kontrollen und Prozesse umsetzen

Ziehen Sie Kontrollen, die das System erzwingt, Kontrollen im Prompt vor. Das Beispiel des Rahmens: Statt einen Agenten anzuweisen, bestimmte Tools nicht zu nutzen, lassen sich Zugriffskontrollen auf der Tool-Ebene umsetzen. Legen Sie die Obergrenze für Erstattungen in die Erstattungs-API, nicht in den Systemprompt.

Testen Sie vor dem Livegang Aufgabenausführung, Einhaltung der Richtlinien (einschließlich der Weiterleitung zur menschlichen Freigabe), Tool-Aufrufe und Robustheit, über den ganzen Workflow, wiederholt und mit unterschiedlichen Daten. Unser Leitfaden KI-Agenten testen macht daraus einen Testplan. Rollen Sie nach dem Livegang schrittweise aus, überwachen Sie laufend, legen Sie Alarmschwellen mit einer festgelegten Reaktion für jede fest, führen Sie Logs, die sich nicht löschen lassen, und prüfen Sie Änderungen an Modellen, Tools und Richtlinien nach Risiko. Der Leitfaden zum Monitoring von KI-Agenten behandelt die Gestaltung von Alarmen.

2.4 Eigenverantwortung der Endnutzer ermöglichen

Dieser Abschnitt nennt den Kundenservice direkt. Der Rahmen verlangt, in der Oberfläche am Ort der Interaktion von vornherein offenzulegen, dass Nutzer mit Agenten interagieren, statt es nur in separater Dokumentation festzuhalten, und Nutzern zu sagen, was der Agent tun darf, wie ihre Daten verwendet werden und an welchen Menschen sie sich wenden können. Für Mitarbeitende ergänzt er Schulungen zu Fehlerbildern und eine Warnung vor dem „Verlust von Fachkönnen“: Halten Sie genug Menschen bereit, die den Prozess ausführen können, wenn der Agent ausfällt.

Welche Nachweise sollte ein Supportteam für jeden Teil des Rahmens aufbewahren?

Bewahren Sie Nachweise auf, die jemand prüfen kann, ohne Sie zu fragen: ein Register, eine unterschriebene Entscheidung, ein Testergebnis, ein Log, einen Screenshot. Der Rahmen schreibt keine Dokumente vor. Diese Tabelle ist deshalb unsere Übersetzung jedes Abschnitts in den Nachweis, den ein Supportteam einem Prüfer, einer Aufsichtsbehörde oder der eigenen Geschäftsleitung zeigen könnte.

Die meisten dieser Nachweise veralten, weil der Rahmen Monitoring als laufende Aufgabe versteht. Und eine kleine Stichprobe ist ein schwacher Nachweis für einen Agenten, der ein Verhalten Tausende Male wiederholt. Das spricht dafür, jede Konversation mit einer Scorecard für KI-Agenten gegen die Richtlinie zu prüfen.

Wie legen Sie Freigabepunkte fest, ohne Alarmmüdigkeit zu erzeugen?

Legen Sie Freigaben nach Risikostufe fest, nicht nach Anzahl der Aktionen, und prüfen Sie dann, ob die Freigebenden noch mitdenken. Der Rahmen warnt, dass dauerhafte menschliche Freigabe auch zu Automation Bias und Alarmmüdigkeit führen kann, und nennt zwei Signale: eine niedrige Override-Quote und kurze Reaktionszeiten. Schwellen nennt er nicht, die legen Sie selbst fest.

Eine Illustration mit Zahlen, die wir gewählt haben, um die Rechnung zu zeigen (keine Daten eines Unternehmens). Der KI-Agent eines Händlers bearbeitet 40.000 Konversationen pro Monat:

Jede Erstattung der Stufe 2 freizugeben, bedeutet 10.000 Anfragen pro Monat, etwa 455 pro Arbeitstag bei 22 Arbeitstagen. So viele prüft niemand sorgfältig. Liegen 20 % der Erstattungen über 50 USD, sinken die Freigaben auf 2.000 pro Monat, etwa 91 pro Tag.

Prüfen Sie diese nun. Angenommen, die Freigebenden haben 14 von 2.000 Anfragen abgelehnt oder geändert, eine Override-Quote von 0,7 %, bei einer medianen Entscheidungszeit von 3 Sekunden. Zusammen entspricht das der Beschreibung des bloßen Abnickens im Rahmen. Eine Entscheidungsregel, die wir vorschlagen: Liegt die Override-Quote unter 2 % und die mediane Entscheidungszeit unter 10 Sekunden, prüfen Sie eine verdeckte Stichprobe von 50 freigegebenen Anfragen erneut. Würden die Prüfenden mehrere davon ändern, kürzen Sie die Anfragen, ergänzen Sie Risiko und Konfidenz, wie es der Rahmen verlangt, oder verschieben Sie die Obergrenze.

Stufe 1 hat überhaupt keinen Freigebenden. Die nachträgliche Bewertung jeder Konversation ist deshalb die einzige Kontrolle für 70 % des Volumens. Der Leitfaden zur Evaluierung von KI-Agenten beschreibt, wie Sie diese Ergebnisse bewerten.

Wie verhält sich der Rahmen zur KI-Verordnung im Kundenservice?

Die KI-Verordnung (AI Act) ist verbindliches Recht; Singapurs Rahmen ist ein Leitfaden. Für einen KI-Agenten im Support überschneiden sie sich am stärksten bei der Offenlegung: Art. 50 Abs. 1 der KI-Verordnung verlangt seit dem 2. August 2026, dass Menschen erfahren, dass sie mit einer KI interagieren, und der Rahmen verlangt dasselbe am Ort der Interaktion.

In der Praxis setzt die KI-Verordnung das Minimum in der EU, für einen Agenten mit Kundenkontakt vor allem die Offenlegung, während Singapurs Rahmen beschreibt, wie Sie einen Agenten betreiben, der Aktionen ausführt. Bauen Sie in beiden Märkten einen Satz an Kontrollen, der die KI-Verordnung erfüllt, und nutzen Sie die Struktur des Rahmens für den Rest. Unser Artikel zur KI-Verordnung im Kundenservice behandelt Fristen, Stufen und Bußgelder.

Wann dieser Rahmen nicht passt

Wenn Ihr Bot nur aus Ihrem eigenen Hilfecenter antwortet und keine Aktionen ausführt, ist der Großteil des Rahmens schnell erledigt. Seine Risikofaktoren stufen reinen Lesezugriff und eine intern gepflegte Wissensdatenbank als geringeres Risiko ein. Sie brauchen dann vor allem die Offenlegung, einen menschlichen Kontakt und Qualitätsprüfungen der Antworten.

Er beschreibt auch keine Zertifizierung. „Konform mit dem MGF“ ist deshalb keine Aussage, die jemand für Sie überprüfen kann; was Sie zeigen können, sind die Nachweise aus der Tabelle oben.

Wo passt QA in den Rahmen?

QA deckt die Teile ab, die Belege aus echten Konversationen brauchen: Einhaltung der Richtlinien nach dem Livegang, regelmäßige Audits, die Offenlegung und den Feedback-Kreislauf, den der Rahmen verlangt, also Erkenntnisse aus dem Monitoring in Trainingsdaten und Evaluierungsrahmen zurückzuspielen. Logs zeigen, was der Agent getan hat; ein Qualitätsscore zeigt, ob es richtig war.

Kaizo ist ein Weg, diesen Teil umzusetzen. Kaizo bewertet 100 % der Konversationen Ihrer KI-Agenten anhand Ihrer eigenen Scorecard, derselben, an der Ihr Team gemessen wird, und verknüpft jeden Score mit den Belegen in der Konversation; siehe Qualitätssicherung für KI-Agenten. Buchen Sie eine Demo, um es an Ihren eigenen Konversationen zu sehen.

So starten Sie diese Woche

Die erste Dimension und einen Teil der vierten decken Sie in fünf Arbeitstagen ohne neue Tools ab: was der Agent berühren kann, wer ihn verantwortet, was Kunden sehen, und eine erste Prüfung Ihrer Freigebenden.

1. Tag 1: Listen Sie jedes Anliegen auf, das der Agent bearbeitet, und jedes Tool, das er nutzen kann; markieren Sie jedes Tool als Lesen oder Schreiben.
2. Tag 2: Stufen Sie jedes Anliegen nach Auswirkung und Umkehrbarkeit ein; markieren Sie jede Schreibaktion, bei der es um Geld oder Konten geht.
3. Tag 3: Benennen Sie einen Verantwortlichen für den Agenten und für jede Stufe; halten Sie fest, wer ihn abschalten darf, und testen Sie es.
4. Tag 4: Öffnen Sie eine Konversation in jedem Kanal und jeder Sprache; machen Sie einen Screenshot der KI-Offenlegung und des Wegs zu einem Menschen.
5. Tag 5: Berechnen Sie die Override-Quote und die mediane Reaktionszeit des letzten Monats pro Freigebendem.

Häufig gestellte Fragen

Gibt es den Rahmen als PDF?

Ja. Die IMDA veröffentlicht ihn als PDF auf imda.gov.sg unter dem Titel „Model AI Governance Framework for Agentic AI“, Version 1.5. Er umfasst 53 Seiten, einschließlich Fallstudien, weiterführender Ressourcen in Anhang A und eines Aufrufs zu Feedback in Anhang B.

Gilt der Rahmen für Unternehmen außerhalb Singapurs?

Der Rahmen legt keinen räumlichen Geltungsbereich fest. Er richtet sich an jedes Unternehmen, das agentische KI einsetzen will, selbst gebaut oder eingekauft. Unternehmen anderswo können seine Struktur nutzen, aber was verpflichtend ist, entscheidet ihr eigenes Recht.

Verlangt der Rahmen, dass ein Mensch jede Antwort eines KI-Agenten freigibt?

Nein. Er verlangt Freigaben an wesentlichen Kontrollpunkten, etwa bei Aktionen mit hoher Tragweite, unumkehrbaren oder ungewöhnlichen Aktionen, und hält fest, dass die laufende Aufsicht über jeden Workflow bei großem Volumen unpraktikabel wird. Freigaben werden mit automatischem Monitoring und Alarmschwellen kombiniert.

Was ist neu in Version 1.5?

Version 1.5 spiegelt das Feedback von mehr als 60 Unternehmen seit Version 1.0. Sie ergänzt Risikofaktoren wie Systemkomplexität und Lösungen von Drittanbietern, Risiken mehrerer Agenten, Praktiken gegen Automation Bias wie das Verfolgen der Override-Quote, Leitlinien zum Change Management und Fallstudien.

Kann sich ein Unternehmen nach dem Rahmen zertifizieren lassen?

Das Dokument beschreibt kein Zertifizierungs- oder Auditverfahren. Es ist eine Sammlung empfohlener Praktiken, das Stärkste, was ein Unternehmen zeigen kann, sind deshalb seine eigenen Nachweise: Risikostufen, Freigabe-Logs, Testergebnisse, Monitoring-Aufzeichnungen und Screenshots der Offenlegung.