AI-agent governance in de klantenservice: 15 controles

AI-agent governance in de klantenservice is het geheel van eigenaren, regels en controles dat bepaalt wat een AI-agent tegen je klanten mag zeggen en voor hen mag doen, hoe zijn gesprekken worden beoordeeld en wat er gebeurt als hij iets fout doet. Goed ingericht is het geen rem. Het levert het bewijs dat je nodig hebt om de agent stap voor stap meer autonomie te geven.

In het kort

• De meeste gidsen gaan over IT en security. Klantenservice heeft ook governance nodig over wat de agent belooft, welk beleid hij toepast en wanneer hij overdraagt.
• Elke AI-agent heeft één eindverantwoordelijke eigenaar nodig, en elk beleid dat hij toepast een eigenaar en een reviewdatum.
• Deel de acties van de agent in niveaus in: alleen informeren, zelfstandig handelen, handelen binnen een limiet, handelen met goedkeuring, nooit.
• Toezicht betekent de gesprekken zelf scoren, en controleren dat de mensen die de acties van de agent goedkeuren niet blind afstempelen.
• De 15 controles hieronder, elk met het bijbehorende bewijs, vormen een operationeel model dat je kunt kopiëren en de criteria om autonomie uit te breiden.

Wat is AI-agent governance in de klantenservice?

AI-agent governance in de klantenservice betekent bepalen wie eigenaar is van elke AI-agent, binnen welk beleid en welke limieten hij werkt, welke acties een mens nodig hebben, hoe zijn gesprekken worden beoordeeld en hoe incidenten worden afgehandeld. IT-governance vraagt of de agent een systeem kan bereiken. Governance in de klantenservice vraagt of wat hij voor de klant deed juist was.

De meeste pagina’s over dit onderwerp zijn geschreven voor IT- en securityteams. Dat werk is nodig maar niet voldoende: een agent met perfect afgebakende rechten kan nog steeds 300 klanten de verkeerde retourtermijn noemen.

Nieuw met het begrip? Begin met wat agentische AI is (in het Engels) en onze hub over agentische klantenservice.

Wat hoort er in een governancekader voor AI-agents?

Een governancekader voor AI-agents in de klantenservice bevat een register van agents, benoemde eigenaren, eigenaarschap en wijzigingsbeheer van beleid, actieniveaus met goedkeuringsmomenten, tests voor elke release, beoordeling van gesprekken, escalatieregels, AI-transparantie, een draaiboek voor incidenten en een regelmatige review van de autonomie. Elke controle heeft bewijs nodig dat je aan een auditor kunt laten zien.

Kopieer de tabel, wijs aan elke rij een eigenaar toe, en de gaten in je huidige opzet worden snel zichtbaar.

Controles 1, 8, 9 en 13 liggen dicht bij het platform- en IT-werk dat bij elke uitrol hoort. Controles 3, 4, 7, 10 en 15 liggen bij het supportteam, en die bepalen of de fouten van de agent klein blijven.

Wie is eigenaar van een AI-agent in de klantenservice?

Eén persoon is eigenaar van elke AI-agent in de klantenservice: meestal een eigenaar AI-agent die rapporteert aan het hoofd CX, die eindverantwoordelijk is voor de resultaten. Beleidseigenaren houden de content actueel, de QA-lead beoordeelt de gesprekken, IT beveiligt de toegang en legal controleert de transparantie. Gedeeld eigenaarschap zonder één naam is het meest voorkomende gat.

Het kader van Singapore voor agentische AI is op dit punt direct: “As deployers, organisations and humans remain accountable for the decisions and actions of agents” (als gebruikers blijven organisaties en mensen verantwoordelijk voor de beslissingen en acties van agents) (IMDA, Model AI Governance Framework for Agentic AI, versie 1.5, sectie 2.2.1, in het Engels). De leverancier bouwt de agent. Je bedrijf is eigenaar van wat hij je klanten vertelt.

De rol is echt werk. Een team dat twee maanden enterpriseplatformen voor AI-agents evalueerde, concludeerde op Reddit dat het ongeveer een fulltime persoon nodig zou hebben om er één te beheren (discussie, in het Engels). Plan daarvoor vóór de lancering.

Een RACI-matrix die je kunt kopiëren (R = voert het werk uit, A = eindverantwoordelijk, C = geraadpleegd, I = geïnformeerd):

Welk beleid moet een AI-agent volgen, en wie houdt het actueel?

Een AI-agent moet hetzelfde klantbeleid volgen als je menselijke team (terugbetalingen, retouren, voorwaarden, compensatie), plus gedragsregels (transparantie, toon, kwetsbare klanten) en escalatieregels. Elk beleid heeft een benoemde eigenaar en een reviewdatum nodig, en elke wijziging moet in de content van de agent staan voordat ze ingaat.

De fout zit hier zelden in een spectaculaire hallucinatie. Het is een agent die het beleid van vorige maand perfect toepast, in elk gesprek over dat onderwerp, tot iemand de content aanpast. Daarom toetst onze gids over AI-hallucinaties antwoorden aan het beleid zelf en leest hij eerst de onderwerpen waar geld mee gemoeid is.

Drie regels houden beleid actueel: de agent antwoordt vanuit dezelfde beleidspagina’s die je team gebruikt, niet vanuit een kopie in een prompt; elk ticket voor een beleidswijziging bevat “AI-agent bijwerken en testen” vóór de ingangsdatum; en elke maand zet de QA-lead het beleid waarvan de reviewdatum verstreken is op een lijst, zodat de eigenaren het bevestigen of bijwerken.

Welke acties mag een AI-agent zelfstandig uitvoeren, en welke vragen goedkeuring?

Een AI-agent mag zelfstandig acties uitvoeren met een lage waarde die omkeerbaar zijn, binnen geschreven limieten, zoals een factuur opnieuw sturen of een terugbetaling onder een vastgesteld bedrag doen. Acties met hoge inzet, onomkeerbare of ongebruikelijke acties vragen eerst goedkeuring van een mens. Sommige acties voert hij nooit uit. Leg de niveaus met drempels vast voordat de agent live gaat.

Het kader van IMDA noemt vier soorten momenten waarop menselijke goedkeuring nodig is (sectie 2.2.2): acties met hoge inzet, onomkeerbare acties (de voorbeelden zijn onder meer communicatie versturen en betalingen doen), afwijkend gedrag, en limieten die de gebruiker instelt. Vertaald naar de klantenservice:

Twee details maken de niveaus houdbaar. De configuratie van het platform dwingt de limiet af, niet alleen de prompt. En goedkeuringen hebben ook governance nodig. IMDA stelt voor het percentage menselijke overrides te volgen, omdat “a low rate may signal rubber-stamping” (een laag percentage kan wijzen op blind afstempelen), en de beoordelingstijd, omdat een kortere tijd kan wijzen op automatiseringsbias of beoordelingsmoeheid (sectie 2.2.2). Een goedkeurder die 100% van de verzoeken in vier seconden per stuk accepteert, is geen controle.

Werken meerdere agents aan één case, dan moeten de niveaus over al die agents heen kloppen. Het voorbeeld van IMDA zelf is een supportagent die terugbetalingen aanbiedt om klachten snel op te lossen, terwijl een agent voor omzetbescherming terugbetalingen boven een drempel blokkeert (sectie 1.2.3). Onze gids over AI-agent orkestratie behandelt hoe je die overdrachten ontwerpt.

Hoe beoordeel je de gesprekken van een AI-agent?

Je beoordeelt de gesprekken van een AI-agent door ze te scoren tegen een geschreven scorecard (juistheid, beleid, escalatie, transparantie, toon) en elke score te koppelen aan de regels die hem onderbouwen. Scoor ze allemaal, of minstens elk gesprek op niveau 2 en hoger, want de fouten van een AI-agent herhalen zich en een kleine steekproef vindt ze te laat.

Toezicht heeft drie lagen, elk met een eigen gids in deze reeks:

Het oplospercentage is geen kwaliteitsscore: een gesprek telt als opgelost als de klant geen mens heeft bereikt, en dat zegt niets over de vraag of het antwoord juist was. Onze lijst van stille fouten van AI-agents toont zes manieren waarop de fouten van een agent als winst worden geteld.

Gebruik één scorecard voor medewerkers en AI-agents waar de criteria voor allebei gelden, plus controles die alleen voor AI gelden, zoals verzonnen feiten en beleid. En bepaal de omvang van je steekproef eerlijk: een QA-steekproef van 3% (in het Engels) kan geen beslissingen over één agent dragen.

Welk auditbewijs moet je bewaren voor een AI-agent?

Bewaar bewijs dat voor elke datum laat zien welke versie van de agent draaide, welk beleid hij toepaste, wat hij mocht doen, wie zijn acties goedkeurde, hoe zijn gesprekken scoorden en hoe incidenten zijn afgehandeld. Dat is de bewijskolom van de 15 controles, opgeslagen waar een auditor het kan vinden.

Achteraf het moeilijkst te reconstrueren zijn de versiegeschiedenis gekoppeld aan beleidsversies (“welke retourtermijn paste de agent op 3 maart toe?”) en gescoorde gesprekken met de regels uit het transcript erbij. Voor de vragen die IT en inkoop over de tools zelf stellen, zie onze checklist voor de beveiliging van AI-QA.

Hoe handel je een incident met een AI-agent af?

Handel een incident met een AI-agent af in vijf stappen: beperk het (stuur het getroffen onderwerp naar mensen of draai de versie terug), vind elk getroffen gesprek, stel die klanten schadeloos, los de oorzaak op en test opnieuw, en scoor daarna de volgende gesprekken om te bevestigen dat de oplossing standhoudt. Leg vooraf vast wie de agent kan pauzeren.

Een uitgewerkt voorbeeld laat zien waarom de tweede stap volledige dekking vraagt. De cijfers zijn een illustratie, geen data van een echt bedrijf.

• Een AI-agent handelt 40.000 gesprekken per maand af. Retouren zijn 12% daarvan, dus ongeveer 4.800 per maand, of 160 per dag.
• Op de 1e daalt de retourtermijn van 30 naar 14 dagen. De content van de agent wordt op de 10e bijgewerkt, dus 9 dagen lang past hij de oude termijn toe.
• In die 9 dagen handelt hij ongeveer 1.440 retourgesprekken af. Gaat 20% daarvan over artikelen van 15 tot 30 dagen oud, dan krijgen ongeveer 288 klanten te horen dat ze nog kunnen retourneren.
• Een willekeurige steekproef van 2% beoordeelt ongeveer 800 gesprekken per maand, of 240 in die 9 dagen. Ongeveer 29 daarvan zijn retourgesprekken, en ongeveer 6 bevatten de fout.

De steekproef ziet het probleem misschien. Ze kan je niet vertellen wie de andere 282 klanten zijn; daarvoor moet je elk gesprek over het onderwerp doorzoeken of scoren. De beloftes nakomen kost bij een gemiddelde orderwaarde van € 60 ongeveer € 17.280, plus de contacten die het oplevert.

Leg ernstniveaus vooraf vast. Een verkeerde financiële of juridische toezegging die zich bij meerdere klanten herhaalt, of gelekte persoonsgegevens, betekent het onderwerp binnen het uur pauzeren en legal inlichten; een verkeerd antwoord over beleid zonder financiële toezegging betekent het onderwerp naar mensen sturen en het binnen enkele dagen oplossen; problemen met de toon wachten op de volgende release.

Wat vragen de AI-verordening en het kader van Singapore van AI-agents in de klantenservice?

De AI-verordening vereist dat klanten te horen krijgen dat ze met een AI-systeem te maken hebben, uiterlijk bij de eerste interactie, tenzij dat duidelijk is; dit geldt sinds 2 augustus 2026. Het Model AI Governance Framework for Agentic AI van Singapore is een richtlijn, geen wet, en behandelt het afbakenen van risico’s, menselijke verantwoordelijkheid, technische controles en transparantie naar eindgebruikers.

AI-verordening. Artikel 50, lid 1, van Verordening (EU) 2024/1689 legt deze plicht bij aanbieders van AI-systemen die rechtstreeks met mensen communiceren. De FAQ van de Europese Commissie over artikel 50 (bijgewerkt op 24 juli 2026, in het Engels) bevestigt dat de plicht geldt vanaf 2 augustus 2026, dat de melding verplicht is vanaf het begin van de eerste interactie en dat de uitzondering “duidelijk” restrictief moet worden gelezen. AI die medewerkers monitort en beoordeelt, kan onder bijlage III hoog risico zijn, met verplichtingen vanaf 2 december 2027 zoals gewijzigd in 2026 (pagina van de Commissie over de AI-verordening, in het Engels). Onze gids over de AI-verordening in de klantenservice behandelt de details.

Singapore. Het kader van IMDA (versie 1.5, bijgewerkt op 5 juni 2026) is geschreven voor organisaties die AI-agents bouwen of kopen. Voor agents die met klanten praten vraagt het om transparantie, onder meer door gebruikers te vertellen wat de agent mag doen en welke mensen ze kunnen waarschuwen als hij niet goed werkt (sectie 2.4.2). Onze uitleg over het Singaporese governancekader voor agentische AI loopt het door voor supportteams.

NIST. In de VS is het NIST AI Risk Management Framework (versie 1.0, 26 januari 2023, in het Engels) bedoeld voor vrijwillig gebruik en deelt het het werk in vier functies in: Govern, Map, Measure en Manage.

De 15 controles sluiten op alle drie aan. Deze sectie vat publieke teksten samen en is geen juridisch advies; controleer je eigen verplichtingen met je juridisch adviseur.

Hoe laat governance je de autonomie van een AI-agent stap voor stap verruimen?

Governance laat je autonomie verruimen door van elke stap een beslissing met bewijs te maken: een intent gaat een niveau omhoog als de gescoorde gesprekken, testresultaten en incidenthistorie de drempels halen die je vooraf hebt vastgelegd, en gaat omlaag als dat niet zo is. Zonder dat bewijs groeit autonomie op optimisme of helemaal niet.

IMDA raadt aan agents geleidelijk uit te rollen, naar gebruikers, naar de tools en protocollen die de agent mag gebruiken en naar de systemen waaraan hij wordt blootgesteld (sectie 2.3.3). In de klantenservice is de intent de natuurlijke eenheid: verruim één intent tegelijk, niet de hele agent.

Voorbeeldcriteria om een intent één niveau omhoog te zetten. Dit zijn illustratieve vertrekpunten, geen standaarden uit de sector; bepaal je eigen:

Regels om terug te schalen zijn net zo belangrijk. Een verstandige regel: één kritiek foutpatroon (bijvoorbeeld drie keer dezelfde oorzaak in een week) zet de intent een niveau terug tot de oplossing getest is en de volgende gesprekken foutloos scoren. Eerst een smalle scope, een bredere scope op basis van bewijs.

Welke tools heb je nodig voor AI-agent governance?

Je hebt tools nodig voor vijf taken: controles in het agentplatform (limieten, releases, rollback), identiteits- en toegangsbeveiliging, een governance- of risicoregister, monitoring en evaluatie van het gedrag van agents, en kwaliteitsbeoordeling van de gesprekken zelf. Geen enkele tool dekt alle 15 controles, dus koppel elke controle aan de tool die het bewijs ervoor levert.

Sierra beschrijft bijvoorbeeld peer review vóór een release, een rol voor beoordelaars en releases naar een deel van het verkeer in zijn artikel over release governance (in het Engels). Ook met zulke controles moet je de live gesprekken beoordelen zodra een wijziging iedereen bereikt.

Waar Kaizo past

Kaizo is QA-software voor de klantenservice die elk gesprek scoort, van je team en van je AI-agents. Het dekt de beoordeling van gesprekken (controle 10) en het gescoorde bewijs voor escalatie en transparantie (11 en 12): AutoPilot scoort elk afgehandeld gesprek tegen je eigen scorecard en koppelt elke score aan het bewijs. Bekijk kwaliteitscontrole van AI-agents, of boek een demo om het op je eigen gesprekken te zien.

Wanneer dit model meer is dan je nodig hebt

Antwoordt je AI-agent alleen vanuit je helpcenter, voert hij geen acties uit en handelt hij een paar honderd gesprekken per maand af, dan volstaan vijf controles: een eigenaar, een reviewdatum voor beleid, transparantie, een overdrachtsregel en het regelmatig lezen van zijn gesprekken. Voeg de rest toe zodra hij acties gaat uitvoeren, met geld omgaat of volumes draait die niemand meer kan lezen.

Hoe je deze week begint

Je kunt deze week beginnen zonder nieuwe tool of commissie. Vijf stappen zetten de basis neer voor de agent die je al draait en laten zien welke controles ontbreken.

1. Benoem de eigenaar. Eén persoon per AI-agent, op papier, met het hoofd CX als eindverantwoordelijke.
2. Vul het register in. Zet elke agent op een lijst, met de intents en kanalen die hij afhandelt en zijn huidige versie.
3. Schrijf de actieniveaus uit. Plaats elke actie die de agent kan uitvoeren in een niveau, met drempels, en controleer of het platform ze afdwingt.
4. Zet het beleid dat hij toepast op een lijst met een eigenaar en een reviewdatum, en voeg “AI-agent bijwerken” toe aan je proces voor beleidswijzigingen.
5. Scoor de gesprekken van vorige week voor één intent met hoog volume tegen je scorecard, en kijk wat een steekproef had gemist.

Veelgestelde vragen

Wat is het verschil tussen governance van agentische AI en traditionele AI-governance?

Traditionele AI-governance richt zich op wat een model als output geeft: juistheid, bias en transparantie van voorspellingen of tekst. Governance van agentische AI voegt toe wat het systeem doet: de acties die het uitvoert, de tools die het gebruikt en wie ze goedkeurt. In de klantenservice betekent dat governance over terugbetalingen, accountwijzigingen en overdrachten, niet alleen over antwoorden.

Wat zijn de pijlers van AI-governance?

Er is geen officiële lijst. Het kader van NIST deelt het werk in als Govern, Map, Measure en Manage. Voor een supportteam zijn de praktische pijlers eigenaarschap, beleidsbeheer, actielimieten, beoordeling van gesprekken en incidentafhandeling.

Is AI-agent governance wettelijk verplicht?

Voor een deel. In de EU vereist artikel 50 van de AI-verordening sinds 2 augustus 2026 transparantie over AI, en de wetgeving over gegevensbescherming blijft gelden. Het kader van Singapore is een niet-wettelijke richtlijn en dat van NIST is bedoeld voor vrijwillig gebruik; geen van beide kent sancties.

Wie is verantwoordelijk als een AI-agent een klant verkeerde informatie geeft?

Ga ervan uit dat je bedrijf dat is. Het kader van Singapore stelt dat organisaties die agents inzetten en mensen verantwoordelijk blijven voor de beslissingen en acties van agents. Wat je contract met de leverancier ook zegt, de klant ziet jouw merk, dus het draaiboek voor incidenten en het schadeloosstellen van klanten zijn jouw taak.

Hoeveel menselijke review heeft een AI-agent nodig?

Menselijke review moet het risico volgen, niet een vast percentage. Scoor alle gesprekken automatisch, leg acties op niveau 3 voor aan een mens voordat ze gebeuren, en laat mensen fouten, betwiste scores en een wekelijkse kalibratiesteekproef beoordelen. Controleer daarna of de mensen die acties goedkeuren er ook een deel van wijzigen.