Bij een AI-agent met human in the loop keurt een mens een actie goed voordat die wordt uitgevoerd, maar alleen voor acties waarbij een fout duur is, moeilijk terug te draaien of juridisch gevoelig. In de klantenservice kan een FAQ beantwoorden of een adres wijzigen zelfstandig, vraagt een terugbetaling boven je limiet goedkeuring, en is het verwijderen van klantgegevens nooit een beslissing van de agent.
In het kort
- Bepaal autonomie per actie, niet per agent: dezelfde AI-agent kan zelfstandig antwoorden, binnen een limiet terugbetalen en het opzeggen van een account overdragen.
- Scoor elke actie op vier gevolgen (omkeerbaarheid, geld, juridisch of compliance, schade voor de klant) van 0 tot 3, en laat de hoogste score het niveau bepalen.
- Vijf niveaus dekken het supportwerk: informeren (alleen antwoorden), zelfstandig handelen, handelen binnen een limiet, handelen met goedkeuring, nooit.
- Een goedkeuring is alleen een controle als de goedkeurder de juiste feiten ziet, op tijd antwoordt en soms nee zegt.
- Verruim of beperk de autonomie intent per intent, op basis van bewijs: gescoorde gesprekken, teruggedraaide acties en gecontroleerde goedkeuringen.
Wat betekent human in the loop voor een AI-agent?
Human in the loop betekent dat een mens de voorgestelde actie van een AI-agent moet goedkeuren, aanpassen of afwijzen voordat die wordt uitgevoerd. Human on the loop betekent dat de agent handelt en een mens meekijkt en achteraf kan ingrijpen. De klantenservice heeft beide nodig: in the loop voor de paar risicovolle acties, on the loop voor al het andere.
De meeste gidsen behandelen de mens als één controlepunt voor de hele agent. In support werkt dat in beide richtingen niet: een loop op elke actie bedelft teamleiders onder goedkeuringen, en een loop op geen enkele actie laat de agent een abonnement direct opzeggen terwijl de klant alleen de automatische verlenging wilde stoppen.
Agentplatforms bouwen het mechanisme voor je. Het Agent Framework van Microsoft bijvoorbeeld pauzeert een workflow en verstuurt een goedkeuringsverzoek wanneer de agent een tool probeert aan te roepen die als goedkeuringsplichtig is gemarkeerd, en gaat verder zodra er een antwoord terugkomt (Microsoft Learn, in het Engels). Wat het platform niet beslist, is welke acties die markering krijgen. Die beslissing ligt bij de Head of CX, de eigenaar van de AI-agent en de beleidseigenaren.
OWASP noemt de fout die dit voorkomt “excessive agency” (te veel handelingsvrijheid) en noemt bij de maatregelen human-in-the-loop-controle “om te vereisen dat een mens acties met grote impact goedkeurt voordat ze worden uitgevoerd” (OWASP LLM06:2025, in het Engels). Het lastige is bepalen wat “grote impact” betekent voor je eigen supportacties. Onze gids over AI-agent governance beschrijft 15 controles; dit artikel gaat dieper in op controle 5 (actieniveaus) en de controles 6 en 7 (goedkeuringen en het toezicht op goedkeurders).
Wat zijn de vijf autonomieniveaus voor acties van AI-agents?
De vijf niveaus zijn: 0, informeren (alleen antwoorden uit goedgekeurde content); 1, zelfstandig handelen bij omkeerbare acties zonder geld; 2, handelen binnen een limiet bij geld of toezeggingen; 3, handelen met goedkeuring van een mens; 4, nooit handelen, overdragen. Elke actie zit in precies één niveau.
| Niveau | De agent mag | Rol van de mens | Typische controle |
|---|---|---|---|
| 0. Informeren | Antwoorden uit goedgekeurde content, niets wijzigen | On the loop | Beoordeling van gesprekken tegen je scorecard |
| 1. Zelfstandig handelen | Omkeerbare acties uitvoeren waar geen geld mee gemoeid is | On the loop | Actie gelogd, gesprekken beoordeeld |
| 2. Handelen binnen een limiet | Acties met geld of toezeggingen uitvoeren tot een vaste drempel | On the loop | Drempel afgedwongen door het platform, elke case beoordeeld |
| 3. Handelen met goedkeuring | De actie voorstellen, een mens keurt goed voordat die wordt uitgevoerd | In the loop | Goedkeuringslog, override-percentage, beoordelingstijd |
| 4. Nooit | De case herkennen en met context overdragen | Een mens is eigenaar van de case | Kwaliteit van de overdracht gecontroleerd |
Dit zijn dezelfde niveaus als in de governancegids, dus één matrix dient zowel je governancedossier als de configuratie van je platform. De guardrails dwingen vervolgens de limieten binnen elk niveau af.
Hoe bepaal je welke acties van een AI-agent menselijke goedkeuring vragen?
Scoor elke actie op vier gevolgen, van 0 (geen) tot 3 (ernstig): omkeerbaarheid, geld, juridisch of compliancerisico, en schade voor de klant als de actie fout is. De hoogste losse score bepaalt het niveau, niet het totaal, want een goedkope actie die niet terug te draaien is, blijft een actie die niet terug te draaien is.
Dit volgt de logica van het Model AI Governance Framework for Agentic AI van Singapore. Dat zegt dat organisaties controlepunten moeten vastleggen die menselijke goedkeuring vereisen voor acties met veel op het spel, onomkeerbare acties (de voorbeelden zijn onder meer gegevens definitief verwijderen en betalingen doen), afwijkend gedrag en limieten die gebruikers zelf instellen (IMDA, versie 1.5, paragraaf 2.2.2, in het Engels; zie onze samenvatting van het Singaporese governancekader voor agentische AI). Supportleiders zeggen het simpel: automatiseer op basis van de gevolgen, niet op basis van hoe complex het gesprek lijkt. De schaal hieronder maakt dat herhaalbaar, zodat twee mensen die dezelfde actie scoren hetzelfde antwoord krijgen.
De gevolgenschaal
| Score | Omkeerbaarheid | Geld | Juridisch of compliance | Schade voor de klant als het fout gaat |
|---|---|---|---|---|
| 0 | Er verandert niets, of de klant kan het zelf terugdraaien | Geen | Geen | Geen |
| 1 | Medewerkers kunnen het binnen een dag kosteloos terugdraaien | Op of onder je limiet per actie (L1) | Volgt een schriftelijk beleid, geen gereguleerd proces | Ongemak, opgelost bij het volgende contact |
| 2 | Terug te draaien, maar de klant merkt het of het kost moeite of geld | Boven L1, tot je goedkeuringsplafond (L2) | Raakt een gereguleerd proces, een termijn of contractvoorwaarden | Verlies van dienst, toegang of geld waar de klant achteraan moet |
| 3 | Niet terug te draaien | Boven L2, of geen vast bedrag | Rechtsgevolg voor de klant, of een proces dat je bedrijf aan een benoemd team toewijst (privacy, juridisch, fraude) | Ernstige of blijvende schade, ook voor een kwetsbare klant |
De scoreregel
Pas de regels in deze volgorde toe en stop bij de eerste die past:
- De actie wijzigt niets (ze geeft alleen antwoord): niveau 0, informeren.
- Juridisch of schade voor de klant scoort 3: niveau 4, nooit. Een mens die eigenaar is van dat proces neemt de case over.
- Een dimensie scoort 2 of 3: niveau 3, handelen met goedkeuring.
- Geld scoort 1: niveau 2, handelen binnen een limiet.
- Al het andere (alle scores 0 of 1, geen geld): niveau 1, zelfstandig handelen.
Pas daarna drie contextregels toe, ongeacht het niveau van de actie. Is de identiteit niet geverifieerd, dan mag de agent helemaal niets aan het account doen. Toont de klant tekenen van kwetsbaarheid, dreigt hij met juridische stappen of dient hij een formele klacht in, dan gaat het gesprek naar een mens (niveau 4). Is het verzoek ongebruikelijk voor deze klant, zoals een derde terugbetaling in een maand, dan gaat het één niveau omhoog. Dat laatste is het controlepunt voor “afwijkend gedrag” van IMDA, vertaald naar support.
Welke supportacties vragen menselijke goedkeuring? De autonomiematrix
Adreswijzigingen en het uitzetten van automatische verlenging kunnen zelfstandig; kleine terugbetalingen, kwijtschelding van kosten en coulancetegoed gaan binnen een limiet; grotere terugbetalingen, directe opzeggingen en het sluiten van een account vragen goedkeuring; het verwijderen van gegevens en het wijzigen van bankgegevens blijven bij een mens.
De limieten (L1 = € 50, L2 = € 250) en scores hieronder zijn een illustratie voor een team met abonnementen en e-commerce. Neem de kolommen over, niet de getallen.
| Actie | Omkeerbaarheid | Geld | Juridisch | Schade | Niveau | Waarom |
|---|---|---|---|---|---|---|
| Een FAQ beantwoorden (retourtermijn, openingstijden) | 0 | 0 | 0 | 1 | 0. Informeren | Wijzigt niets; een fout antwoord komt naar boven bij de beoordeling van gesprekken |
| Een afleveradres wijzigen vóór verzending (geverifieerde klant) | 1 | 0 | 0 | 1 | 1. Zelfstandig | Medewerkers kunnen het dezelfde dag corrigeren |
| Opzeggen per einde looptijd (automatische verlenging uit) | 1 | 0 | 1 | 1 | 1. Zelfstandig | De klant houdt toegang tot het einde van de looptijd |
| Terugbetaling tot € 50 op een order die ervoor in aanmerking komt | 1 | 1 | 1 | 1 | 2. Binnen een limiet | Geld, maar onder L1 en binnen schriftelijk beleid |
| Aanmaningskosten kwijtschelden, één keer per 12 maanden | 1 | 1 | 1 | 0 | 2. Binnen een limiet | Klein, aan beleid gebonden, makkelijk te controleren |
| Coulancetegoed binnen het bedrag uit het beleid | 1 | 1 | 1 | 1 | 2. Binnen een limiet | Zoals een kleine terugbetaling; buiten het beleid wordt het niveau 3 |
| Terugbetaling boven € 50 | 1 | 2 | 1 | 1 | 3. Met goedkeuring | Geld boven L1; boven € 250 is een hogere goedkeurder nodig |
| Direct opzeggen met een terugbetaling naar rato | 2 | 1 | 1 | 2 | 3. Met goedkeuring | De klant verliest nu toegang; vaak niet wat hij bedoelde |
| Een account sluiten | 3 | 1 | 2 | 2 | 3. Met goedkeuring | Historie en saldi zijn niet te herstellen |
| Persoonsgegevens van de klant verwijderen | 3 | 0 | 3 | 2 | 4. Nooit | Onomkeerbaar, en een gereguleerd proces van het privacyteam |
| Bank- of uitbetaalgegevens wijzigen | 2 | 3 | 2 | 3 | 4. Nooit | Klassiek doelwit van fraude; de schade kan groot en blijvend zijn |
Definieer de actie precies. “Abonnement opzeggen” zijn twee acties met verschillende niveaus. Een agent die direct opzegt terwijl de klant vroeg om de volgende verlenging te stoppen, heeft de verkeerde actie correct uitgevoerd.
Scheid het verzoek van de uitvoering. De agent kan een verzoek om gegevens te verwijderen aannemen en vastleggen (niveau 1), terwijl de verwijdering zelf bij het privacyteam blijft (niveau 4). Volgens de AVG moet het bedrijf de klant zonder onnodige vertraging en in elk geval binnen een maand na ontvangst van het verzoek laten weten welk gevolg het aan zo’n verzoek heeft gegeven (AVG, artikel 12, lid 3). Een nette overdracht met een ticket en een deadline is dus het werk van de agent.
Laat de juridische kolom nakijken door je eigen juristen. Artikel 22 van de AVG geeft mensen het recht niet te worden onderworpen aan een besluit dat uitsluitend op geautomatiseerde verwerking berust en dat rechtsgevolgen of een vergelijkbaar aanmerkelijk effect heeft, met uitzonderingen; waar een uitzondering geldt, moet het bedrijf ten minste het recht op menselijke tussenkomst bieden. Of het sluiten van een account of een weigering daaronder valt, hangt af van je situatie. Daarom stuurt de matrix zulke acties naar een mens. Voor plichten die specifiek in de EU gelden, zie onze gids over de AI-verordening in de klantenservice.
Hoe werkt een goedkeuringsworkflow voor een AI-agent in de praktijk?
De agent stelt de actie voor, het platform pauzeert die en stuurt een goedkeuringskaart naar de juiste persoon, die binnen een vaste tijd goedkeurt, aanpast of afwijst, en de agent vertelt de klant wat er nu gebeurt. Antwoordt niemand op tijd, dan wordt de actie geweigerd en gaat de case naar een mens.
Wie keurt goed
Stuur elke actie op niveau 3 naar de rol die de beslissing voor menselijke medewerkers al neemt, niet naar een nieuwe rol.
| Actie | Goedkeurder | Vervanger als die niet beschikbaar is |
|---|---|---|
| Terugbetaling tussen L1 en L2 | Teamleider van dienst | Elke teamleider in de wachtrij |
| Terugbetaling boven L2 | Specialist facturatie of finance | Overdragen, geen actie |
| Coulance buiten het beleid | Teamleider | Overdragen, geen actie |
| Directe opzegging | Specialist retentie of facturatie | Opzeggen per einde looptijd aanbieden |
| Account sluiten | Accountspecialist | Overdragen, geen actie |
Hoe snel goedkeuringen moeten zijn
De goedkeuringstijd moet passen bij het kanaal. In live chat wacht de klant, dus je hebt binnen minuten een antwoord nodig, of een duidelijk bericht dat de actie per e-mail volgt. Bij e-mail en tickets zijn een paar uur vaak prima. Stel per kanaal een doel en meet het.
Verloopt de deadline, weiger dan standaard. IMDA noemt “acties standaard weigeren wanneer de goedkeuringsinfrastructuur faalt”, bijvoorbeeld als menselijke supervisors onbereikbaar zijn, bij zijn monitoringmaatregelen (paragraaf 2.2.2). De klant moet dan horen dat een mens contact opneemt, nooit stilte.
Wat de goedkeurder ziet
IMDA adviseert goedkeuringsverzoeken “contextueel en behapbaar” te houden, kort en duidelijk in plaats van lange logs, en tegelijk het risico duidelijk te maken met nuttige gegevens, zoals het risico van de actie (paragraaf 2.2.2). Voor een terugbetaling in support betekent dat één kaart:
- De actie, het bedrag en de regel die het verzoek activeerde (“terugbetaling € 120, boven de limiet van € 50”).
- De status van de identiteitscontrole en relevante historie, zoals terugbetalingen in de afgelopen 12 maanden.
- Het beleid waarop de agent zich baseert, gelinkt, met de versie.
- De reden van de agent in één zin, een samenvatting van twee regels en een link naar het transcript.
- De gevolgscores, zodat de goedkeurder weet wat er op het spel staat.
- Goedkeuren, aanpassen of afwijzen, met een verplichte reden bij aanpassen en afwijzen, en een schriftelijke onderbouwing bij goedkeuringen boven L2.
Rekenvoorbeeld: hoeveel goedkeuringen kan je team aan?
Illustratie, met getallen die voor het voorbeeld zijn gekozen. Een AI-agent handelt 40.000 gesprekken per maand af, en 6% daarvan eindigt in een actie op niveau 3. Dat zijn 2.400 goedkeuringen per maand, of ongeveer 109 per werkdag over 22 dagen. Bij 90 seconden per goedkeuring is dat ongeveer 2,7 uur tijd van teamleiders per dag, nog voordat iemand een transcript grondig heeft gelezen.
Goedkeuringen zijn een post in je personeelsplanning, dus plan ze ook zo. Groeit het aandeel niveau 3 naar 15%, dan krijgt hetzelfde team ongeveer 273 goedkeuringen per dag en daalt de kwaliteit van de beoordeling. Dat is het moment om sommige acties op basis van bewijs naar niveau 2 met een limiet te verplaatsen, in plaats van mensen te vragen sneller te klikken.
Hoe voorkom je goedkeuringsmoeheid en blind afstempelen?
Meet de goedkeurders, niet alleen de agent. Volg per goedkeurder het override-percentage (hoe vaak hij aanpast of afwijst) en de beoordelingstijd. IMDA merkt op dat een laag override-percentage kan wijzen op blind afstempelen en een kortere beoordelingstijd op automation bias of beoordelingsmoeheid (paragraaf 2.2.2). Controleer daarna een steekproef van goedgekeurde acties.
Automation bias, het voorstel van een systeem accepteren zonder het te controleren, groeit wanneer verzoeken bijna altijd kloppen. Het probleem wordt dus groter naarmate de agent beter wordt.
Illustratie van wat het rapport kan laten zien, met verzonnen getallen:
| Goedkeurder | Verzoeken (30 dagen) | Aangepast of afgewezen | Override-percentage | Mediane beoordelingstijd |
|---|---|---|---|---|
| Teamleider A | 1.200 | 20 | 1,7% | 4 seconden |
| Teamleider B | 640 | 58 | 9,1% | 70 seconden |
| Teamleider C | 710 | 61 | 8,6% | 65 seconden |
Teamleider A is de “uitschieter” die IMDA beschrijft, een goedkeurder wiens beslispatroon afwijkt van de norm. Vier seconden is niet genoeg om een kaart te lezen. Dit is geen disciplinaire bevinding: meestal betekent het dat A de drukste dienst draait.
Vier gewoontes houden goedkeuringen zinvol:
- Houd niveau 3 klein. Handelt een goedkeurder meer dan een vast aantal verzoeken per uur af, verplaats dan duidelijk veilige acties een niveau omlaag, met een limiet.
- Controleer goedgekeurde acties. Laat QA elke week een steekproef van goedgekeurde acties tegen het beleid beoordelen. Een goedkeuringspercentage zegt niets; een percentage juiste goedkeuringen wel.
- Train goedkeurders op de typische fouten van agents, zoals het citeren van een verouderd beleid, het voorbeeld dat IMDA geeft. Ons artikel over waarom AI-gesprekken mislukken somt de meest voorkomende op.
- Rouleer en begrens. Verdeel goedkeuringen over teamleiders en stel per dienst een maximum in, zodat niemand honderden verzoeken achter elkaar goedkeurt.
Welk bewijs rechtvaardigt meer of minder rechten voor een AI-agent?
Verruim de autonomie voor één intent wanneer de gescoorde gesprekken slagen, de goedkeuringen bij controle grotendeels juist blijken en de acties zelden worden teruggedraaid of betwist. Beperk ze wanneer een van die drie terugloopt. Verander één stap tegelijk: verhoog een limiet of zet één actie een niveau lager, en kijk de weken daarna goed.
Het bewijs per intent:
| Signaal | Wat het je vertelt | Verruimen als | Beperken als |
|---|---|---|---|
| Gespreksscores (juistheid, beleid, escalatie) | Of de agent het beleid correct toepast | Kritieke criteria consequent slagen | Een kritieke fout zich herhaalt |
| Override-percentage bij goedkeuringen | Hoe vaak mensen het oneens zijn met de agent | Laag, met normale beoordelingstijden en schone controles | Stijgend, of laag met zeer korte beoordelingstijden |
| Controle van goedgekeurde acties | Of goedkeuringen juist waren | Bijna allemaal juist | Foute goedkeuringen gevonden |
| Percentage teruggedraaide acties (teruggevorderde terugbetalingen, ongedaan gemaakte opzeggingen) | Of acties standhielden | Zeldzaam | Stijgend |
| Heropende cases en klachten na de actie | Of de klant het ermee eens was | Gelijk of dalend | Stijgend |
Een laag override-percentage kan betekenen dat de agent gelijk heeft, of dat goedkeurders zijn gestopt met lezen. Alleen de controle en de beoordelingstijden maken het verschil zichtbaar, dus gebruik alle drie voordat je verruimt. Verruim dan in stappen: verhoog L1 van € 50 naar € 75 voor terugbetalingen op één intent, laat al het andere zoals het is, en vergelijk de komende vier weken met de vorige vier. De governancegids bevat voorbeeldcriteria om een intent een niveau omhoog te zetten en een regel om terug te schalen. Om te controleren of acties deden wat de klant nodig had, lees je hoe je een audit van het oplossingspercentage van een AI-agent uitvoert, en houd je het beleid achter elke limiet actueel met beleid voor AI-agents.
Wanneer deze matrix niet voor jou is
Beantwoordt je AI-agent alleen vragen, dan zit je volledig in niveau 0: je hebt een goede kennisbank nodig, een overdrachtsregel en beoordeling van gesprekken, geen goedkeuringsworkflow. Bouw de matrix in de week voordat je de agent koppelt aan terugbetalingen of accountwijzigingen. En bij een paar dozijn acties per week kan een teamleider ze achteraf allemaal lezen, dus voegen override-rapporten weinig toe.
Waar Kaizo past
Kaizo is QA en governance-toezicht voor supportteams waar mensen en AI-agents het werk delen. AutoPilot scoort elk afgehandeld gesprek tegen je eigen scorecard, zodat de gespreksscores in de bewijstabel uit al je gesprekken komen, niet uit een steekproef, en elke score linkt naar de regels die haar onderbouwen. Bekijk hoe kwaliteitscontrole van AI-agents werkt.
Zie het op je eigen gesprekken. Kaizo scoort 100% van je supportgesprekken, van je team en van je AI-agents, en laat zien waar de kwaliteit breekt. Demo boeken.
Hoe je deze week begint
Je bouwt de eerste autonomiematrix in een middag met de eigenaar van je AI-agent en één teamleider, op basis van de platformconfiguratie, het goedkeuringslog van vorige maand en de scoreregel hierboven.
- Zet elke actie op een rij die je AI-agent vandaag kan uitvoeren, uit de platformconfiguratie, niet uit je geheugen.
- Scoor elke actie, en pas daarna de scoreregel en de drie contextregels toe.
- Vergelijk met het platform. Controleer of elke limiet op niveau 2 en elke goedkeuringsmarkering op niveau 3 in het platform wordt afgedwongen, niet alleen in de prompt.
- Benoem de goedkeurder en de deadline voor elke actie op niveau 3, en stel bij een time-out standaard weigeren in.
- Haal de cijfers van vorige maand op: goedkeuringen per dag, override-percentage en mediane beoordelingstijd per goedkeurder. Dat is je nulmeting voor de eerste review van de autonomie.
Onze gids over agentische klantenservice laat zien waar deze niveaus passen in de bredere uitrol.
Veelgestelde vragen
Wat is human-in-the-loop-autorisatie voor AI-agents?
Het is een regel dat een AI-agent bepaalde acties pas mag uitvoeren als een benoemde persoon ze goedkeurt. De agent stelt de actie voor, het platform pauzeert die, en de goedkeurder keurt goed, past aan of wijst af. De autorisatie geldt per actie en per bedrag, niet als algemene toestemming voor de agent.
Is ChatGPT human in the loop?
Op zichzelf is een chatassistent human in the loop in eenvoudige zin: hij maakt tekst en een mens beslist wat ermee gebeurt. Zodra hij is gekoppeld aan tools die acties uitvoeren, zoals terugbetalingen doen, moet je beslissen welke acties zelfstandig lopen en welke op een mens wachten.
Waar dient een kill switch voor een AI-agent?
Een kill switch stopt een AI-agent, of een van zijn acties, snel wanneer er iets misgaat, zoals een slechte release of een beleidsfout die zich op grote schaal herhaalt. Hij vult goedkeuringen aan: goedkeuringen stoppen losse risicovolle acties voordat ze gebeuren, en een stopmechanisme beperkt de schade als er toch een patroon doorheen glipt. Kijk wat je agentplatform biedt om een agent of een losse actie te pauzeren, en wie dat mag doen.
Moeten limieten voor terugbetalingen voor elke klant gelijk zijn?
Niet per se. Stel één limiet per actie in, en verlaag die of vraag goedkeuring bij recente terugbetalingen, een niet-geverifieerde identiteit of ongebruikelijke verzoeken. IMDA noemt ook limieten die gebruikers zelf instellen, zoals goedkeuring voor aankopen boven een bepaald bedrag.
Wat vertelt de AI-agent de klant terwijl hij op goedkeuring wacht?
Hij zegt duidelijk dat een collega de actie moet bevestigen, hoe lang dat meestal duurt en hoe de klant bericht krijgt. Hij belooft nooit de uitkomst vóór de goedkeuring: een belofte die wordt afgewezen is erger dan even wachten.
Maakt een human in the loop het bedrijf minder aansprakelijk voor fouten van AI-agents?
Nee. Een goedkeuring laat zien dat een mens de actie heeft gecontroleerd, maar de verantwoordelijkheid blijft bij het bedrijf, en een log vol blind afgestempelde goedkeuringen kan aantonen dat het toezicht niet echt was. Bewaar het goedkeuringslog, de override-percentages en de controles, zodat je kunt laten zien dat de checks werkten.
