Voor AI-agents in de klantenservice is de belangrijkste regel van de Europese AI-verordening transparantie: sinds 2 augustus 2026 moeten mensen vanaf de eerste interactie te horen krijgen dat ze met een AI te maken hebben, tenzij dat duidelijk is.
De meeste chatbots en voicebots in de klantenservice zijn geen AI met een hoog risico. AI die je medewerkers monitort en evalueert kan dat wel zijn, en emoties van werknemers afleiden uit biometrische gegevens is verboden.
In het kort
- Artikel 50, lid 1, van de AI-verordening vereist dat klanten te horen krijgen dat ze met een AI praten, uiterlijk bij de eerste interactie, en geldt sinds 2 augustus 2026.
- De Digital Omnibus on AI, in werking sinds 27 juli 2026, verschoof de data voor AI met een hoog risico naar 2 december 2027 en 2 augustus 2028, maar stelde de regel voor chatbots niet uit.
- Een AI die met klanten praat, valt meestal in de transparantiecategorie, terwijl AI om werknemers te monitoren en te evalueren onder een categorie met hoog risico valt, tenzij een uitzondering geldt.
- AI die je medewerkers scoort, roept twee vragen op: het verbod op emotieherkenning op de werkplek en de regels voor hoog risico bij het monitoren van werknemers.
- Kwaliteitscontrole kan in elk gesprek aantonen dat je compliant bent: scoor de AI-melding, de overdracht naar een mens en wat de AI-agent beloofde.
Dit artikel legt de wet uit zoals die er op 4 november 2026 voor staat. Het is geen juridisch advies. Voor de QA-kant van AI-agents laat de pagina over kwaliteitscontrole van AI-agents zien hoe Kaizo gesprekken van AI-agents scoort op dezelfde scorecard als die van je team.
Wat vraagt de AI-verordening van AI-agents in de klantenservice?
De AI-verordening vereist dat een AI-agent die met klanten praat zo is ontworpen dat ze weten dat het een AI is, tenzij dat uit de context duidelijk is. Dit is artikel 50, lid 1, en het is een plicht van de aanbieder.
Artikel 50, lid 1, van Verordening (EU) 2024/1689 zegt dat aanbieders ervoor moeten zorgen dat AI-systemen die bedoeld zijn om rechtstreeks met mensen te communiceren zo worden ontworpen dat die mensen worden geïnformeerd dat ze met een AI-systeem te maken hebben, tenzij dat duidelijk is voor een redelijk geïnformeerde, oplettende en omzichtige persoon.
Artikel 50, lid 5, voegt eraan toe dat de informatie duidelijk en herkenbaar moet zijn, uiterlijk op het moment van de eerste interactie moet worden gegeven en toegankelijk moet zijn.
De FAQ van de Europese Commissie over artikel 50, bijgewerkt op 24 juli 2026, voegt details toe die voor supportteams belangrijk zijn:
| Punt | Wat de Commissie zegt |
|---|---|
| Welke systemen | Vier voorwaarden samen: een AI-systeem, een echte uitwisseling in twee richtingen, de AI communiceert rechtstreeks zonder mens ertussen, en aan de andere kant zit een persoon. Chatbots, AI-agents en avatars worden als voorbeeld genoemd. |
| Wat erbuiten valt | Systemen die alleen op de achtergrond of van machine tot machine werken. |
| De uitzondering “duidelijk” | Wordt restrictief gelezen, omdat ze mensen transparantie ontneemt. |
| Timing | Mensen moeten worden geïnformeerd vanaf het begin van de eerste interactie. |
| Vorm | Aanbieders kiezen de techniek, maar een melding die alleen in de algemene voorwaarden staat, volstaat op zichzelf niet. |
| Richtsnoeren | De richtsnoeren van de Commissie over artikel 50 zijn op 20 juli 2026 vastgesteld (C(2026) 5054). |
| Handhaving | Vooral nationale markttoezichtautoriteiten. |
Wie is de aanbieder? Meestal het bedrijf dat de AI-agent (Engelstalig) bouwt. Dat kan je helpdeskleverancier zijn, of je eigen team als je hem zelf bouwt.
Gebruik je de AI-agent van een leverancier, dan blijf je verantwoordelijk voor wat je klanten zien: controleer dat de melding aanstaat in elk kanaal en elke taal die je gebruikt, want het maakt een klant niet uit wiens plicht het was.
Belangrijke data van de AI-verordening voor supportteams
De AI-verordening is op 1 augustus 2024 in werking getreden en geldt in fases; de Digital Omnibus on AI verschoof de data voor hoog risico en liet de regel voor chatbots op 2 augustus 2026 staan.
| Datum | Wat geldt | Belang voor support |
|---|---|---|
| 1 augustus 2024 | De AI-verordening treedt in werking | Niet direct |
| 2 februari 2025 | Verboden praktijken (artikel 5) en AI-geletterdheid (artikel 4) | Het verbod om emoties van werknemers af te leiden uit biometrische gegevens |
| 2 augustus 2025 | Regels voor AI-modellen voor algemene doeleinden, governance, sancties | Vooral voor aanbieders van modellen |
| 27 juli 2026 | De Digital Omnibus on AI, Verordening (EU) 2026/1744, treedt in werking | Verschuift de data voor hoog risico hieronder |
| 2 augustus 2026 | Algemene datum van toepassing, ook van artikel 50 | AI-melding voor chatbots en voicebots |
| 2 december 2026 | Machineleesbare markering (artikel 50, lid 2) voor generatieve AI-systemen die voor 2 augustus 2026 in de handel zijn gebracht | Vooral voor leveranciers van generatieve AI |
| 2 december 2027 | Regels voor hoog risico voor systemen uit bijlage III, waaronder werkgelegenheid | AI om werknemers te monitoren en te evalueren |
| 2 augustus 2028 | Regels voor hoog risico voor systemen uit bijlage I (AI in gereguleerde producten) | Zelden relevant voor support |
Bronnen: de data komen uit de artikelen 111 en 113 van Verordening (EU) 2024/1689 zoals gewijzigd bij Verordening (EU) 2026/1744, gecontroleerd aan de hand van de pagina over de AI-verordening van de Europese Commissie, bijgewerkt op 19 oktober 2026. De Omnibus is op 24 juli 2026 in het Publicatieblad verschenen.
Ze herschreef ook artikel 4: aanbieders en gebruiksverantwoordelijken moeten nu maatregelen nemen om de AI-geletterdheid van hun personeel te ondersteunen, en de tekst zegt dat ze daarbij geen bepaald niveau hoeven te garanderen.
In welke risicocategorie valt AI in de klantenservice?
Een AI die met klanten praat, valt meestal in de transparantiecategorie, met de meldplicht en verder niets. De indeling hangt af van waarvoor het systeem bedoeld is, niet van de technologie.
De AI-verordening deelt systemen in vier categorieën in. Zo passen gangbare toepassingen in de klantenservice daarin, als vertrekpunt voor je eigen beoordeling:
| Categorie | Wat het betekent | Voorbeelden in de klantenservice |
|---|---|---|
| Verboden (artikel 5) | Verboden sinds 2 februari 2025 | Emoties van een medewerker afleiden uit zijn stem of gezicht op het werk, buiten medische of veiligheidsredenen |
| Hoog risico (bijlage III) | Strenge verplichtingen, vanaf 2 december 2027 voor bijlage III | AI om beslissingen te nemen over de arbeidsvoorwaarden, promotie of het ontslag van medewerkers, of om hun prestaties en gedrag te monitoren en te evalueren (punt 4, b)); kredietscores voor klanten |
| Transparantie (artikel 50) | Meldplichten, sinds 2 augustus 2026 | Een chatbot, voicebot of AI-agent die met klanten praat |
| Minimaal | Geen specifieke regels | Spamfilters, tickets routeren op onderwerp, spellingsuggesties |
Twee details veranderen het beeld.
Ten eerste zegt artikel 6, lid 3, dat een systeem uit bijlage III geen hoog risico is als het geen aanzienlijk risico op schade inhoudt, bijvoorbeeld omdat het een beperkte procedurele taak uitvoert of een taak die een menselijke beoordeling voorbereidt. Een systeem dat profielen van personen opstelt, is echter altijd hoog risico.
Ten tweede tellen de categorieën op: een systeem met hoog risico dat ook met mensen praat, moet ook aan artikel 50 voldoen.
De meeste AI-agents in de klantenservice beantwoorden vragen en voeren eenvoudige acties uit. Beslist de jouwe ook over terugbetalingen boven een limiet, krediet of toegang tot essentiële diensten, toets die toepassing dan samen met je juridisch adviseur aan bijlage III, punt 5.
En AI die je medewerkers scoort?
AI die je medewerkers scoort, roept twee vragen op: leidt ze emoties af uit biometrische gegevens, wat op het werk verboden is, en evalueert ze prestaties, een toepassing met hoog risico tenzij een uitzondering geldt?
Het verbod op emotieherkenning. Artikel 5, lid 1, punt f), verbiedt het gebruik van AI-systemen om de emoties van een persoon op de werkplek af te leiden, behalve om medische of veiligheidsredenen, en geldt sinds 2 februari 2025.
De verordening definieert een systeem voor emotieherkenning in artikel 3, punt 39, als een systeem dat emoties of intenties afleidt op basis van biometrische gegevens, zoals een stem of een gezicht. Overweging 18 voegt toe dat alleen het opmerken van een verheven stem geen emotieherkenning is, tenzij het wordt gebruikt om emoties af te leiden.
De richtsnoeren van de Commissie over verboden AI-praktijken, gepubliceerd op 4 februari 2025 en niet bindend, gebruiken een callcenter als voorbeeld.
Zoals het advocatenkantoor Lewis Silkin samenvat, wordt het volgen van de emoties van werknemers met stemherkenning om te monitoren hoe callcentermedewerkers met klanten omgaan als verboden genoemd, terwijl emoties afleiden uit geschreven tekst niet op biometrische gegevens berust en buiten het verbod valt.
Wat dit in de praktijk betekent:
| Toepassing | Status onder de AI-verordening |
|---|---|
| Boosheid of stress van een medewerker afleiden uit zijn stem tijdens gesprekken | Verboden op het werk, tenzij om medische of veiligheidsredenen |
| Sentiment van de klant, gelezen uit de tekst van een chat of e-mail | Geen emotieherkenning (geen biometrische gegevens) |
| Emoties van de klant, afgeleid uit zijn stem | Niet gedekt door het verbod op de werkplek, maar wel een systeem voor emotieherkenning: als hoog risico opgenomen in bijlage III, punt 1, c), en artikel 50, lid 3, vereist dat de betrokken personen worden geïnformeerd |
| Controleren of de medewerker de procedure volgde of juist antwoordde | Geen emotieherkenning |
De vraag naar hoog risico. Bijlage III, punt 4, b), noemt AI-systemen die bedoeld zijn om de prestaties en het gedrag van personen in arbeidsrelaties te monitoren en te evalueren. Een QA-tool die medewerkers scoort, kan onder die omschrijving vallen, tenzij een uitzondering uit artikel 6, lid 3, geldt, bijvoorbeeld wanneer de AI een beoordeling voorbereidt die een persoon maakt.
Die verplichtingen gelden vanaf 2 december 2027. Gebruiksverantwoordelijken die werkgever zijn, moeten dan de werknemersvertegenwoordigers en de betrokken werknemers informeren voordat ze een AI-systeem met hoog risico op het werk in gebruik nemen (artikel 26, lid 7).
Hoe een bepaalde QA-tool wordt ingedeeld, hangt af van het beoogde doel en van hoe je hem gebruikt. Vraag je leverancier naar zijn eigen beoordeling en betrek je ondernemingsraad of werknemersvertegenwoordigers vroeg: in verschillende EU-landen hebben monitoringtools hun instemming sowieso nodig.
Hoe scoring met menselijke controle in de praktijk werkt, lees je in onze gids over hoe je AI-scoring in QA valideert (Engelstalig).
Hoe toont kwaliteitscontrole aan dat je AI-agent compliant is?
Kwaliteitscontrole toont compliance aan door elk gesprek van een AI-agent te scoren op wat de wet en je beleid vereisen, zoals de AI-melding en een weg naar een mens, met elke score gekoppeld aan bewijs.
Artikel 50 stelt een regel voor het ontwerp van het systeem. Of het in productie werkt, in elk kanaal, elke taal en elke flow, weet je alleen door de gesprekken te controleren. Voeg deze criteria toe aan je scorecard voor een AI-agent:
| Criterium | Wat het controleert | Type |
|---|---|---|
| AI-melding | De klant hoorde aan het begin dat hij met een AI te maken had, in de taal van het gesprek | Knock-out |
| Melding bij teruggave | Als een mens het gesprek teruggeeft aan de bot, weet de klant dat | Gewogen |
| Weg naar een mens | Als de klant om een mens vroeg, kreeg hij er een of een duidelijke manier om er een te bereiken | Knock-out |
| Context bij overdracht | De persoon die het overnam, had de gespreksgeschiedenis (hoe je de overdracht beoordeelt) | Gewogen |
| Geen verzonnen toezeggingen | Geen terugbetaling, kwijtgescholden kosten of beleid dat het bedrijf niet aanbiedt | Knock-out |
| Gebaseerd op je content | Feiten komen uit je eigen kennisbank | Gewogen |
De weg naar een mens is geen plicht uit de AI-verordening voor elke chatbot, maar daar beginnen klachten van klanten over AI-agents, en onze gids over stille fouten van AI-agents laat zien wat er misgaat als de bot nooit escaleert. Voor de volledige methode, zie kwaliteitscontrole van AI-agents.
Bekijk het in een live demo. Kaizo scoort 100% van de gesprekken van je AI-agents tegen je eigen scorecard en koppelt elke score aan het bewijs in het gesprek. Plan een gesprek.
Welke boetes gelden onder de AI-verordening?
Een inbreuk op de transparantieplichten van artikel 50 kan leiden tot boetes tot 15 miljoen euro of 3% van de totale wereldwijde jaaromzet, afhankelijk van welk bedrag hoger is, op grond van artikel 99, lid 4, van de AI-verordening. Voor verboden praktijken geldt het hoogste plafond, tot 35 miljoen euro of 7% op grond van artikel 99, lid 3.
Hetzelfde plafond geldt voor de verplichtingen van gebruiksverantwoordelijken van systemen met hoog risico op grond van artikel 26.
Voor kmo’s, waaronder start-ups, beperkt artikel 99, lid 6, elke boete tot het laagste van de twee bedragen. Nationale autoriteiten bepalen de werkelijke boete, en de FAQ van de Commissie merkt op dat voor kmo’s en kleine midcapondernemingen rekening wordt gehouden met evenredigheid.
Zo bereid je je supportteam voor op de AI-verordening
Bereid je voor in vijf stappen: breng je AI-systemen in kaart, deel elk in naar gebruik, controleer de AI-melding in elk kanaal, leg vast hoe AI-scoring van medewerkers werkt en scoor elk gesprek van een AI-agent op de melding.
- Breng elk AI-systeem in de support in kaart. Chatbots, voicebots, AI-agents, agent assist (Engelstalig), QA-scoring, sentiment, routering. Noteer wie elk systeem levert en waarvoor het wordt gebruikt.
- Deel elk systeem in naar beoogd gebruik. Gebruik de risicotabel hierboven als eerste aanzet en bevestig met je juridisch adviseur. Markeer alles wat werknemers evalueert of beslist over de toegang van klanten tot diensten.
- Controleer de melding in elk kanaal en elke taal. Begin als klant een gesprek met elke bot, in chat, e-mail, spraak en elke taal, en controleer het eerste bericht.
- Leg vast hoe AI je medewerkers scoort. Bevestig dat geen enkele tool emoties van medewerkers afleidt uit stem of video, bepaal waar een persoon AI-scores beoordeelt en informeer de werknemersvertegenwoordigers.
- Scoor elk gesprek van een AI-agent op de melding. Een eenmalige controle bewijst het ontwerp; alle gesprekken scoren laat zien dat het standhield na de volgende wijziging in een flow. Daarvoor is kwaliteitscontrole voor AI-agents in Kaizo gebouwd.
Welke wet geldt? Verordening (EU) 2024/1689 (de AI-verordening), zoals gewijzigd bij Verordening (EU) 2026/1744 (de Digital Omnibus on AI), gecontroleerd op EUR-Lex en de pagina’s van de Europese Commissie over de AI-verordening op 4 november 2026.
Richtsnoeren en praktijkcodes van de Commissie zijn niet bindend en kunnen nog veranderen, en nationale autoriteiten kunnen hun eigen richtsnoeren publiceren. Controleer ze dus voordat je in een specifiek geval handelt.
Veelgestelde vragen
Moet een chatbot in de klantenservice zeggen dat hij een AI is?
Ja, in de EU, sinds 2 augustus 2026. Artikel 50, lid 1, van de AI-verordening vereist dat mensen te horen krijgen dat ze met een AI-systeem te maken hebben, uiterlijk bij de eerste interactie, tenzij dat duidelijk is. De Commissie leest de uitzondering “duidelijk” restrictief, dus een heldere melding aan het begin van het gesprek is de veilige keuze.
Is een chatbot in de klantenservice een AI-systeem met hoog risico?
Meestal niet. Een chatbot die supportvragen beantwoordt, valt onder de transparantieregels van artikel 50. Hij kan hoog risico worden als hij wordt gebruikt voor een doel uit bijlage III, bijvoorbeeld kredietwaardigheid beoordelen of beslissen over toegang tot essentiële diensten. De indeling hangt af van het beoogde doel, dus controleer elke toepassing.
Heeft de Digital Omnibus de regels voor chatbots in de AI-verordening uitgesteld?
Nee. De Digital Omnibus on AI, Verordening (EU) 2026/1744, verschoof de data voor hoog risico naar 2 december 2027 en 2 augustus 2028. Artikel 50 behield zijn datum van 2 augustus 2026. Alleen aanbieders van generatieve AI-systemen die al in de handel waren, kregen tot 2 december 2026 voor de machineleesbare markering uit artikel 50, lid 2.
Geldt de AI-verordening ook voor bedrijven buiten de EU?
Ja, in veel gevallen. Volgens artikel 2 geldt ze voor aanbieders die AI-systemen in de EU in de handel brengen, waar ze ook gevestigd zijn, en voor aanbieders en gebruiksverantwoordelijken buiten de EU als de output van het systeem in de EU wordt gebruikt. Bedient de AI-agent van een Amerikaans bedrijf klanten in de EU, ga er dan van uit dat de meldplicht geldt.
Is sentimentanalyse van klantgesprekken toegestaan onder de AI-verordening?
Sentiment gelezen uit de tekst van chats en e-mails is geen emotieherkenning: het gebruikt geen biometrische gegevens (zie sentimentscore in QA). Emoties van een werknemer afleiden uit stem of gezicht op het werk is verboden, behalve om medische of veiligheidsredenen. Emoties van een klant afleiden uit zijn stem is hoog risico volgens bijlage III, en de klant moet het weten (artikel 50, lid 3).
