Per gli agenti AI nel servizio clienti, la regola principale dell’AI Act (il regolamento europeo sull’IA) è la trasparenza: dal 2 agosto 2026 le persone devono sapere che stanno interagendo con un’IA, fin dalla prima interazione, salvo che sia evidente.
La maggior parte dei chatbot e dei voicebot di assistenza non è ad alto rischio. L’AI che monitora e valuta i suoi operatori può esserlo, e dedurre le emozioni dei dipendenti da dati biometrici è vietato.
In sintesi
- L’articolo 50, paragrafo 1, dell’AI Act richiede che i clienti sappiano di parlare con un’IA, al più tardi al momento della prima interazione, e si applica dal 2 agosto 2026.
- L’omnibus digitale sull’IA, in vigore dal 27 luglio 2026, ha spostato le date per l’alto rischio al 2 dicembre 2027 e al 2 agosto 2028, ma non ha rinviato la regola sui chatbot.
- Un’AI di assistenza rivolta ai clienti rientra di solito nel livello della trasparenza, mentre l’AI usata per monitorare e valutare i dipendenti rientra in una categoria ad alto rischio, salvo che si applichi un’eccezione.
- L’AI che valuta i suoi operatori solleva due questioni: il divieto di riconoscimento delle emozioni sul luogo di lavoro e le regole sull’alto rischio per il monitoraggio dei lavoratori.
- Il controllo qualità può dimostrare la conformità in ogni conversazione: valuti l’avviso di AI, il passaggio a una persona e che cosa ha promesso l’agente AI.
Questo articolo descrive la normativa com’è al 4 novembre 2026. Non è una consulenza legale. Per il lato del controllo qualità degli agenti AI, la pagina sul controllo qualità degli agenti AI mostra come Kaizo valuta le conversazioni degli agenti AI con la stessa scheda di valutazione del suo team.
Che cosa chiede l’AI Act agli agenti AI nel servizio clienti?
L’AI Act richiede che un agente AI che parla con i clienti sia progettato in modo che sappiano che si tratta di un’IA, salvo che sia evidente dal contesto. È l’articolo 50, paragrafo 1, ed è un obbligo del fornitore.
L’articolo 50, paragrafo 1, del regolamento (UE) 2024/1689 stabilisce che i fornitori garantiscono che i sistemi di IA destinati a interagire direttamente con le persone fisiche siano progettati in modo che queste siano informate di interagire con un sistema di IA, a meno che ciò non risulti evidente per una persona ragionevolmente informata, attenta e avveduta.
L’articolo 50, paragrafo 5, aggiunge che l’informazione deve essere chiara e distinguibile, fornita al più tardi al momento della prima interazione, e accessibile.
La FAQ della Commissione europea sull’articolo 50, aggiornata il 24 luglio 2026, aggiunge dettagli che contano per i team di assistenza:
| Punto | Che cosa dice la Commissione |
|---|---|
| Quali sistemi | Quattro condizioni insieme: un sistema di IA, un vero scambio a due vie, l’IA comunica direttamente senza una persona in mezzo, e dall’altra parte c’è una persona. Chatbot, agenti AI e avatar sono citati come esempi. |
| Che cosa resta fuori | I sistemi che lavorano solo in background o da macchina a macchina. |
| L’eccezione dell‘“evidente” | Va letta in modo restrittivo, perché priva le persone di trasparenza. |
| Tempistica | Le persone devono essere informate dall’inizio della prima interazione. |
| Forma | I fornitori scelgono la tecnica, ma un avviso solo nei termini e condizioni non basta da solo. |
| Orientamenti | Gli orientamenti della Commissione sull’articolo 50 sono stati adottati il 20 luglio 2026 (C(2026) 5054). |
| Applicazione | Principalmente le autorità nazionali di vigilanza del mercato. |
Chi è il fornitore? Di solito l’azienda che costruisce l’agente AI (in inglese), che può essere il suo fornitore di helpdesk o il suo stesso team, se lo costruisce in casa.
Se adotta l’agente AI di un fornitore, resta comunque responsabile di ciò che vedono i suoi clienti: verifichi che l’avviso sia attivo in ogni canale e in ogni lingua che gestisce, perché a un cliente non importa di chi fosse l’obbligo.
Le date chiave dell’AI Act per i team di assistenza
L’AI Act è in vigore dal 1° agosto 2024 e si applica per fasi; l’omnibus digitale sull’IA ha spostato le date per l’alto rischio, lasciando la regola sui chatbot al 2 agosto 2026.
| Data | Che cosa si applica | Rilevanza per l’assistenza |
|---|---|---|
| 1° agosto 2024 | L’AI Act entra in vigore | Nessuna diretta |
| 2 febbraio 2025 | Pratiche vietate (articolo 5) e alfabetizzazione in materia di IA (articolo 4) | Il divieto di dedurre le emozioni dei dipendenti da dati biometrici |
| 2 agosto 2025 | Regole per i modelli di IA per finalità generali, governance, sanzioni | Soprattutto per i fornitori di modelli |
| 27 luglio 2026 | L’omnibus digitale sull’IA, regolamento (UE) 2026/1744, entra in vigore | Sposta le date per l’alto rischio indicate sotto |
| 2 agosto 2026 | Data generale di applicazione, compreso l’articolo 50 | Avviso di AI per chatbot e voicebot |
| 2 dicembre 2026 | Marcatura leggibile da macchina (articolo 50, paragrafo 2) per i sistemi di IA generativa immessi sul mercato prima del 2 agosto 2026 | Soprattutto per i fornitori di IA generativa |
| 2 dicembre 2027 | Regole sull’alto rischio per i sistemi dell’allegato III, compreso il lavoro | AI usata per monitorare e valutare i lavoratori |
| 2 agosto 2028 | Regole sull’alto rischio per i sistemi dell’allegato I (IA nei prodotti regolamentati) | Raramente rilevante per l’assistenza |
Fonti: le date vengono dagli articoli 111 e 113 del regolamento (UE) 2024/1689, come modificato dal regolamento (UE) 2026/1744, verificate sulla pagina della Commissione europea sull’AI Act, aggiornata il 19 ottobre 2026. L’omnibus è stato pubblicato nella Gazzetta ufficiale il 24 luglio 2026.
Ha anche riscritto l’articolo 4: fornitori e deployer devono ora adottare misure per sostenere l’alfabetizzazione in materia di IA del proprio personale, e il testo precisa che questo non li obbliga a garantire un livello specifico.
In quale classe di rischio rientra un’AI del servizio clienti?
Un’AI di assistenza rivolta ai clienti rientra di solito nel livello della trasparenza, con l’obbligo di informare e niente di più. La classificazione dipende dalla finalità prevista del sistema, non dalla tecnologia.
L’AI Act divide i sistemi in quattro livelli. Ecco come gli usi tipici dell’assistenza si collocano, come punto di partenza per la sua valutazione:
| Livello | Che cosa significa | Esempi nell’assistenza |
|---|---|---|
| Vietato (articolo 5) | Vietato dal 2 febbraio 2025 | Dedurre le emozioni di un operatore dalla voce o dal volto sul lavoro, al di fuori di motivi medici o di sicurezza |
| Alto rischio (allegato III) | Obblighi rigorosi, dal 2 dicembre 2027 per l’allegato III | AI usata per decidere su condizioni di lavoro, promozioni o licenziamenti degli operatori, o per monitorarne e valutarne prestazioni e comportamento (punto 4, lettera b)); valutazione del merito creditizio dei clienti |
| Trasparenza (articolo 50) | Obblighi di informazione, dal 2 agosto 2026 | Un chatbot, un voicebot o un agente AI che parla con i clienti |
| Minimo | Nessuna regola specifica | Filtri antispam, smistamento dei ticket per argomento, suggerimenti ortografici |
Due dettagli cambiano il quadro.
Primo, l’articolo 6, paragrafo 3, dice che un sistema dell’allegato III non è ad alto rischio se non presenta un rischio significativo di danno, per esempio perché svolge un compito procedurale limitato o un compito preparatorio a una valutazione umana, ma un sistema che effettua la profilazione di persone è sempre ad alto rischio.
Secondo, i livelli si sommano: un sistema ad alto rischio che parla anche con le persone deve rispettare pure l’articolo 50.
La maggior parte degli agenti AI di assistenza risponde a domande e compie azioni semplici. Se il suo decide anche su rimborsi oltre una soglia, sul credito o sull’accesso a servizi essenziali, esamini quel caso d’uso rispetto all’allegato III, punto 5, con il suo legale.
E l’AI che valuta i suoi operatori?
L’AI che valuta i suoi operatori solleva due questioni: deduce emozioni da dati biometrici, cosa vietata sul lavoro, e valuta le prestazioni, un uso ad alto rischio salvo che si applichi un’eccezione?
Il divieto di riconoscimento delle emozioni. L’articolo 5, paragrafo 1, lettera f), vieta l’uso di sistemi di IA per dedurre le emozioni di una persona sul luogo di lavoro, salvo per motivi medici o di sicurezza, e si applica dal 2 febbraio 2025.
Il regolamento definisce all’articolo 3, punto 39, un sistema di riconoscimento delle emozioni come un sistema che deduce emozioni o intenzioni sulla base di dati biometrici, come la voce o il volto. Il considerando 18 aggiunge che rilevare soltanto una voce alterata non è riconoscimento delle emozioni, a meno che non serva a dedurre emozioni.
Gli orientamenti della Commissione sulle pratiche di IA vietate, pubblicati il 4 febbraio 2025 e non vincolanti, usano un call center come esempio.
Come riassume lo studio legale Lewis Silkin (in inglese), monitorare le emozioni dei dipendenti con il riconoscimento vocale per controllare come il personale del call center gestisce i clienti è indicato come vietato, mentre dedurre le emozioni da un testo scritto non si basa su dati biometrici e resta fuori dal divieto.
Che cosa significa in pratica:
| Uso | Stato ai sensi dell’AI Act |
|---|---|
| Dedurre la rabbia o lo stress di un operatore dalla sua voce nelle chiamate | Vietato sul lavoro, salvo per motivi medici o di sicurezza |
| Sentiment del cliente, letto dal testo di una chat o di un’email | Non è riconoscimento delle emozioni (nessun dato biometrico) |
| Emozioni del cliente, dedotte dalla sua voce | Non rientra nel divieto sul luogo di lavoro, ma è un sistema di riconoscimento delle emozioni: elencato come ad alto rischio nell’allegato III, punto 1, lettera c), e l’articolo 50, paragrafo 3, richiede di informare le persone che vi sono esposte |
| Verificare se l’operatore ha seguito la procedura o ha risposto correttamente | Non è riconoscimento delle emozioni |
La questione dell’alto rischio. L’allegato III, punto 4, lettera b), elenca i sistemi di IA destinati a monitorare e valutare le prestazioni e il comportamento delle persone nell’ambito di rapporti di lavoro.
Uno strumento di QA che valuta gli operatori può rientrare in questa descrizione, salvo che si applichi un’eccezione dell’articolo 6, paragrafo 3, per esempio quando l’AI prepara una valutazione che fa una persona.
Questi obblighi si applicano dal 2 dicembre 2027. I deployer che sono datori di lavoro dovranno allora informare i rappresentanti dei lavoratori e i lavoratori interessati prima di mettere in uso un sistema di IA ad alto rischio sul luogo di lavoro (articolo 26, paragrafo 7).
Come viene classificato un certo strumento di QA dipende dalla sua finalità prevista e da come lo usa. Chieda al suo fornitore la sua valutazione e coinvolga presto le rappresentanze dei lavoratori: in diversi paesi dell’UE gli strumenti di monitoraggio richiedono comunque il loro accordo.
Per capire come funziona in pratica la valutazione con revisione umana, veda la nostra guida su how to validate AI QA scoring (in inglese).
Come può il controllo qualità dimostrare che il suo agente AI è conforme?
Il QA dimostra la conformità valutando ogni conversazione dell’agente AI su ciò che chiedono legge e policy, come l’avviso di AI e una strada verso una persona, con ogni punteggio legato alle prove.
L’articolo 50 fissa una regola per la progettazione del sistema. Se funzioni davvero in produzione, in ogni canale, lingua e flusso, lo sa solo controllando le conversazioni. Aggiunga questi criteri alla sua scheda di valutazione per agenti AI:
| Criterio | Che cosa verifica | Tipo |
|---|---|---|
| Avviso di AI | Il cliente è stato informato all’inizio di avere a che fare con un’AI, nella lingua della conversazione | Errore bloccante |
| Avviso al ritorno al bot | Se una persona restituisce la conversazione al bot, il cliente lo sa | Ponderato |
| Strada verso una persona | Quando il cliente ha chiesto una persona, l’ha ottenuta o ha avuto un modo chiaro per raggiungerla | Errore bloccante |
| Contesto del passaggio | La persona che è subentrata aveva lo storico della conversazione (come valutare il passaggio all’operatore) | Ponderato |
| Nessun impegno inventato | Nessun rimborso, annullamento di commissioni o policy che l’azienda non offre | Errore bloccante |
| Basato sui suoi contenuti | Le informazioni vengono dalla sua knowledge base | Ponderato |
La strada verso una persona non è un obbligo dell’AI Act per ogni chatbot, ma è da lì che partono i reclami dei clienti sugli agenti AI, e la nostra guida sugli errori silenziosi degli agenti AI mostra che cosa va storto quando il bot non passa mai a una persona.
Per il metodo completo, veda come fare il controllo qualità degli agenti AI.
Lo veda in una demo dal vivo. Kaizo valuta il 100% delle conversazioni dei suoi agenti AI con la sua scheda di valutazione e collega ogni punteggio alle evidenze nella conversazione. Prenoti un incontro.
Quali sono le sanzioni previste dall’AI Act?
La violazione degli obblighi di trasparenza dell’articolo 50 può comportare sanzioni fino a 15 milioni di EUR o al 3% del fatturato mondiale annuo totale, se superiore, in base all’articolo 99, paragrafo 4, dell’AI Act. Le pratiche vietate hanno il tetto più alto, fino a 35 milioni di EUR o al 7% in base all’articolo 99, paragrafo 3.
Lo stesso tetto si applica agli obblighi dei deployer di sistemi ad alto rischio previsti dall’articolo 26.
Per le PMI, comprese le start-up, l’articolo 99, paragrafo 6, limita ogni sanzione al minore dei due importi. È l’autorità nazionale a fissare la sanzione effettiva, e la FAQ della Commissione ricorda che per le PMI e le piccole imprese a media capitalizzazione si tiene conto della proporzionalità.
Come preparare il suo team di assistenza all’AI Act
Si prepari in cinque passi: elenchi i suoi sistemi di IA, classifichi ciascuno per uso, verifichi l’avviso di AI in ogni canale, stabilisca come funziona la valutazione degli operatori con l’AI e valuti ogni conversazione dell’agente AI sull’avviso.
- Elenchi ogni sistema di IA nell’assistenza. Chatbot, voicebot, agenti AI, agent assist (in inglese), valutazione QA, sentiment, smistamento. Annoti chi fornisce ciascuno e a che cosa serve.
- Classifichi ciascuno per finalità prevista. Usi la tabella dei rischi qui sopra come primo passaggio, poi confermi con il suo legale. Segni tutto ciò che valuta i dipendenti o decide sull’accesso dei clienti ai servizi.
- Verifichi l’avviso in ogni canale e in ogni lingua. Apra una conversazione con ogni bot come farebbe un cliente, in chat, email, voce e ogni lingua, e controlli il primo messaggio.
- Stabilisca come l’AI valuta i suoi operatori. Verifichi che nessuno strumento deduca le emozioni degli operatori da voce o video, decida dove una persona rivede i punteggi dell’AI e informi le rappresentanze dei lavoratori.
- Valuti ogni conversazione dell’agente AI sull’avviso. Un controllo una tantum prova il progetto; valutare tutte le conversazioni mostra che ha retto dopo la modifica successiva del flusso. È ciò per cui è costruito il controllo qualità per agenti AI di Kaizo.
Quale normativa si applica? Il regolamento (UE) 2024/1689 (l’AI Act), come modificato dal regolamento (UE) 2026/1744 (l’omnibus digitale sull’IA), verificato su EUR-Lex e sulle pagine della Commissione europea dedicate all’AI Act il 4 novembre 2026.
Gli orientamenti e i codici di buone pratiche della Commissione non sono vincolanti e possono ancora cambiare, e le autorità nazionali possono pubblicare indicazioni proprie, quindi verifichi prima di agire su un caso specifico.
Domande frequenti
Un chatbot del servizio clienti deve dichiarare di essere un’AI?
Sì, nell’UE, dal 2 agosto 2026. L’articolo 50, paragrafo 1, dell’AI Act richiede che le persone siano informate di interagire con un sistema di IA, al più tardi al momento della prima interazione, salvo che sia evidente. La Commissione legge l’eccezione dell‘“evidente” in modo restrittivo, quindi un avviso chiaro all’inizio della conversazione è la scelta sicura.
Un chatbot del servizio clienti è un sistema di IA ad alto rischio?
Di solito no. Un chatbot che risponde a domande di assistenza rientra nelle regole di trasparenza dell’articolo 50. Può diventare ad alto rischio se viene usato per una finalità elencata nell’allegato III, per esempio valutare il merito creditizio o decidere sull’accesso a servizi essenziali. La classificazione dipende dalla finalità prevista, quindi verifichi ogni caso d’uso.
L’omnibus digitale ha rinviato le regole dell’AI Act sui chatbot?
No. L’omnibus digitale sull’IA, regolamento (UE) 2026/1744, ha spostato le date per l’alto rischio al 2 dicembre 2027 e al 2 agosto 2028. L’articolo 50 resta al 2 agosto 2026. L’omnibus ha solo dato ai fornitori di sistemi di IA generativa già sul mercato tempo fino al 2 dicembre 2026 per la marcatura leggibile da macchina (articolo 50, paragrafo 2).
L’AI Act si applica alle aziende fuori dall’UE?
Sì, in molti casi. In base all’articolo 2, si applica ai fornitori che immettono sistemi di IA sul mercato dell’UE, ovunque si trovino, e ai fornitori e deployer fuori dall’UE quando l’output del sistema è utilizzato nell’UE. Un’azienda statunitense il cui agente AI serve clienti nell’UE dovrebbe dare per scontato che l’obbligo di informare si applichi.
L’analisi del sentiment delle conversazioni di assistenza è consentita dall’AI Act?
Il sentiment del testo di chat ed email non è riconoscimento delle emozioni: mancano dati biometrici (veda punteggio del sentiment). Dedurre le emozioni di un dipendente da voce o volto sul lavoro è vietato, salvo motivi medici o di sicurezza. Dedurle dalla voce di un cliente è ad alto rischio (allegato III) con obbligo di informarlo (articolo 50, paragrafo 3).
