La governance degli agenti AI nel servizio clienti è l’insieme di responsabili, regole e verifiche che decide che cosa un agente AI può dire e fare con i suoi clienti, come vengono riviste le sue conversazioni e che cosa succede quando sbaglia. Fatta bene, non è un freno. Produce le prove che servono per dare all’agente più autonomia, un passo alla volta.
In breve
- La maggior parte delle guide tratta IT e sicurezza. Il servizio clienti ha bisogno anche di governare che cosa promette l’agente, quali policy applica e quando passa la conversazione a un operatore.
- Ogni agente AI ha bisogno di un unico responsabile, e ogni policy che applica ha bisogno di un responsabile e di una data di revisione.
- Divida le azioni dell’agente in livelli: solo rispondere, agire da solo, agire entro un limite, agire con approvazione, mai.
- Supervisione significa valutare le conversazioni stesse e verificare che le persone che approvano le azioni dell’agente non approvino tutto in automatico.
- I 15 controlli qui sotto, ciascuno con la sua prova, formano un modello operativo da copiare e i criteri per estendere l’autonomia.
Che cos’è la governance degli agenti AI nel servizio clienti?
Governance degli agenti AI nel servizio clienti significa decidere chi è responsabile di ogni agente AI, entro quali policy e limiti lavora, quali azioni richiedono una persona, come vengono riviste le sue conversazioni e come si gestiscono gli incidenti. La governance IT si chiede se l’agente può accedere a un sistema. La governance del servizio clienti si chiede se ciò che ha fatto per il cliente era giusto.
La maggior parte delle pagine su questo tema è scritta per i team IT e sicurezza. Quel lavoro è necessario ma non sufficiente: un agente con permessi definiti alla perfezione può comunque comunicare a 300 clienti la finestra di reso sbagliata.
| Domanda | Governance IT e sicurezza | Governance del servizio clienti |
|---|---|---|
| Che cosa controlla? | L’accesso: identità, permessi, strumenti, dati | Il comportamento: risposte, promesse, azioni, passaggi a un operatore |
| Errore tipico | L’agente accede a un sistema a cui non dovrebbe accedere | L’agente applica una policy superata, promette un rimborso che non può dare o tiene un caso che dovrebbe passare a un operatore |
| Dove stanno le prove | Log di accesso, tracce delle chiamate agli strumenti | Nelle conversazioni stesse |
Il termine è nuovo per lei? Parta da che cos’è l’IA agentica (in inglese) e dalla nostra guida sull’assistenza clienti agentica.
Che cosa deve includere un framework di governance degli agenti AI?
Un framework di governance degli agenti AI per il servizio clienti dovrebbe includere un registro degli agenti, responsabili nominativi, la responsabilità delle policy e il controllo delle modifiche, livelli di azione con punti di approvazione, test prima del rilascio, revisione delle conversazioni, regole di escalation, trasparenza sull’uso dell’AI, una procedura per gli incidenti e una revisione periodica dell’autonomia. Ogni controllo richiede prove che potrebbe mostrare a un auditor.
Copi la tabella, assegni un responsabile a ogni riga, e le lacune della sua configurazione attuale emergeranno in fretta.
| # | Controllo | Responsabile | Prova richiesta | Cadenza |
|---|---|---|---|---|
| 1 | Registro degli agenti: ogni agente AI con i suoi intenti, canali, lingue, versione e piattaforma | Responsabile dell’agente AI | Voce di registro con la data dell’ultima revisione | A ogni modifica; revisione trimestrale |
| 2 | Un unico responsabile per agente, e un responsabile per intento | Head of CX | Matrice delle responsabilità firmata (sotto) | Ogni trimestre |
| 3 | Fonte unica delle policy: ogni policy che l’agente applica ha un responsabile e una data di revisione | Responsabili delle policy | Elenco delle policy con responsabile, versione, data di revisione | Ogni mese |
| 4 | Attivazione al cambio di policy: i contenuti dell’agente vengono aggiornati e testati prima che una modifica di policy entri in vigore | Responsabile della policy, responsabile dell’agente AI | Registro della modifica con un esito del test datato prima dell’entrata in vigore | A ogni modifica |
| 5 | Livelli di azione: che cosa può fare l’agente, a quale livello, con quali soglie | Head of CX | Matrice delle azioni e configurazione della piattaforma che la applica | Ogni trimestre, prima di nuove azioni |
| 6 | Punti di approvazione per le azioni che richiedono una persona | Team leader | Registro delle approvazioni: chi, quando, che cosa, approvato o modificato | In continuo |
| 7 | Supervisione di chi approva: tasso di modifica e tempo di revisione | Responsabile QA | Report con i valori anomali | Ogni mese |
| 8 | Test prima del rilascio per intento, compresi i casi limite delle policy e i tentativi di spingere l’agente fuori dalle policy | Responsabile dell’agente AI | Set di test e risultati per versione, con soglia di superamento | A ogni rilascio |
| 9 | Rilascio graduale e rollback | Responsabile dell’agente AI | Registro del rilascio con quota di traffico e piano di rollback | A ogni rilascio |
| 10 | Revisione delle conversazioni con una scheda di valutazione: accuratezza, policy, escalation, trasparenza, tono | Responsabile QA | Conversazioni valutate, ogni punteggio collegato alle righe che lo giustificano | In continuo |
| 11 | Regole di escalation: quando l’agente passa la conversazione a un operatore e quale contesto trasmette | Head of CX | Segnali di escalation scritti, punteggi sulla qualità dei passaggi | Ogni trimestre |
| 12 | Trasparenza sull’uso dell’AI alla prima interazione, in ogni canale e lingua | Ufficio legale o compliance | Testo informativo per canale e lingua, verifica valutata della trasparenza | A ogni rilascio |
| 13 | Limiti di accesso e di dati: identità propria, privilegi minimi, trattamento dei dati personali | IT e sicurezza | Revisione degli accessi, registri dei trattamenti | Ogni trimestre |
| 14 | Procedura per gli incidenti: livelli di gravità, chi può mettere in pausa l’agente, come si individuano e si risarciscono i clienti coinvolti | Head of CX | Registro degli incidenti, elenco dei clienti coinvolti, analisi post incidente | A ogni incidente |
| 15 | Revisione dell’autonomia: estendere o restringere il perimetro per intento, in base alle prove precedenti | Head of CX, responsabile dell’agente AI | Verbale della decisione con le metriche usate | Ogni mese |
I controlli 1, 8, 9 e 13 sono vicini al lavoro sulla piattaforma e sull’IT che accompagna qualsiasi rollout. I controlli 3, 4, 7, 10 e 15 spettano al team di assistenza, e sono loro a decidere se gli errori dell’agente restano piccoli.
Chi è responsabile di un agente AI nel servizio clienti?
Di ogni agente AI nel servizio clienti è responsabile una sola persona: di solito un responsabile dell’agente AI che riporta all’Head of CX, che risponde dei suoi risultati. I responsabili delle policy tengono aggiornati i contenuti, il responsabile QA rivede le conversazioni, l’IT protegge gli accessi e l’ufficio legale verifica la trasparenza. Una responsabilità condivisa senza un nome è la lacuna più comune.
Il quadro di Singapore per l’IA agentica è diretto su questo punto: in quanto deployer, le organizzazioni e le persone restano responsabili delle decisioni e delle azioni degli agenti (IMDA, Model AI Governance Framework for Agentic AI, in inglese, versione 1.5, sezione 2.2.1). Il fornitore costruisce l’agente. La sua azienda è responsabile di ciò che l’agente dice ai suoi clienti.
È un ruolo con un carico di lavoro reale. Un team che ha passato due mesi a valutare piattaforme enterprise per agenti AI ha concluso su Reddit che servirebbe all’incirca una persona a tempo pieno per gestirne una (discussione, in inglese). Lo metta in conto prima del lancio.
Una matrice RACI da copiare (R = esegue il lavoro, A = ne risponde, C = consultato, I = informato):
| Attività | Head of CX | Responsabile dell’agente AI | Responsabili delle policy | Responsabile QA | IT e sicurezza | Ufficio legale o compliance |
|---|---|---|---|---|---|---|
| Decidere quali intenti gestisce l’agente | A | R | C | C | I | C |
| Fissare i livelli di azione, approvare i rilasci, gestire gli incidenti, estendere o restringere l’autonomia | A | R | C | C | C | C |
| Tenere aggiornati policy e contenuti di aiuto | I | C | A, R | I | C | |
| Rivedere le conversazioni e riferire sulla qualità | I | C | I | A, R | I | |
| Concedere e rivedere gli accessi ai sistemi | I | C | A, R | |||
| Verificare la trasparenza e gli obblighi normativi | I | C | C | A, R |
Quali policy deve seguire un agente AI, e chi le tiene aggiornate?
Un agente AI deve seguire le stesse policy verso i clienti del suo team (rimborsi, resi, requisiti, compensazioni), più le regole di condotta (trasparenza, tono, clienti vulnerabili) e le regole di escalation. Ogni policy ha bisogno di un responsabile nominativo e di una data di revisione, e ogni modifica deve arrivare nei contenuti dell’agente prima di entrare in vigore.
Qui l’errore raramente è un’allucinazione clamorosa. È un agente che applica alla perfezione la policy del mese scorso, in ogni conversazione su quel tema, finché qualcuno non cambia i contenuti. Per questo la nostra guida sulle allucinazioni degli agenti AI confronta le risposte con la policy stessa e controlla per primi i temi legati al denaro.
Tre regole tengono aggiornate le policy: l’agente risponde dalle stesse pagine di policy che usa il suo team, non da una copia incollata in un prompt; ogni ticket di modifica di una policy include “aggiornare e testare l’agente AI” prima della data di entrata in vigore; e ogni mese il responsabile QA elenca le policy con la data di revisione scaduta, perché i responsabili le confermino o le aggiornino.
Quali azioni può compiere da solo un agente AI, e quali richiedono approvazione?
Un agente AI può agire da solo su azioni di basso valore e reversibili, entro limiti scritti, come inviare di nuovo una fattura o emettere un rimborso sotto un certo importo. Le azioni ad alto impatto, irreversibili o insolite richiedono prima l’approvazione di una persona. Alcune azioni non le compie mai. Metta per iscritto i livelli, con le soglie, prima che l’agente vada in produzione.
Il quadro dell’IMDA indica quattro tipi di punto di controllo che dovrebbero richiedere l’approvazione di una persona (sezione 2.2.2): azioni ad alto impatto, azioni irreversibili (tra gli esempi cita l’invio di comunicazioni e i pagamenti), comportamenti anomali e limiti fissati dall’utente. Tradotti nel servizio clienti:
| Livello | Che cosa può fare l’agente | Esempi nel servizio clienti | Controllo |
|---|---|---|---|
| 0. Informare | Rispondere solo con contenuti approvati | Orari di apertura, stato dell’ordine, domande su come fare | Revisione delle conversazioni |
| 1. Agire da solo | Azioni reversibili senza denaro coinvolto | Inviare di nuovo una fattura, aggiornare una nota di consegna, fissare una richiamata | Registrato e rivisto |
| 2. Agire entro un limite | Azioni con denaro o impegni sotto una soglia | Rimborso o credito sotto il suo limite, rinunciare una volta a una commissione | Soglia applicata dalla piattaforma, tutti i casi rivisti |
| 3. Agire con approvazione | Azioni sopra il limite, eccezioni e decisioni di giudizio | Rimborso sopra il limite, gesto commerciale fuori policy, chiusura dell’account | Una persona approva prima dell’azione |
| 4. Mai | Fuori dal perimetro dell’agente | Minacce legali, reclami alle autorità, segnali di vulnerabilità, modifiche delle coordinate bancarie | Passaggio immediato a una persona |
Due dettagli fanno reggere i livelli. È la configurazione della piattaforma ad applicare il limite, non solo il prompt. E anche le approvazioni hanno bisogno di governance. L’IMDA suggerisce di misurare il tasso con cui le persone modificano le decisioni dell’agente, perché un tasso basso può segnalare approvazioni date in automatico, e il tempo di revisione, perché un tempo più breve può segnalare un eccesso di fiducia nell’automazione o la stanchezza da revisione (sezione 2.2.2). Chi approva il 100% delle richieste in quattro secondi ciascuna non è un controllo.
Se più agenti lavorano sullo stesso caso, i livelli devono essere coerenti tra loro. L’esempio dell’IMDA è un agente di assistenza che offre rimborsi per chiudere in fretta i reclami mentre un agente di protezione dei ricavi blocca i rimborsi sopra una soglia (sezione 1.2.3). La nostra guida sull’orchestrazione degli agenti AI spiega come progettare questi passaggi.
Come si rivedono le conversazioni di un agente AI?
Le conversazioni di un agente AI si rivedono valutandole con una scheda di valutazione scritta (accuratezza, policy, escalation, trasparenza, tono) e collegando ogni punteggio alle righe che lo giustificano. Le valuti tutte, o almeno ogni conversazione dal livello 2 in su, perché gli errori di un agente AI si ripetono e un piccolo campione li trova tardi.
La supervisione ha tre livelli, ognuno con la sua guida in questa serie:
| Livello | Domanda a cui risponde | Quando | Approfondimento |
|---|---|---|---|
| Test | La nuova versione si comporta bene prima che la vedano i clienti? | Prima di ogni rilascio | Test degli agenti AI, test dei chatbot |
| Monitoraggio | Qualcosa si sta rompendo in questo momento? | In tempo reale, con allerte | Monitoraggio degli agenti AI |
| Valutazione e QA | Ogni conversazione era giusta, e dove si rompe la qualità? | Dopo ogni conversazione | Valutazione degli agenti AI |
Il tasso di risoluzione non è un punteggio qualità: una conversazione conta come risolta quando il cliente non è arrivato a una persona, il che non dice nulla sulla correttezza della risposta. Il nostro elenco degli errori silenziosi degli agenti AI mostra sei modi in cui gli errori di un agente vengono contati come successi.
Usi un’unica scheda di valutazione per operatori e agenti AI dove i criteri valgono per entrambi, più verifiche solo per l’AI come fatti e policy inventati. E dimensioni il campione con onestà: un campione QA del 3% (in inglese) non regge decisioni su un singolo agente.
Quali prove di audit conservare per un agente AI?
Conservi prove che mostrino, per qualsiasi data, quale versione dell’agente era in funzione, quali policy applicava, che cosa poteva fare, chi ha approvato le sue azioni, come sono state valutate le sue conversazioni e come sono stati gestiti gli incidenti. È la colonna delle prove dei 15 controlli, archiviata dove un auditor possa trovarla.
La più difficile da ricostruire a posteriori è la cronologia delle versioni collegata alle versioni delle policy (“quale finestra di reso applicava l’agente il 3 marzo?”) e le conversazioni valutate con le righe della trascrizione allegate. Per le domande che IT e ufficio acquisti fanno sugli strumenti stessi, veda la nostra checklist di sicurezza per il QA con AI.
Come si gestisce un incidente di un agente AI?
Un incidente di un agente AI si gestisce in cinque passi: contenerlo (passare il tema coinvolto alle persone o tornare alla versione precedente), trovare ogni conversazione coinvolta, rimediare con quei clienti, correggere la causa e ritestare, poi valutare le conversazioni successive per confermare che la correzione regge. Decida in anticipo chi può mettere in pausa l’agente.
Un esempio concreto mostra perché il secondo passo richiede la copertura completa. I numeri sono un’illustrazione, non dati di un’azienda reale.
- Un agente AI gestisce 40.000 conversazioni al mese. I resi sono il 12%, quindi circa 4.800 al mese, ovvero 160 al giorno.
- Il giorno 1 la finestra di reso scende da 30 a 14 giorni. I contenuti dell’agente vengono aggiornati il giorno 10, quindi per 9 giorni applica la finestra vecchia.
- In quei 9 giorni gestisce circa 1.440 conversazioni sui resi. Se il 20% riguarda articoli acquistati da 15 a 30 giorni prima, a circa 288 clienti viene detto che possono ancora restituire.
- Un campione casuale del 2% rivede circa 800 conversazioni al mese, ovvero 240 in quei 9 giorni. Circa 29 sono conversazioni sui resi, e circa 6 contengono l’errore.
Il campione può individuare il problema. Non può dirle chi sono gli altri 282 clienti; per questo deve cercare o valutare ogni conversazione su quel tema. Mantenere le promesse fatte, con un valore medio dell’ordine di 60 euro, costa circa 17.280 euro, più i contatti che ne derivano.
Fissi in anticipo i livelli di gravità. Un impegno economico o legale sbagliato ripetuto su più clienti, o dati personali divulgati, significano sospendere il tema entro un’ora e avvisare l’ufficio legale; una risposta di policy sbagliata senza impegno economico significa passare il tema alle persone e correggerlo entro pochi giorni; i problemi di tono aspettano il rilascio successivo.
Che cosa chiedono l’AI Act e il quadro di Singapore agli agenti AI nel servizio clienti?
L’AI Act richiede che i clienti siano informati che stanno interagendo con un sistema di IA, al più tardi al momento della prima interazione, salvo che sia evidente; questo obbligo si applica dal 2 agosto 2026. Il Model AI Governance Framework for Agentic AI di Singapore è una linea guida, non una legge, e copre la delimitazione dei rischi, la responsabilità umana, i controlli tecnici e la trasparenza verso l’utente finale.
AI Act. L’articolo 50, paragrafo 1, del regolamento (UE) 2024/1689 attribuisce questo obbligo ai fornitori di sistemi di IA che interagiscono direttamente con le persone. Le FAQ della Commissione europea sull’articolo 50 (in inglese, aggiornate il 24 luglio 2026) confermano che si applica dal 2 agosto 2026, che l’informazione è dovuta dall’inizio della prima interazione e che l’eccezione “evidente” va letta in modo restrittivo. L’AI che monitora e valuta i dipendenti può essere ad alto rischio ai sensi dell’allegato III, con obblighi dal 2 dicembre 2027 come modificato nel 2026 (pagina della Commissione sull’AI Act, in inglese). La nostra guida sull’AI Act nel servizio clienti entra nei dettagli.
Singapore. Il quadro dell’IMDA (versione 1.5, aggiornata il 5 giugno 2026) è scritto per le organizzazioni che costruiscono agenti AI o li acquistano. Per gli agenti a contatto con i clienti chiede trasparenza, compreso dire agli utenti che cosa può fare l’agente e quali persone possono avvisare se non funziona correttamente (sezione 2.4.2). La nostra guida al quadro di governance di Singapore per l’IA agentica lo spiega per i team di assistenza.
NIST. Negli Stati Uniti il NIST AI Risk Management Framework (in inglese, versione 1.0, 26 gennaio 2023) è pensato per un uso volontario e organizza il lavoro in quattro funzioni: Govern, Map, Measure e Manage.
I 15 controlli coprono tutti e tre. Questa sezione riassume testi pubblici e non è una consulenza legale; verifichi i suoi obblighi con i suoi legali.
Come permette la governance di estendere l’autonomia degli agenti AI un passo alla volta?
La governance permette di estendere l’autonomia trasformando ogni passo in una decisione basata su prove: un intento sale di livello quando le sue conversazioni valutate, i risultati dei test e lo storico degli incidenti raggiungono soglie fissate in anticipo, e scende quando non le raggiungono. Senza queste prove, l’autonomia cresce per ottimismo oppure non cresce affatto.
L’IMDA raccomanda di introdurre gli agenti gradualmente, per utenti, per strumenti e protocolli che l’agente può usare e per sistemi a cui è esposto (sezione 2.3.3). Nel servizio clienti l’unità naturale è l’intento: estenda un intento alla volta, non l’intero agente.
Criteri di esempio per far salire un intento di un livello. Sono punti di partenza illustrativi, non standard di settore; fissi i suoi:
| Criterio | Soglia di esempio |
|---|---|
| Volume valutato | Almeno 300 conversazioni su questo intento negli ultimi 30 giorni |
| Criteri critici (accuratezza, policy) | 98% o più superati |
| Errori critici | Nessuno negli ultimi 30 giorni |
| Escalation corretta | 95% o più dei casi da passare a un operatore effettivamente passati |
| Test | Le azioni del nuovo livello superano il set di test prima del rilascio |
| Approvazione dei responsabili | Head of CX e responsabile dell’agente AI, verbalizzata nella revisione dell’autonomia |
Le regole per scendere di livello contano altrettanto. Una regola sensata: un solo schema di errore critico (per esempio la stessa causa tre volte in una settimana) riporta l’intento al livello precedente finché la correzione non è testata e le conversazioni successive non risultano pulite. Prima un perimetro stretto, poi uno più ampio sulla base delle prove.
Di quali strumenti di governance degli agenti AI ha bisogno?
Le servono strumenti per cinque compiti: i controlli della piattaforma dell’agente (limiti, rilasci, rollback), la sicurezza delle identità e degli accessi, un registro di governance o dei rischi, il monitoraggio e la valutazione del comportamento dell’agente e la revisione della qualità delle conversazioni stesse. Nessuno strumento copre da solo tutti i 15 controlli, quindi associ ogni controllo allo strumento che ne produce la prova.
| Tipo di strumento | Controlli che di solito copre | Che cosa lascia scoperto |
|---|---|---|
| Piattaforma per agenti AI | 5, 6, 8, 9: limiti, approvazioni, rilascio graduale, rollback | Che cosa ha detto l’agente ai clienti |
| Identità e sicurezza | 13: identità, privilegi minimi, revisione degli accessi | Se la risposta era giusta |
| Registri di governance e dei rischi | 1, 2, 12: inventario, rischi, normativa | La qualità di tutti i giorni |
| Observability e valutazione | 8: tracce, allerte, set di test | La valutazione con la sua scheda di valutazione dell’assistenza |
| Controllo qualità delle conversazioni | 10, 11, 12: scheda di valutazione, escalation, trasparenza | Accessi, meccanica dei rilasci |
Sierra, per esempio, descrive la revisione tra pari prima del rilascio, un ruolo di revisore e rilasci su una parte del traffico nel suo articolo sulla governance dei rilasci (in inglese). Controlli come questi richiedono comunque la revisione delle conversazioni reali una volta che una modifica raggiunge tutti.
Il ruolo di Kaizo
Kaizo è un software di controllo qualità per il servizio clienti che valuta ogni conversazione, del suo team e dei suoi agenti AI. Copre la revisione delle conversazioni (controllo 10) e le prove valutate su escalation e trasparenza (11 e 12): AutoPilot valuta ogni conversazione risolta con la sua scheda di valutazione e collega ogni punteggio alle prove. Veda il controllo qualità degli agenti AI, oppure prenoti una demo per vederlo sulle sue conversazioni.
Quando questo modello è più di quanto le serve
Se il suo agente AI risponde solo a partire dal suo centro assistenza, non compie azioni e gestisce qualche centinaio di conversazioni al mese, bastano cinque controlli: un responsabile, una data di revisione delle policy, la trasparenza, una regola per il passaggio a un operatore e una lettura regolare delle sue conversazioni. Aggiunga gli altri quando inizia a compiere azioni, a gestire denaro o a lavorare su volumi che nessuno riesce a leggere.
Come iniziare questa settimana
Può iniziare questa settimana senza un nuovo strumento né un comitato. Cinque passi mettono le basi per l’agente che già usa e mostrano quali controlli mancano.
- Nomini il responsabile. Una persona per agente AI, messa per iscritto, con l’Head of CX che ne risponde.
- Compili il registro. Elenchi ogni agente, gli intenti e i canali che gestisce e la sua versione attuale.
- Scriva i livelli di azione. Assegni ogni azione che l’agente può compiere a un livello, con le soglie, e verifichi che la piattaforma li applichi.
- Elenchi le policy che applica con un responsabile e una data di revisione, e aggiunga “aggiornare l’agente AI” al suo processo di modifica delle policy.
- Valuti le conversazioni della settimana scorsa su un intento ad alto volume con la sua scheda di valutazione, e veda che cosa avrebbe perso un campione.
Domande frequenti
Qual è la differenza tra governance dell’IA agentica e governance dell’IA tradizionale?
La governance dell’IA tradizionale si concentra su ciò che un modello produce: accuratezza, bias e trasparenza di previsioni o testi. La governance dell’IA agentica aggiunge ciò che il sistema fa: le azioni che compie, gli strumenti che usa e chi le approva. Nel servizio clienti significa governare rimborsi, modifiche all’account e passaggi a un operatore, non solo le risposte.
Quali sono i pilastri della governance dell’IA?
Non esiste un elenco ufficiale unico. Il framework del NIST organizza il lavoro in Govern, Map, Measure e Manage. Per un team di assistenza, i pilastri pratici sono responsabilità, controllo delle policy, limiti delle azioni, revisione delle conversazioni e gestione degli incidenti.
La governance degli agenti AI è obbligatoria per legge?
In parte sì. Nell’Unione europea, l’articolo 50 dell’AI Act richiede la trasparenza sull’uso dell’AI dal 2 agosto 2026, e la normativa sulla protezione dei dati continua ad applicarsi. Il quadro di Singapore è una linea guida non vincolante e quello del NIST è pensato per un uso volontario; nessuno dei due prevede sanzioni.
Chi è responsabile quando un agente AI dà a un cliente un’informazione sbagliata?
Lavori come se lo fosse la sua azienda. Il quadro di Singapore afferma che le organizzazioni che usano gli agenti e le persone restano responsabili delle decisioni e delle azioni degli agenti. Qualunque cosa dica il contratto con il fornitore, il cliente vede il suo marchio, quindi la procedura per gli incidenti e il rimedio verso i clienti spettano a lei.
Quanta revisione umana richiede un agente AI?
La revisione umana dovrebbe seguire il rischio, non una percentuale fissa. Valuti tutte le conversazioni in automatico, mandi le azioni di livello 3 a una persona prima che avvengano e faccia rivedere alle persone gli errori, i punteggi contestati e un campione settimanale di calibrazione. Poi verifichi che chi approva le azioni ne modifichi davvero qualcuna.
