Singapore: framework di governance per l'IA agentica

Il Model AI Governance Framework for Agentic AI è una guida dell’Infocomm Media Development Authority (IMDA) di Singapore per adottare gli agenti AI in modo responsabile. Chiede alle organizzazioni di valutare e circoscrivere i rischi fin dall’inizio, rendere le persone responsabili in modo concreto, adottare controlli tecnici e processi e mettere gli utenti finali in condizione di assumersi la propria parte di responsabilità. Per l’assistenza clienti significa permessi circoscritti, punti di approvazione, test, monitoraggio e trasparenza verso i clienti.

In breve

• L’IMDA ha lanciato il framework il 22 gennaio 2026; il testo attuale è la versione 1.5, pubblicata il 20 maggio 2026 e aggiornata il 5 giugno 2026.
• È una guida, non una legge: descrive “best practice emergenti”, si definisce un documento vivo e non prevede sanzioni.
• Cita gli agenti del servizio clienti tra gli agenti che interagiscono con gli utenti e chiede di dichiarare l’uso dell’AI nell’interfaccia, nel momento dell’interazione.
• La tabella di corrispondenza qui sotto trasforma ogni sezione in un passo per un agente AI di assistenza e nelle prove da conservare.
• Se serve clienti nell’UE, l’AI Act (il regolamento europeo sull’IA) è il livello vincolante che si aggiunge; i due si sovrappongono soprattutto sulla trasparenza.

Questa spiegazione è scritta a partire dalla fonte primaria e non è una consulenza legale. Fa parte della nostra guida alla governance degli agenti AI.

Che cos’è il Model AI Governance Framework for Agentic AI?

Il Model AI Governance Framework for Agentic AI è un documento dell’IMDA di 53 pagine che offre alle organizzazioni “una panoramica strutturata dei rischi dell’IA agentica e delle best practice emergenti per gestirli”. È scritto per le organizzazioni che adottano agenti AI, sia che li costruiscano internamente sia che usino soluzioni agentiche di terzi.

La parte 1 spiega che cos’è un agente e che cosa può andare storto. La parte 2 è il framework vero e proprio, in quattro dimensioni:

1. 2.1 Valutare e circoscrivere i rischi fin dall’inizio: casi d’uso adatti (2.1.1); limiti, identità e permessi dell’agente (2.1.2).
2. 2.2 Rendere le persone responsabili in modo concreto: responsabilità dentro e fuori l’organizzazione (2.2.1); supervisione umana effettiva (2.2.2).
3. 2.3 Adottare controlli tecnici e processi: controlli in fase di progettazione (2.3.1), test prima della messa in produzione (2.3.2), rilascio graduale, monitoraggio e gestione delle modifiche dopo (2.3.3).
4. 2.4 Mettere in condizione gli utenti finali: trasparenza verso gli utenti che interagiscono con gli agenti (2.4.2); formazione per gli utenti che lavorano con loro (2.4.3).

Il framework di Singapore sull’IA agentica è obbligatorio?

No. Il framework si presenta come una guida: offre “best practice emergenti”, la maggior parte delle raccomandazioni è formulata come “le organizzazioni dovrebbero considerare” e si definisce “un documento vivo”. Il comunicato di lancio afferma che “fornisce indicazioni alle organizzazioni su come adottare gli agenti in modo responsabile”. Non prevede sanzioni né un proprio meccanismo di controllo.

Il documento non usa la parola “voluntary” (volontario), quindi al suo interno lo descriva con precisione: una guida non legislativa di un’autorità di regolazione. I suoi obblighi di legge in materia di protezione dei dati, tutela dei consumatori e norme di settore valgono comunque, e il framework è chiaro sul fatto che “le organizzazioni che adottano gli agenti e le persone che li supervisionano restano responsabili delle azioni degli agenti”.

Quali rischi creano gli agenti AI secondo il framework?

Il framework elenca cinque tipi di danno causati dagli agenti: azioni errate, azioni non autorizzate, azioni distorte o ingiuste, violazioni di dati e interruzioni dei sistemi collegati. Aggiunge rischi sistemici legati a velocità e volumi, errori a cascata e configurazioni multi-agente. Ognuno ha un esempio concreto nell’assistenza.

L’esempio dell’IMDA sui conflitti tra agenti riguarda proprio l’assistenza: “un agente di assistenza clienti può offrire rimborsi per risolvere rapidamente i reclami, mentre un agente di tutela dei ricavi può bloccare i rimborsi sopra una certa soglia”. Se si sta muovendo verso un’assistenza clienti agentica con agenti che si passano i casi tra loro, quel conflitto è una questione di progettazione.

Come si applica ogni parte del framework a un agente AI per il servizio clienti?

Ogni dimensione si traduce in poche decisioni per il team di assistenza: quali intenti può gestire l’agente e con quali permessi, chi ne è responsabile e chi approva che cosa, come viene testato e sorvegliato, e che cosa viene detto a clienti e collaboratori. I passi seguono l’ordine delle sezioni del framework.

2.1 Valutare e circoscrivere i rischi fin dall’inizio

Il framework valuta il rischio in base all’impatto (dominio e caso d’uso, dati sensibili, sistemi esterni, lettura o scrittura, reversibilità) e alla probabilità (autonomia, complessità del compito, esposizione a sistemi esterni, fornitura da terzi, complessità del sistema). Lo applichi per intento, non per bot:

• Classifichi i suoi intenti per livello. Lo stato dell’ordine è in sola lettura. Un rimborso è un’azione di scrittura che comporta denaro. Chiudere un account è difficile da annullare.
• Applichi il privilegio minimo: “gli strumenti e l’accesso ai dati minimi necessari”. Accesso in lettura per lo stato dell’ordine, non diritti di amministratore nell’helpdesk.
• Vincoli i compiti di processo con una procedura operativa standard (SOP) invece di lasciarli al libero giudizio. I flussi di rimborso e di disdetta sono esattamente questo.
• Pianifichi come disattivare l’agente per un intento o un canale, indichi chi può farlo e lo verifichi.
• Dia all’agente una propria identità, legata a un responsabile umano, con permessi mai superiori a quelli della persona che lo autorizza.

2.2 Rendere le persone responsabili in modo concreto

Nomini un responsabile per i casi d’uso e i limiti, un team per progettazione, test e monitoraggio e un responsabile della sicurezza per i guardrail e il red teaming. Se l’agente viene da un fornitore, il framework chiede di definire nel contratto sicurezza, prestazioni e protezione dei dati, e di richiedere informazioni e registrazione dell’uso degli strumenti e della cronologia degli accessi. La nostra checklist di sicurezza per il QA con AI contiene domande per gli acquisti da riutilizzare.

Richieda un’approvazione nei “punti di controllo significativi”: azioni ad alto rischio, azioni irreversibili (il framework cita l’invio di comunicazioni e i pagamenti), comportamenti anomali e limiti definiti dall’utente. Poi verifichi chi approva con due indicatori: il tasso di override umano, dove “un tasso basso può indicare approvazioni automatiche”, e il tempo di risposta, dove un tempo breve “può indicare automation bias o affaticamento da revisione”.

2.3 Adottare controlli tecnici e processi

Preferisca controlli imposti dal sistema a controlli scritti nel prompt. L’esempio del framework: “invece di istruire un agente a non usare strumenti specifici, si possono implementare controlli di accesso a livello degli strumenti”. Metta il tetto ai rimborsi nell’API dei rimborsi, non nel prompt di sistema.

Prima del lancio testi l’esecuzione dei compiti, il rispetto delle policy (compreso l’instradamento verso l’approvazione umana), le chiamate agli strumenti e la robustezza, sull’intero flusso di lavoro, più volte e su dati diversi. La nostra guida al test degli agenti AI lo trasforma in un piano di test. Dopo il lancio, rilasci in modo graduale, monitori in modo continuo, fissi soglie di allerta con un intervento definito per ciascuna, conservi log non cancellabili e valuti in base al rischio le modifiche a modelli, strumenti e policy. La guida al monitoraggio degli agenti AI tratta la progettazione delle allerte.

2.4 Mettere in condizione gli utenti finali

Questa sezione cita direttamente il servizio clienti. Il framework chiede di “dichiarare fin dall’inizio, nell’interfaccia utente, che gli utenti stanno interagendo con agenti, nel momento dell’interazione, invece di scriverlo solo in una documentazione separata”, e di dire agli utenti che cosa può fare l’agente, come vengono usati i loro dati e quale persona contattare. Per i collaboratori aggiunge la formazione sui tipi di errore e un avvertimento sulla “perdita del mestiere”: mantenga abbastanza persone in grado di gestire il processo quando l’agente non funziona.

Quali prove deve conservare un team di assistenza per ogni parte del framework?

Conservi prove che qualcuno possa verificare senza doverle chiedere a lei: un registro, una decisione firmata, un risultato di test, un log, uno screenshot. Il framework non prescrive documenti, quindi questa tabella è la nostra traduzione di ogni sezione nel documento che un team di assistenza potrebbe mostrare a un auditor, a un’autorità di regolazione o al proprio consiglio di amministrazione.

La maggior parte di queste prove invecchia in fretta, perché il framework considera il monitoraggio un’attività continua. E un piccolo campione è una prova debole per un agente che ripete lo stesso comportamento migliaia di volte: è un argomento a favore della verifica di ogni conversazione rispetto alla policy con una scorecard per agenti AI.

Come si fissano i punti di approvazione senza causare affaticamento da allerte?

Fissi le approvazioni per livello di rischio, non per numero di azioni, poi verifichi che chi approva continui a ragionare. Il framework avverte che l’approvazione umana continua “può anche portare ad automation bias e affaticamento da allerte” e indica due segnali, un tasso di override basso e tempi di risposta brevi. Non fornisce soglie, quindi le fissa lei.

Un’illustrazione, con numeri scelti da noi per mostrare il calcolo (non dati di un’azienda). L’agente AI di un retailer gestisce 40.000 conversazioni al mese:

Approvare ogni rimborso di livello 2 significa 10.000 richieste al mese, circa 455 per giorno lavorativo su 22 giorni. Nessuno ne esamina così tante con attenzione. Se il 20% dei rimborsi supera i 50 dollari, le approvazioni scendono a 2.000 al mese, circa 91 al giorno.

Ora le verifichi. Supponiamo che gli approvatori abbiano respinto o modificato 14 richieste su 2.000, un tasso di override dello 0,7%, con un tempo di decisione mediano di 3 secondi. Insieme corrispondono alla descrizione delle approvazioni automatiche data dal framework. Una regola decisionale che suggeriamo: quando il tasso di override è sotto il 2% e il tempo di decisione mediano sotto i 10 secondi, faccia riesaminare alla cieca un campione di 50 richieste approvate. Se i revisori ne cambierebbero diverse, accorci le richieste, aggiunga il rischio e il livello di confidenza che il framework chiede, oppure sposti il tetto.

Il livello 1 non ha alcun approvatore, quindi la valutazione a posteriori di ogni conversazione è l’unico controllo sul 70% del volume. La guida alla valutazione degli agenti AI spiega come valutare questi esiti.

Come si confronta il framework con l’AI Act per il servizio clienti?

L’AI Act dell’UE è una legge vincolante; il framework di Singapore è una guida. Per un agente AI di assistenza si sovrappongono soprattutto sulla trasparenza: l’articolo 50, paragrafo 1, dell’AI Act richiede dal 2 agosto 2026 che le persone siano informate che stanno interagendo con un’IA, e il framework chiede lo stesso nel momento dell’interazione.

In pratica, l’AI Act fissa il minimo nell’UE, soprattutto la trasparenza per un agente rivolto ai clienti, mentre il framework di Singapore le dice come gestire un agente che compie azioni. In entrambi i mercati costruisca un unico insieme di controlli che soddisfi l’AI Act e usi la struttura del framework per il resto. Il nostro articolo sull’AI Act nel servizio clienti tratta date, livelli e sanzioni.

Quando questo framework non è adatto

Se il suo bot risponde solo in base al suo centro assistenza e non compie azioni, la maggior parte del framework richiede poco lavoro. I suoi fattori di rischio considerano a rischio più basso l’accesso in sola lettura e una knowledge base gestita internamente, quindi le servono soprattutto la dichiarazione dell’AI, un contatto umano e controlli di qualità sulle risposte.

Inoltre non descrive alcuna certificazione, quindi “conforme al MGF” non è un’affermazione che qualcuno possa verificare per lei; ciò che può mostrare sono le prove della tabella qui sopra.

Dove si colloca il QA nel framework?

Il QA copre le parti che richiedono prove ricavate da conversazioni reali: il rispetto delle policy dopo il lancio, gli audit regolari, la dichiarazione dell’AI e il ciclo di feedback che il framework chiede, “per riportare quanto emerge dal monitoraggio nei dataset di addestramento e nei framework di valutazione”. I log mostrano che cosa ha fatto l’agente; un punteggio di qualità mostra se aveva ragione.

Kaizo è un modo per gestire questa parte. Valuta il 100% delle conversazioni dei suoi agenti AI con la sua scheda di valutazione, la stessa usata per il suo team, e collega ogni punteggio alle prove nella conversazione; veda il controllo qualità degli agenti AI. Prenoti una demo per vederlo sulle sue conversazioni.

Come iniziare questa settimana

Può coprire la prima dimensione e parte della quarta in cinque giorni lavorativi senza nuovi strumenti: che cosa può toccare l’agente, chi ne è responsabile, che cosa vedono i clienti e una prima verifica di chi approva.

1. Giorno 1: elenchi ogni intento che l’agente gestisce e ogni strumento che può usare; segni ogni strumento come lettura o scrittura.
2. Giorno 2: classifichi ogni intento per impatto e reversibilità; segnali ogni azione di scrittura che coinvolge denaro o account.
3. Giorno 3: nomini un responsabile per l’agente e per ogni livello; metta per iscritto chi può disattivarlo e lo verifichi.
4. Giorno 4: apra una conversazione in ogni canale e lingua; faccia uno screenshot della dichiarazione dell’AI e del percorso verso una persona.
5. Giorno 5: calcoli il tasso di override e il tempo di risposta mediano del mese scorso per ogni approvatore.

Domande frequenti

Esiste un PDF del framework?

Sì. L’IMDA lo pubblica in PDF su imda.gov.sg, con il titolo “Model AI Governance Framework for Agentic AI”, versione 1.5. Conta 53 pagine, compresi casi di studio, ulteriori risorse nell’allegato A e un invito a inviare feedback nell’allegato B.

Il framework si applica alle aziende fuori da Singapore?

Il framework non definisce un ambito territoriale. È scritto per qualsiasi organizzazione che intenda adottare l’IA agentica, costruita internamente o acquistata. Le aziende di altri paesi possono usarne la struttura, ma sono le loro leggi a stabilire che cosa è obbligatorio.

Il framework richiede che una persona approvi ogni risposta di un agente AI?

No. Chiede un’approvazione nei punti di controllo significativi, come azioni ad alto rischio, irreversibili o insolite, e osserva che la supervisione continua di ogni flusso di lavoro diventa impraticabile su larga scala. Le approvazioni sono affiancate da monitoraggio automatico e soglie di allerta.

Che cosa c’è di nuovo nella versione 1.5?

La versione 1.5 riflette il feedback di oltre 60 aziende raccolto dalla versione 1.0. Aggiunge fattori di rischio come la complessità del sistema e le soluzioni di terzi, i rischi dei sistemi multi-agente, pratiche contro l’automation bias come il monitoraggio dei tassi di override, indicazioni sulla gestione delle modifiche e casi di studio.

Un’azienda può essere certificata rispetto al framework?

Il documento non descrive alcuno schema di certificazione o di audit. È un insieme di pratiche raccomandate, quindi la cosa più solida che un’azienda può mostrare sono le proprie prove: livelli di rischio, registri delle approvazioni, risultati dei test, registri del monitoraggio e screenshot delle dichiarazioni dell’AI.