A governança de agentes de IA no atendimento ao cliente é o conjunto de responsáveis, regras e verificações que decide o que um agente de IA pode dizer e fazer com os seus clientes, como as conversas dele são revisadas e o que acontece quando ele erra. Bem feita, ela não é um freio. Ela produz a evidência de que você precisa para dar mais autonomia ao agente, um passo de cada vez.
Em resumo
- A maioria dos guias trata de TI e segurança. O atendimento ao cliente também precisa de governança sobre o que o agente promete, quais políticas aplica e quando transfere para uma pessoa.
- Todo agente de IA precisa de um único responsável, e toda política que ele aplica precisa de um responsável e de uma data de revisão.
- Classifique as ações do agente em níveis: só responder, agir sozinho, agir dentro de um limite, agir com aprovação, nunca.
- Supervisão significa avaliar as próprias conversas e verificar se as pessoas que aprovam as ações do agente não estão só carimbando.
- Os 15 controles abaixo, cada um com a sua evidência, formam um modelo operacional que você pode copiar e os critérios para ampliar a autonomia.
O que é governança de agentes de IA no atendimento ao cliente?
Governança de agentes de IA no atendimento ao cliente significa decidir quem é dono de cada agente de IA, dentro de quais políticas e limites ele trabalha, quais ações precisam de uma pessoa, como as conversas dele são revisadas e como os incidentes são tratados. A governança de TI pergunta se o agente consegue acessar um sistema. A governança do atendimento pergunta se o que ele fez pelo cliente estava certo.
A maioria das páginas sobre o tema é escrita para equipes de TI e segurança. Esse trabalho é necessário, mas não suficiente: um agente com permissões perfeitamente delimitadas ainda pode informar a 300 clientes o prazo de devolução errado.
| Pergunta | Governança de TI e segurança | Governança do atendimento |
|---|---|---|
| O que ela controla? | Acesso: identidades, permissões, ferramentas, dados | Comportamento: respostas, promessas, ações, transbordos |
| Falha típica | O agente acessa um sistema que não deveria | O agente aplica uma política antiga, promete um reembolso que não pode dar ou fica com um caso que deveria transferir |
| Onde está a evidência | Logs de acesso, rastreamentos das chamadas de ferramentas | Nas próprias conversas |
Se o termo é novo para você, comece por o que é IA agêntica (em inglês) e pelo nosso guia central sobre atendimento agêntico.
O que um referencial de governança de agentes de IA deve incluir?
Um referencial de governança de agentes de IA para o atendimento ao cliente deve incluir um registro de agentes, responsáveis nomeados, responsabilidade e controle de mudanças das políticas, níveis de ação com pontos de aprovação, testes antes de cada versão, revisão das conversas, regras de escalonamento, aviso de IA, um roteiro de incidentes e uma revisão periódica da autonomia. Cada controle precisa de uma evidência que você poderia mostrar a um auditor.
Copie a tabela, atribua um responsável a cada linha, e as lacunas da sua configuração atual aparecem rapidamente.
| # | Controle | Responsável | Evidência necessária | Periodicidade |
|---|---|---|---|---|
| 1 | Registro de agentes: cada agente de IA com as suas intenções, canais, idiomas, versão e plataforma | Responsável pelo agente de IA | Entrada no registro com a data da última revisão | A cada mudança; revisão trimestral |
| 2 | Um único responsável por agente, e um responsável por intenção | Head de CX | Matriz de responsabilidades assinada (abaixo) | Trimestral |
| 3 | Fonte única das políticas: toda política que o agente aplica tem um responsável e uma data de revisão | Responsáveis pelas políticas | Lista de políticas com responsável, versão e data de revisão | Mensal |
| 4 | Gatilho de mudança de política: o conteúdo do agente é atualizado e testado antes que uma mudança de política entre em vigor | Responsável pela política, responsável pelo agente de IA | Registro da mudança com um resultado de teste datado antes da data de vigência | A cada mudança |
| 5 | Níveis de ação: o que o agente pode fazer, em qual nível, com quais limites | Head de CX | Matriz de ações e a configuração da plataforma que a aplica | Trimestral, antes de novas ações |
| 6 | Pontos de aprovação para ações que precisam de uma pessoa | Líderes de equipe | Registro de aprovações: quem, quando, o quê, aprovado ou alterado | Contínua |
| 7 | Supervisão de quem aprova: taxa de alteração e tempo de revisão | Responsável de QA | Relatório com os casos fora da curva | Mensal |
| 8 | Testes antes de cada versão por intenção, incluindo casos limite de política e tentativas de tirar o agente da política | Responsável pelo agente de IA | Conjunto de testes e resultados por versão, com limite de aprovação | A cada versão |
| 9 | Lançamento gradual e reversão | Responsável pelo agente de IA | Registro da versão com a parcela de lançamento e o plano de reversão | A cada versão |
| 10 | Revisão das conversas com base em um formulário de monitoria: precisão, política, escalonamento, aviso de IA, tom | Responsável de QA | Conversas avaliadas, cada nota ligada às linhas que a justificam | Contínua |
| 11 | Regras de escalonamento: quando o agente transfere e que contexto ele repassa | Head de CX | Gatilhos escritos, notas de qualidade do transbordo | Trimestral |
| 12 | Aviso de IA na primeira interação, em todos os canais e idiomas | Jurídico ou compliance | Texto do aviso por canal e idioma, verificação do aviso avaliada | A cada versão |
| 13 | Limites de acesso e de dados: identidade própria, privilégio mínimo, tratamento de dados pessoais | TI e segurança | Revisão de acessos, registros das operações de tratamento de dados | Trimestral |
| 14 | Roteiro de incidentes: níveis de gravidade, quem pode pausar o agente, como os clientes afetados são encontrados e atendidos | Head de CX | Registro de incidentes, lista de clientes afetados, revisão pós-incidente | A cada incidente |
| 15 | Revisão da autonomia: ampliar ou reduzir o escopo por intenção, com base nas evidências acima | Head de CX, responsável pelo agente de IA | Registro da decisão com as métricas usadas | Mensal |
Os controles 1, 8, 9 e 13 ficam perto do trabalho de plataforma e de TI que acompanha qualquer implantação. Os controles 3, 4, 7, 10 e 15 ficam com a equipe de suporte, e são eles que decidem se os erros do agente continuam pequenos.
Quem é o dono de um agente de IA no atendimento ao cliente?
Uma pessoa é dona de cada agente de IA no atendimento ao cliente: geralmente um responsável pelo agente de IA que se reporta ao Head de CX, que responde pelos resultados dele. Os responsáveis pelas políticas mantêm o conteúdo atualizado, o responsável de QA revisa as conversas, a TI protege os acessos e o jurídico verifica o aviso de IA. Uma responsabilidade compartilhada sem um nome é a lacuna mais comum.
O referencial de Singapura para IA agêntica é direto nesse ponto: “Como implantadores, as organizações e as pessoas continuam responsáveis pelas decisões e ações dos agentes” (IMDA, Model AI Governance Framework for Agentic AI, em inglês, versão 1.5, seção 2.2.1). O fornecedor constrói o agente. A sua empresa é dona do que ele diz aos seus clientes.
O papel é trabalho de verdade. Uma equipe que passou dois meses avaliando plataformas corporativas de agentes de IA concluiu, no Reddit, que precisaria de cerca de uma pessoa em tempo integral para ser dona de um agente (discussão, em inglês). Planeje isso antes do lançamento.
Uma matriz RACI que você pode copiar (R = executa, A = responde pelo resultado, C = consultado, I = informado):
| Atividade | Head de CX | Responsável pelo agente de IA | Responsáveis pelas políticas | Responsável de QA | TI e segurança | Jurídico ou compliance |
|---|---|---|---|---|---|---|
| Decidir quais intenções o agente atende | A | R | C | C | I | C |
| Definir os níveis de ação, aprovar versões, conduzir incidentes, ampliar ou reduzir a autonomia | A | R | C | C | C | C |
| Manter as políticas e o conteúdo de ajuda atualizados | I | C | A, R | I | C | |
| Revisar as conversas e reportar a qualidade | I | C | I | A, R | I | |
| Conceder e revisar acessos aos sistemas | I | C | A, R | |||
| Verificar o aviso de IA e as obrigações regulatórias | I | C | C | A, R |
Quais políticas um agente de IA deve seguir, e quem as mantém atualizadas?
Um agente de IA deve seguir as mesmas políticas de cliente que a sua equipe humana (reembolsos, devoluções, elegibilidade, compensações), mais as regras de conduta (aviso de IA, tom, clientes vulneráveis) e as regras de escalonamento. Cada política precisa de um responsável nomeado e de uma data de revisão, e qualquer mudança precisa chegar ao conteúdo do agente antes de entrar em vigor.
A falha aqui raramente é uma alucinação dramática. É um agente aplicando com perfeição a política do mês passado, em todas as conversas sobre aquele tema, até que alguém mude o conteúdo. Por isso o nosso guia sobre alucinações de agentes de IA confere as respostas com a própria política e lê primeiro os temas que envolvem dinheiro.
Três regras mantêm as políticas atualizadas: o agente responde a partir das mesmas páginas de política que a sua equipe usa, e não de uma cópia colada em um prompt; todo ticket de mudança de política inclui “atualizar e testar o agente de IA” antes da data de vigência; e, todo mês, o responsável de QA lista as políticas com a data de revisão vencida para que os responsáveis as confirmem ou atualizem.
Quais ações um agente de IA pode executar sozinho, e quais exigem aprovação?
Um agente de IA pode agir sozinho em ações de baixo valor e reversíveis, dentro de limites escritos, como reenviar uma fatura ou fazer um reembolso abaixo de um valor definido. Ações de alto risco, irreversíveis ou incomuns precisam antes da aprovação de uma pessoa. Algumas ações ele nunca executa. Escreva os níveis, com os limites, antes de o agente entrar no ar.
O referencial da IMDA cita quatro tipos de ponto de verificação que devem disparar a aprovação humana (seção 2.2.2): ações de alto risco, ações irreversíveis (os exemplos incluem enviar comunicações e fazer pagamentos), comportamento fora do padrão e limites definidos pelo usuário. Traduzido para o atendimento ao cliente:
| Nível | O que o agente pode fazer | Exemplos no atendimento | Controle |
|---|---|---|---|
| 0. Informar | Responder só com conteúdo aprovado | Horário de funcionamento, status do pedido, dúvidas de como fazer | Revisão das conversas |
| 1. Agir sozinho | Ações reversíveis sem dinheiro envolvido | Reenviar uma fatura, atualizar uma observação de entrega, agendar um retorno | Registrado e revisado |
| 2. Agir dentro de um limite | Ações com dinheiro ou compromissos abaixo de um limite | Reembolso ou crédito abaixo do seu limite, isentar uma taxa uma vez | Limite aplicado pela plataforma, todos os casos revisados |
| 3. Agir com aprovação | Ações acima do limite, exceções e decisões de julgamento | Reembolso acima do limite, gesto comercial fora da política, encerramento de conta | Uma pessoa aprova antes da ação |
| 4. Nunca | Fora do escopo do agente | Ameaças judiciais, reclamações a órgãos reguladores, sinais de vulnerabilidade, mudança de dados bancários | Transbordo imediato para uma pessoa |
Dois detalhes fazem os níveis se sustentarem. É a configuração da plataforma que aplica o limite, e não só o prompt. E as aprovações também precisam de governança. A IMDA sugere acompanhar a taxa de alteração humana, já que “uma taxa baixa pode indicar carimbo automático”, e o tempo de revisão, já que um tempo mais curto pode indicar viés de automação ou fadiga de revisão (seção 2.2.2). Quem aprova 100% dos pedidos em quatro segundos cada não é um controle.
Se vários agentes trabalham em um mesmo caso, os níveis precisam ser coerentes entre eles. O próprio exemplo da IMDA é um agente de suporte que oferece reembolsos para resolver reclamações rapidamente, enquanto um agente de proteção de receita bloqueia reembolsos acima de um limite (seção 1.2.3). Nosso guia de orquestração de agentes de IA mostra como desenhar essas passagens.
Como revisar as conversas de um agente de IA?
Você revisa as conversas de um agente de IA avaliando-as com base em um formulário de monitoria escrito (precisão, política, escalonamento, aviso de IA, tom) e ligando cada nota às linhas que a justificam. Avalie todas, ou pelo menos todas as conversas do nível 2 para cima, porque os erros de um agente de IA se repetem e uma amostra pequena os encontra tarde.
A supervisão tem três camadas, cada uma com o seu guia nesta série:
| Camada | Pergunta que responde | Quando | Leia mais |
|---|---|---|---|
| Testes | A nova versão se comporta bem antes que os clientes a vejam? | Antes de cada versão | Testes de agentes de IA, teste de chatbot |
| Monitoramento | Algo está quebrando agora? | Ao vivo, com alertas | Monitoramento de agentes de IA |
| Avaliação e QA | Cada conversa estava certa, e onde a qualidade quebra? | Depois de cada conversa | Avaliação de agentes de IA |
A taxa de resolução não é uma nota de qualidade: uma conversa conta como resolvida quando o cliente não chegou a uma pessoa, o que não diz nada sobre a resposta estar correta. Nossa lista de falhas silenciosas de agentes de IA mostra seis formas de os erros de um agente serem contados como vitórias.
Use um único formulário de monitoria para humanos e agentes de IA onde os critérios valem para os dois, mais verificações só para a IA, como fatos e políticas inventados. E dimensione a sua amostra com honestidade: uma amostra de QA de 3% (em inglês) não sustenta decisões sobre um único agente.
Que evidências de auditoria guardar sobre um agente de IA?
Guarde evidências que mostrem, para qualquer data, qual versão do agente estava rodando, quais políticas ele aplicou, o que tinha permissão para fazer, quem aprovou as suas ações, que notas as conversas dele receberam e como os incidentes foram tratados. Essa é a coluna de evidências dos 15 controles, guardada onde um auditor possa encontrá-la.
O mais difícil de reconstruir depois é o histórico de versões ligado às versões das políticas (“qual prazo de devolução o agente aplicou em 3 de março?”) e as conversas avaliadas com as linhas da transcrição anexadas. Para as perguntas que TI e compras fazem sobre as próprias ferramentas, veja o nosso checklist de segurança para QA com IA.
Como tratar um incidente com um agente de IA?
Trate um incidente com um agente de IA em cinco passos: contenha (encaminhe o tema afetado para pessoas ou reverta a versão), encontre todas as conversas afetadas, corrija a situação desses clientes, corrija a causa raiz e teste de novo, e depois avalie as próximas conversas para confirmar que a correção se manteve. Decida antes quem pode pausar o agente.
Um exemplo calculado mostra por que o segundo passo exige cobertura total. Os números são uma ilustração, não dados de uma empresa real.
- Um agente de IA atende 40.000 conversas por mês. As devoluções são 12%, cerca de 4.800 por mês, ou 160 por dia.
- No dia 1, o prazo de devolução cai de 30 para 14 dias. O conteúdo do agente é atualizado no dia 10, então durante 9 dias ele aplica o prazo antigo.
- Nesses 9 dias, ele atende cerca de 1.440 conversas de devolução. Se 20% envolvem itens com 15 a 30 dias, cerca de 288 clientes ouvem que ainda podem devolver.
- Uma amostra aleatória de 2% revisa cerca de 800 conversas por mês, ou 240 nesses 9 dias. Cerca de 29 delas são conversas de devolução, e cerca de 6 contêm o erro.
A amostra pode detectar o problema. Ela não consegue dizer quem são os outros 282 clientes; para isso, você precisa de todas as conversas do tema pesquisadas ou avaliadas. Honrar as promessas, com um valor médio de pedido de US$ 60, custa cerca de US$ 17.280, mais os contatos que isso gera.
Defina os níveis de gravidade com antecedência. Um compromisso financeiro ou jurídico errado repetido entre clientes, ou dados pessoais expostos, significa pausar o tema em até uma hora e avisar o jurídico; uma resposta de política errada sem compromisso financeiro significa encaminhar o tema para pessoas e corrigir em poucos dias; problemas de tom esperam a próxima versão.
O que o AI Act da UE e o referencial de Singapura exigem dos agentes de IA no atendimento?
O Regulamento da IA da UE (AI Act) exige que os clientes sejam informados de que estão interagindo com um sistema de IA, no máximo na primeira interação, a menos que isso seja óbvio; essa regra se aplica desde 2 de agosto de 2026. O Model AI Governance Framework for Agentic AI de Singapura é uma orientação, não uma lei, e trata de delimitação de riscos, responsabilidade humana, controles técnicos e transparência para o usuário final.
AI Act da UE. O artigo 50, n.º 1, do Regulamento (UE) 2024/1689 atribui esse dever aos fornecedores de sistemas de IA que interagem diretamente com pessoas. As perguntas frequentes da Comissão Europeia sobre o artigo 50 (em inglês) (atualizadas em 24 de julho de 2026) confirmam que ele se aplica a partir de 2 de agosto de 2026, que o aviso é devido desde o início da primeira interação e que a exceção do “óbvio” deve ser lida de forma restritiva. A IA que monitora e avalia funcionários pode ser de alto risco segundo o Anexo III, com obrigações a partir de 2 de dezembro de 2027, conforme alterado em 2026 (página da Comissão sobre o AI Act, em inglês). Nosso guia sobre o AI Act no atendimento ao cliente traz os detalhes.
Singapura. O referencial da IMDA (versão 1.5, atualizada em 5 de junho de 2026) é escrito para organizações que constroem ou compram agentes de IA. Para agentes que atendem clientes, ele pede transparência, incluindo informar aos usuários o que o agente pode fazer e a quais pessoas eles podem recorrer se ele falhar (seção 2.4.2). Nosso texto sobre a estrutura de governança de IA agêntica de Singapura percorre o referencial para equipes de suporte.
NIST. Nos Estados Unidos, o NIST AI Risk Management Framework (em inglês) (versão 1.0, 26 de janeiro de 2023) é de uso voluntário e organiza o trabalho em quatro funções: Govern, Map, Measure e Manage (governar, mapear, medir e gerenciar).
Os 15 controles se encaixam nos três. Esta seção resume textos públicos e não é uma orientação jurídica; verifique as suas próprias obrigações com o seu jurídico.
Como a governança permite ampliar a autonomia de um agente de IA passo a passo?
A governança permite ampliar a autonomia ao transformar cada passo em uma decisão com evidência: uma intenção sobe de nível quando as conversas avaliadas, os resultados dos testes e o histórico de incidentes atingem limites que você definiu antes, e desce quando não atingem. Sem essa evidência, a autonomia cresce por otimismo, ou não cresce.
A IMDA recomenda implantar os agentes de forma gradual, por usuários, pelas ferramentas e protocolos que o agente pode usar e pelos sistemas a que ele fica exposto (seção 2.3.3). No atendimento ao cliente, a unidade natural é a intenção: amplie uma intenção de cada vez, não o agente inteiro.
Exemplos de critérios para subir uma intenção de nível. São pontos de partida ilustrativos, não padrões do setor; defina os seus:
| Critério | Exemplo de limite |
|---|---|
| Volume avaliado | Pelo menos 300 conversas nesta intenção nos últimos 30 dias |
| Critérios críticos (precisão, política) | 98% ou mais aprovadas |
| Falhas críticas | Nenhuma nos últimos 30 dias |
| Escalonamento correto | 95% ou mais dos casos que deveriam ser transferidos foram transferidos |
| Testes | As ações do novo nível passam no conjunto de testes antes da versão |
| Aprovação dos responsáveis | Head de CX e responsável pelo agente de IA, registrada na revisão da autonomia |
As regras de rebaixamento importam tanto quanto essas. Uma regra sensata: um padrão de falha crítica (a mesma causa três vezes em uma semana, por exemplo) devolve a intenção a um nível abaixo até que a correção seja testada e as próximas conversas sejam avaliadas sem problemas. Escopo estreito primeiro, escopo mais amplo com evidência.
De quais ferramentas de governança de agentes de IA você precisa?
Você precisa de ferramentas para cinco trabalhos: controles da plataforma do agente (limites, versões, reversão), segurança de identidade e acesso, um registro de governança ou de riscos, monitoramento e avaliação do comportamento do agente, e monitoria de qualidade das próprias conversas. Nenhuma ferramenta cobre os 15 controles, então associe cada controle à ferramenta que produz a sua evidência.
| Tipo de ferramenta | Controles que costuma cobrir | O que deixa em aberto |
|---|---|---|
| Plataforma de agentes de IA | 5, 6, 8, 9: limites, aprovações, lançamento gradual, reversão | O que o agente disse aos clientes |
| Identidade e segurança | 13: identidade, privilégio mínimo, revisões de acesso | Se a resposta estava certa |
| Registros de governança e de riscos | 1, 2, 12: inventário, risco, regulação | A qualidade do dia a dia |
| Observabilidade e avaliação | 8: rastreamentos, alertas, conjuntos de testes | A avaliação com base no seu formulário de monitoria |
| Monitoria de conversas | 10, 11, 12: formulário de monitoria, escalonamento, aviso de IA | Acessos, mecânica das versões |
A Sierra, por exemplo, descreve revisão por pares antes de cada versão, um papel de revisor e lançamentos para uma parte do tráfego no seu artigo sobre governança de versões (em inglês). Controles como esses ainda precisam da revisão das conversas ao vivo quando uma mudança chega a todos.
Onde a Kaizo se encaixa
A Kaizo é um software de monitoria de qualidade no atendimento que avalia todas as conversas, da sua equipe e dos seus agentes de IA. Ela cobre a revisão das conversas (controle 10) e a evidência avaliada de escalonamento e de aviso de IA (11 e 12): o AutoPilot avalia cada conversa resolvida com base no seu próprio formulário de monitoria e liga cada nota à evidência. Veja QA de agentes de IA, ou agende uma demo para ver isso nas suas próprias conversas.
Quando este modelo é mais do que você precisa
Se o seu agente de IA só responde a partir da sua central de ajuda, não executa ações e atende algumas centenas de conversas por mês, cinco controles bastam: um responsável, uma data de revisão das políticas, o aviso de IA, uma regra de transbordo e uma leitura regular das conversas dele. Acrescente o restante quando ele começar a executar ações, lidar com dinheiro ou operar em volumes que ninguém consegue ler.
Como começar esta semana
Você pode começar esta semana sem uma nova ferramenta nem um comitê. Cinco passos colocam o básico no lugar para o agente que você já opera e mostram quais controles estão faltando.
- Nomeie o responsável. Uma pessoa por agente de IA, por escrito, com o Head de CX respondendo pelo resultado.
- Preencha o registro. Liste todos os agentes, as intenções e os canais que cada um atende e a versão atual.
- Escreva os níveis de ação. Coloque cada ação que o agente pode executar em um nível, com os limites, e verifique se a plataforma os aplica.
- Liste as políticas que ele aplica, com um responsável e uma data de revisão, e acrescente “atualizar o agente de IA” ao seu processo de mudança de políticas.
- Avalie as conversas da semana passada de uma intenção de alto volume com o seu formulário de monitoria, e veja o que uma amostra teria deixado passar.
Perguntas frequentes
Qual é a diferença entre governança de IA agêntica e governança de IA tradicional?
A governança de IA tradicional se concentra no que um modelo produz: precisão, viés e transparência de previsões ou de textos. A governança de IA agêntica acrescenta o que o sistema faz: as ações que executa, as ferramentas que usa e quem as aprova. No atendimento ao cliente, isso significa governar reembolsos, mudanças de conta e transbordos, e não só respostas.
Quais são os pilares da governança de IA?
Não existe uma lista oficial única. O referencial do NIST organiza o trabalho em Govern, Map, Measure e Manage. Para uma equipe de suporte, os pilares práticos são responsabilidade, controle das políticas, limites de ação, revisão das conversas e tratamento de incidentes.
A governança de agentes de IA é exigida por lei?
Em parte, sim. Na UE, o artigo 50 do AI Act exige o aviso de IA desde 2 de agosto de 2026, e a legislação de proteção de dados continua valendo. O referencial de Singapura é uma orientação sem força de lei, e o do NIST é de uso voluntário; nenhum dos dois prevê penalidades.
Quem é responsável quando um agente de IA dá uma informação errada a um cliente?
Planeje como se fosse a sua empresa. O referencial de Singapura afirma que as organizações que implantam os agentes e as pessoas continuam responsáveis pelas decisões e ações deles. Independentemente do que diz o seu contrato com o fornecedor, o cliente vê a sua marca, então o roteiro de incidentes e a correção junto aos clientes são seus.
Quanta revisão humana um agente de IA precisa?
A revisão humana deve acompanhar o risco, não um percentual fixo. Avalie todas as conversas automaticamente, envie as ações do nível 3 para uma pessoa antes que aconteçam e faça pessoas revisarem as falhas, as notas contestadas e uma amostra semanal de calibração. Depois, verifique se as pessoas que aprovam as ações de fato alteram algumas delas.
