Responsabilidade do chatbot de IA: quem responde pelo erro?

Na maioria dos casos, sim: a empresa que coloca um agente de IA diante dos clientes responde pelo que esse agente diz a eles. No caso Moffatt v. Air Canada, um tribunal canadense considerou a companhia aérea responsável pela resposta errada do seu chatbot, exatamente como seria por uma página errada no site. Um aviso de isenção não transfere essa responsabilidade para o bot nem para o fornecedor.

Este artigo explica os casos, as regras e os controles práticos para líderes de suporte. É informação geral, não aconselhamento jurídico: para o seu mercado e os seus contratos, consulte um advogado.

Em resumo

• A responsabilidade por chatbots de IA parte de uma regra antiga: uma empresa responde pelas informações que dá aos clientes, seja qual for o canal ou o sistema que as dá.
• No caso Moffatt v. Air Canada (2024), o tribunal chamou de “uma alegação notável” a ideia de que um chatbot é responsável pelos próprios atos e mandou a companhia aérea pagar.
• Um aviso de que “a IA pode cometer erros” não é um escudo: as regras sobre cláusulas abusivas, as regras de responsabilidade pelo produto e os reguladores limitam o que ele consegue fazer.
• Quando um cliente contesta uma promessa feita pela IA, quem tem a transcrição, a versão da política e a versão do agente em vigor naquele dia está em posição mais forte.
• A regra operacional mais segura é cumprir, corrigir e revisar: cumpra as promessas razoáveis, entre em contato com todos que receberam a mesma resposta errada e corrija a causa antes da próxima conversa.

A empresa responde pelo que o seu chatbot de IA diz aos clientes?

Sim, no caso julgado que todo mundo cita. Em Moffatt v. Air Canada, o Civil Resolution Tribunal da Colúmbia Britânica tratou o chatbot como parte do site da companhia aérea e a considerou responsável por declaração enganosa negligente (negligent misrepresentation) quando um cliente confiou na resposta errada.

Os fatos são simples (decisão 2024 BCCRT 149, em inglês, publicada em 14 de fevereiro de 2024). Em novembro de 2022, depois de uma morte na família, um cliente perguntou ao chatbot do site da Air Canada sobre tarifas por luto. O chatbot disse que ele podia comprar agora e pedir a tarifa reduzida em até 90 dias após a emissão do bilhete, mesmo depois da viagem. A página sobre luto indicada pelo próprio chatbot dizia o contrário. Um representante da Air Canada admitiu depois, por e-mail, que o chatbot tinha usado “palavras enganosas” (parágrafo 22).

O tribunal testou o pedido contra os cinco elementos da declaração enganosa negligente (parágrafo 25). Cada um corresponde a uma conversa de suporte:

A Air Canada alegou que não podia ser responsabilizada pelo seu chatbot. O tribunal respondeu: “Deveria ser óbvio para a Air Canada que ela é responsável por todas as informações do seu site. Não faz diferença se a informação vem de uma página estática ou de um chatbot” (parágrafo 27). A condenação chegou a CA$ 812,02 com juros e custas (parágrafo 44).

Mantenha o caso em proporção. É uma decisão de pequenas causas numa província canadense, não vincula nenhum tribunal em outro lugar e não analisou se o fornecedor do chatbot devia algo à companhia aérea. O valor dela está no raciocínio, que aplica as regras comuns sob as quais toda empresa já vive. Para o modelo operacional em torno disso, comece pelo guia de governança de agentes de IA.

Quem responde quando a IA erra: a empresa, o fornecedor ou a IA?

Perante o cliente, a empresa que coloca o agente de IA em operação responde na maioria das situações, porque o agente fala em nome dela. A IA em si não é pessoa jurídica. A parte do fornecedor é decidida sobretudo pelo seu contrato e, na UE, pelas regras de responsabilidade pelo produto, que cobrem danos pessoais, danos materiais e dados perdidos, não uma resposta errada sobre reembolso.

Três camadas decidem quem paga:

1. Você e o cliente. Direito do consumidor, contrato e regras sobre declarações enganosas se aplicam ao que os seus canais dizem. O cliente não precisa saber qual fornecedor construiu o modelo.
2. Você e o fornecedor. Garantias, indenizações e tetos de responsabilidade no contrato com o fornecedor decidem se você consegue recuperar uma perda. Muitos termos de fornecedores limitam ou excluem a responsabilidade pela precisão das respostas, então leia-os antes do lançamento, não depois de um incidente.
3. A camada europeia de responsabilidade pelo produto. A nova Diretiva de Responsabilidade pelos Produtos, (UE) 2024/2853, estabelece que o “software” é um produto (artigo 4.º, n.º 1), quer rode num dispositivo, na nuvem ou como serviço (considerando 13). Ela se aplica a produtos colocados no mercado ou em serviço depois de 9 de dezembro de 2026 (artigo 2.º, n.º 1), a mesma data em que os Estados-Membros precisam tê-la transposto para a lei nacional (artigo 22.º, n.º 1).

A diretiva importa menos para o suporte do que as manchetes sugerem. Ela cobre morte, danos pessoais, inclusive danos à saúde psicológica, danos a bens e a destruição ou corrupção de dados não usados para fins profissionais (artigo 6.º). O considerando 24 diz que a perda puramente econômica não gera, por si só, responsabilidade com base nela. Uma promessa errada de reembolso ou de tarifa é perda puramente econômica, então continua com o direito do consumidor e o direito contratual. Onde a diretiva se aplica, a responsabilidade perante o lesado não pode ser limitada nem excluída por cláusula contratual (artigo 15.º).

A diferença entre um chatbot e um agente de IA importa aqui. Um chatbot que só responde faz declarações. Um agente que faz reembolsos, cancela pedidos ou altera contas também cria transações, então um erro deixa de ser só uma resposta enganosa: é uma ação que os seus sistemas executaram. Por isso, as ações que um agente pode executar sozinho pertencem a uma matriz de autonomia, e não só ao prompt.

Um aviso de que “a IA pode cometer erros” protege a empresa?

Pouco, e não sozinho. Um aviso pode ajudar os clientes a avaliar uma resposta e apoia os deveres de transparência, mas não torna exata uma resposta enganosa. Tribunais e reguladores olham para o que o cliente ouviu e se era razoável confiar naquilo, e o direito do consumidor limita cláusulas que jogam esse risco no cliente.

Quatro limites aparecem repetidamente:

• A confiança razoável sobrevive a um link. A resposta do chatbot da Air Canada trazia um link para a página correta da política. Mesmo assim, o tribunal perguntou por que os clientes “deveriam ter de conferir em outra parte do site a informação encontrada numa parte dele” (parágrafo 28).
• As cláusulas precisam ser provadas e justas. A Air Canada citou as suas condições tarifárias, mas não juntou o texto relevante, então “não provou uma defesa contratual” (parágrafo 31). No Reino Unido, uma cláusula abusiva num contrato de consumo “não vincula o consumidor” (Consumer Rights Act 2015, seção 62, em inglês).
• Algumas responsabilidades não podem ser excluídas de jeito nenhum. Pela Diretiva europeia de Responsabilidade pelos Produtos, uma cláusula contratual não pode limitar nem excluir a responsabilidade perante o lesado (artigo 15.º).
• Os reguladores olham além dos rótulos. Quando a FTC anunciou a operação Operation AI Comply em 25 de setembro de 2024, a então presidente, Lina Khan, disse que “não existe exceção para a IA nas leis em vigor”.

Um aviso que diz aos clientes que eles estão falando com uma IA é outra coisa, e na UE agora é obrigatório. Mantenha-o, e mantenha-o honesto. Só não o trate como o controle que livra você de problemas. O controle é um agente que não faz a promessa errada.

O que as regras dos EUA, da UE e do Reino Unido esperam dos agentes de IA no atendimento?

As três esperam o mesmo comportamento central: dizer a verdade aos clientes, não enganá-los e continuar responsável pelos sistemas que falam com eles. A UE acrescenta um dever explícito de informar o uso de IA, a FCA do Reino Unido aplica o seu Consumer Duty às empresas financeiras que usam IA, e os reguladores dos EUA aplicam a legislação de defesa do consumidor existente a alegações sobre IA e a falhas de chatbots.

As expectativas do Reino Unido são as mais concretas para equipes de suporte em empresas reguladas. No seu AI Update de abril de 2024 (em inglês), a FCA escreveu que chatbots de IA podem ajudar os clientes a entender produtos, mas que “as empresas devem considerar as suas obrigações sob o Consumer Duty” (parágrafo 3.25). Ela aponta para as regras de compreensão do consumidor sobre atender às necessidades de informação dos clientes (parágrafo 3.36), e diz que em bancos, seguradoras e empresas enhanced do SM&CR qualquer uso de IA numa área de negócio fica sob a responsabilidade de um Senior Manager (parágrafo 3.40). Na prática: um responsável nomeado por agente, dados de resultado sobre as conversas dele e um registro de que o conselho analisou isso.

O relatório do CFPB declara que não é uma interpretação de nenhum regulamento. Para os detalhes europeus, inclusive classes de risco e datas, veja o guia do AI Act para o atendimento ao cliente.

Quais compromissos um agente de IA pode assumir com os clientes?

Um agente de IA pode explicar a política com as palavras do texto aprovado, confirmar fatos que um sistema acabou de retornar e se comprometer com um resultado só quando uma ferramenta o executou dentro dos limites dela. Ele nunca deve conceder exceções, prometer compensação, dar aconselhamento jurídico ou financeiro, nem citar uma data ou valor que não veio de um sistema.

A tabela funciona porque transforma “seja preciso” em regras que um avaliador consegue verificar numa transcrição. O conjunto completo de limites, com valores por ação, está no guia de guardrails para agentes de IA, e os tipos de respostas inventadas a procurar estão em como detectar alucinações de agentes de IA.

Que evidências você precisa quando um cliente contesta uma promessa da IA?

Você precisa mostrar o que o agente disse, palavra por palavra e com horário, qual política e conteúdo ele deveria ter usado naquele dia, qual versão do agente rodou, o que qualquer ferramenta realmente fez e como a conversa foi verificada. Sem esse registro, o print do cliente é a única evidência, e ele normalmente vence.

A decisão da Air Canada mostra quanto custa um dossiê vazio. O cliente juntou um print da resposta do chatbot. A companhia aérea “não forneceu nenhuma informação sobre a natureza do seu chatbot” (parágrafo 14), não juntou as condições tarifárias em que se apoiava (parágrafo 31) e não apresentou provas da tarifa de luto real, então o tribunal fez uma inferência desfavorável e usou o valor do cliente (parágrafo 36).

Guarde estes sete registros para cada conversa de agente de IA, pelo tempo que as suas equipes de reclamações e jurídica indicarem:

1. A transcrição completa, sem edição, com horários e o canal.
2. A versão do agente: modelo, prompt ou instruções e configuração em vigor.
3. A versão do conteúdo: quais artigos de ajuda e textos de política o agente podia usar naquele dia.
4. Chamadas de ferramentas e resultados: o que o agente pediu a um sistema e o que o sistema retornou.
5. O aviso de IA que o cliente viu, e se um transbordo para humano foi oferecido.
6. O registro de revisão: nota, avaliador ou verificação automática e qualquer alerta levantado.
7. O registro de correções: o que mudou depois de um alerta, quando e quem aprovou.

O registro mais difícil de reconstruir depois é o vínculo entre datas e versões: “qual prazo de devolução o agente aplicou em 3 de março?” Anote isso a cada nova versão. Políticas para agentes de IA explica como manter as versões das políticas e o conteúdo do agente em sincronia.

Como lidar com uma promessa errada do seu agente de IA?

Cumprir, corrigir, revisar. Cumpra a promessa quando o cliente confiou nela de forma razoável e o custo for proporcional. Corrija-a com todos os outros clientes que receberam a mesma resposta, antes que eles ajam. Revise a causa e confirme a correção nas novas conversas. Brigar por uma única reclamação pequena costuma custar mais do que economiza.

Cumprir. Defina uma regra por escrito com antecedência, de responsabilidade do Head de CX junto com o jurídico: por exemplo, cumprir toda promessa de agente de IA abaixo de um valor definido quando o cliente agiu com base nela, e enviar as maiores a um aprovador nomeado em até um dia útil. A Air Canada ofereceu um cupom de US$ 200, que o cliente não aceitou, e o tribunal se recusou a descontá-lo (parágrafo 41). Um gesto de boa vontade não é um acordo, a menos que o cliente concorde com ele.

Corrigir. Busque ou avalie toda conversa sobre o mesmo tema desde que o erro começou, liste os clientes que receberam a resposta errada e entre em contato com os que ainda não agiram. A auditoria da taxa de resolução de agentes de IA explica como verificar se as conversas “resolvidas” foram realmente resolvidas.

Revisar. Encontre a causa (um artigo desatualizado, uma regra ausente, uma mudança de prompt), corrija, teste de novo e depois verifique as próximas conversas sobre o tema para confirmar que a correção se manteve.

Um exemplo calculado mostra por que o passo de correção compensa. Os números são uma ilustração, não dados de uma empresa real.

• Um agente de IA atende 300 conversas de cancelamento por dia. Uma atualização de conteúdo passa a informar, por engano, um prazo de 60 dias para reembolso integral; a política é de 30 dias.
• O erro dura 12 dias: 3.600 conversas de cancelamento. Em 15% delas, o cliente está entre o dia 31 e o dia 60, e o agente diz que o reembolso integral ainda é possível: 540 clientes.
• Se 40% deles agirem antes que alguém perceba, chegam 216 pedidos de reembolso. A uma média de US$ 90, cumpri-los custa US$ 19.440.
• Os outros 324 clientes ainda não agiram. Entrar em contato com eles no dia em que o erro é encontrado, com a política correta e um pedido de desculpas, evita a maior parte do custo restante e impede que eles confiem razoavelmente na resposta errada.

Uma amostra aleatória de 2% teria revisado cerca de 72 dessas 3.600 conversas, e cerca de 11 conteriam o erro. Isso pode detectar o problema. Não pode dar a você a lista dos 540 nomes, e é a lista que o passo de correção exige.

O checklist de risco de responsabilidade do agente de IA

Use o checklist abaixo para revisar um agente de IA antes do lançamento e uma vez por trimestre depois. Cada linha traz um risco, um exemplo de suporte, o controle que o previne e a evidência que você deveria conseguir apresentar se um cliente, um auditor ou um regulador pedir. Apague as linhas que não se aplicam ao seu agente e dê um responsável a cada linha.

As linhas 1, 2, 3, 11 e 12 são onde começa a maior parte da responsabilidade no suporte: uma resposta errada sobre dinheiro, repetida, sem registro que a explique.

Quando este checklist não é para você

Se o seu agente de IA só responde com base em artigos públicos da central de ajuda, não executa ações e transfere para pessoas toda pergunta sobre dinheiro, conta ou reclamação, as linhas 1, 4, 5 e 11 cobrem a maior parte da sua exposição. Acrescente as demais no dia em que o agente ganhar uma ferramenta de reembolso, crédito ou cancelamento, ou começar a atender um produto regulado.

O checklist também não substitui a revisão jurídica. Direito do consumidor, regras financeiras e reguladores setoriais variam de país para país, e um advogado que conheça o seu mercado deve ler o seu aviso, os seus termos e o contrato com o fornecedor.

Onde a Kaizo entra

A Kaizo verifica cada conversa de suporte, humana ou de IA, com base no seu próprio formulário de monitoria, e mostra o que corrigir. Ela cobre a evidência das linhas 2 e 12: o AutoPilot avalia cada conversa resolvida com base no seu próprio formulário de monitoria, e cada nota leva às linhas da conversa. Veja como funciona o QA de agentes de IA, ou agende uma demo para ver isso nas suas próprias conversas.

Como começar esta semana

Você pode começar esta semana sem uma ferramenta nova: cinco passos mostram onde o seu agente de IA pode gerar responsabilidade hoje e quais registros você não conseguiria apresentar se um cliente contestasse uma resposta amanhã.

1. Separe 50 conversas da semana passada sobre reembolsos, taxas, cancelamentos e reclamações, e marque cada declaração que seja um compromisso.
2. Verifique cada compromisso com a tabela de explicar, confirmar, comprometer-se, exceção e aconselhamento acima.
3. Faça um teste de recuperação: escolha uma conversa de um mês atrás e tente apresentar a transcrição, a versão do agente e a versão da política em até uma hora.
4. Escreva a regra de cumprimento: o valor até o qual uma promessa errada da IA é cumprida sem discussão, e quem aprova acima dele.
5. Copie as 14 linhas, dê um responsável a cada uma e leve as lacunas para a próxima revisão de governança de agentes de IA.

Perguntas frequentes

O que é accountability (responsabilização) em inteligência artificial?

Accountability em IA significa que uma pessoa ou organização nomeada responde pelo que um sistema de IA faz, consegue explicar isso e precisa corrigir quando dá errado. No atendimento ao cliente, essa é a empresa que coloca o agente em operação, com um responsável por agente, registros do que ele disse e fez e um processo para corrigir erros.

Agentes de IA são tratados de forma diferente dos chatbots em termos de responsabilidade?

O princípio é o mesmo: a empresa responde pelos dois. A exposição é diferente. Um chatbot que só responde faz declarações em que um cliente pode confiar. Um agente de IA que reembolsa, cancela ou altera contas também executa ações, então um erro pode movimentar dinheiro ou dados diretamente. Por isso, as ações precisam de limites aplicados nas próprias ferramentas.

Podemos recuperar do fornecedor o custo de um erro do agente de IA?

Só se o seu contrato permitir. Veja as garantias, as indenizações e o teto de responsabilidade do fornecedor antes do lançamento, porque muitos termos limitam a responsabilidade pela precisão das respostas. Na UE, a nova Diretiva de Responsabilidade pelos Produtos acrescenta pedidos de responsabilidade objetiva contra fabricantes de software defeituoso por danos pessoais, materiais e a dados, não por uma resposta errada sobre reembolso.

Revisar as conversas da IA reduz a nossa responsabilidade?

A revisão não transfere a responsabilidade, mas muda duas coisas. Ela encontra cedo as respostas erradas, então menos clientes confiam nelas. E produz evidência de cuidado razoável: no caso Air Canada, a falta de cuidado para garantir que o chatbot fosse preciso fez parte da decisão contra a companhia aérea.

Precisamos avisar os clientes de que estão falando com uma IA?

Na UE, sim: desde 2 de agosto de 2026, as pessoas precisam ser informadas desde a primeira interação, a menos que isso seja óbvio. Em outros lugares é uma boa prática, e apoia os deveres de honestidade que os reguladores de consumo e financeiros já aplicam. Um aviso informa o cliente. Ele não desculpa uma resposta errada.