Pular para o conteúdo

Comparativo

Monitoria manual vs automatizada: custo e cobertura

Monitoria manual vs automatizada lado a lado: custo, cobertura, consistência, precisão e velocidade, com um modelo de custo para aplicar aos seus números.

· 16 min de leitura

Revisado por Dominik Blattner, fundador da Kaizo

Nesta página

Na monitoria manual, avaliadores dão nota à mão a uma pequena amostra de conversas. Na monitoria automatizada (Auto QA), os mesmos critérios são aplicados a todas as conversas, sem cansaço nem desvio, enquanto as pessoas continuam definindo o padrão e tomando as decisões subjetivas.

Em resumo

  • A monitoria manual custa horas de avaliador, e essas horas crescem com o volume.
  • Com o Auto QA, o feedback chega no mesmo dia, e não semanas depois.
  • Comece um programa totalmente novo de forma manual, porque uma máquina não consegue definir o padrão.

O que monitoria manual e QA automatizado significam de fato

A monitoria manual é o modelo tradicional. Um avaliador, muitas vezes um analista de qualidade dedicado ou um líder de equipe com QA na descrição do cargo, abre uma conversa, lê ou escuta e dá a nota com base em um formulário de monitoria. Como uma avaliação cuidadosa leva tempo de verdade, só uma amostra das conversas é avaliada, em geral escolhida ao acaso ou por uma regra simples, como um número fixo por atendente por mês.

O Auto QA pega o mesmo formulário de monitoria e o aplica por software. Todas as conversas são avaliadas pelos mesmos critérios sem que uma pessoa precise abri-las, e cada nota fica ligada à evidência na transcrição que a gerou. Em vez de uma amostra, você tem a população inteira avaliada e, em vez de uma fila de avaliações, sua equipe tem uma fila de exceções que vale a pena olhar.

Vale ser preciso sobre o que está sendo comparado aqui. As duas abordagens compartilham os mesmos critérios, a mesma definição de qualidade e o mesmo objetivo de coaching. O que muda é quem avalia, quanto do trabalho é avaliado, com que consistência, com que rapidez e a que custo. Tudo o que vem a seguir compara essas cinco coisas com honestidade, incluindo os pontos em que a abordagem manual realmente ganha.

Monitoria manual vs automatizada em uma tabela

Este é o comparativo direto nas dimensões que de fato mudam o desempenho de um programa de QA. Se você só tem um minuto, leia primeiro a última coluna: ela traz a consequência prática, não a teoria.

DimensãoMonitoria manualAuto QAO que isso significa na prática
O que gera o custoHoras de avaliador com todos os encargos, que crescem com o volumeCusto do software, praticamente fixo à medida que o volume cresceO custo manual cresce junto com o negócio, o automatizado em geral não
CoberturaUma amostra, muitas vezes um percentual baixo de um dígitoTodas as conversasUma amostra não diz nada sobre as conversas que ninguém leu
ConsistênciaVaria conforme o avaliador, o humor, a carga de trabalho e o mêsOs mesmos critérios aplicados sempreA automação elimina o desvio entre avaliadores, uma fonte real de notas injustas
Precisão em critérios objetivosAlta, mas lentaAlta e repetívelChecagens de processo, de política e de fatos são onde a automação é mais forte
Precisão em nuances subjetivasMelhor, principalmente em casos-limite rarosModerada, melhora com a calibraçãoMantenha as pessoas nas decisões que realmente exigem julgamento
Tempo até o feedbackDias a semanas depois da conversaNo mesmo diaO coaching chega enquanto o atendente ainda se lembra do atendimento
EscalabilidadeMais cobertura exige mais avaliadoresA cobertura não depende do tamanho da equipePicos de volume quebram a monitoria manual e quase não afetam a automatizada
Definição do padrãoSó pessoasSó pessoasUma máquina consegue aplicar um padrão, mas não consegue decidir o que é bom

Custo: conte horas de avaliador, não preço de licença

O erro mais comum nessa comparação é colocar o preço de um software contra zero. A monitoria manual não é de graça. Ela é paga em horas de avaliador que costumam ficar escondidas no salário dos líderes de equipe, então ninguém nunca põe um número nela. Ponha um número e a comparação fica simples.

Um modelo de custo para rodar com os seus próprios números

Não aceite o benchmark de ninguém para isso, nem o nosso. Use os seus próprios dados:

  • Passo 1, horas de avaliação por mês: número de atendentes, multiplicado pelas avaliações por atendente por mês, multiplicado pela média de minutos por avaliação, dividido por 60.
  • Passo 2, some o trabalho em volta das avaliações: some as horas que a sua equipe realmente gasta em sessões de calibração, contestações de nota, montagem de relatórios e busca de amostras. Meça isso, não estime, porque costuma ser maior do que as pessoas imaginam.
  • Passo 3, converta em dinheiro: multiplique o total de horas pelo seu próprio custo-hora com todos os encargos das pessoas que fazem as avaliações. Com todos os encargos significa salário mais encargos do empregador mais custos indiretos, e não o salário-base dividido por 2.080.
  • Passo 4, coloque preço na cobertura que você não tem: refaça o passo 1 trocando as avaliações por atendente pelas conversas atendidas por atendente. Esse é o custo de avaliar tudo à mão. Para a maioria das equipes, o número é absurdo, e é exatamente esse o ponto.

Duas ressalvas honestas. Primeiro, o Auto QA também tem custo: o software, mais o tempo das pessoas para configurar o formulário de monitoria e calibrá-lo, mais o tempo contínuo para investigar o que ele traz à tona. Inclua isso, ou a sua comparação não será justa. Segundo, as horas de avaliador que você libera não somem da folha de pagamento. Elas são realocadas para coaching e para análise de causa raiz. A economia é real, mas aparece como capacidade e resultados, não como uma equipe menor, e qualquer business case que prometa o contrário está vendendo demais.

Não vamos publicar aqui um custo de referência por avaliação nem um salário típico, porque esses números variam tanto por região, senioridade e canal que citar um seria enganoso. A conta acima é a parte útil.

Cobertura: a lacuna que uma amostra nunca fecha

Esta é a dimensão em que as duas abordagens são menos comparáveis. A monitoria manual avalia uma amostra. O Auto QA avalia a população inteira. Todo o resto é diferença de grau; esta é uma diferença de natureza.

O problema de uma amostra não é ser imprecisa sobre as conversas que estão nela. É ficar em silêncio sobre as conversas que estão fora dela. Se os seus avaliadores leem um pequeno percentual dos atendimentos, a grande maioria da experiência dos seus clientes a cada mês simplesmente não é observada. Escalonamentos, falhas de política, um novo padrão de erro em uma área de produto lançada na semana passada: nada disso fica visível, a não ser que caia por acaso na amostra. E as amostras raramente são tão aleatórias quanto as equipes acreditam. Avaliadores escolhem tickets recentes, tickets curtos, tickets de atendentes que já estão no radar, o que distorce ainda mais o quadro.

Há também um problema estatístico que os defensores da amostragem costumam pular. Uma amostra serve para estimar uma média ampla, como a nota geral de qualidade de uma equipe grande. Ela é quase inútil para as perguntas que de fato se fazem ao QA, que são específicas: este atendente está melhorando, aquela mudança de política funcionou, qual tipo de falha está crescendo. Divida uma amostra pequena por atendente, por canal e por mês e sobram poucas conversas em cada célula, o que não basta para concluir nada sobre o desempenho de uma pessoa.

A cobertura total troca a pergunta “o que vimos” por “o que está acontecendo”. Na UiPath, a Kaizo automatizou 100% da monitoria de qualidade, com 200% de ROI e um aumento de 8% na nota de qualidade, o tipo de resultado que só fica ao alcance quando todas as conversas são avaliadas, e não uma fatia delas.

Consistência: desvio do avaliador versus os mesmos critérios sempre

A monitoria manual tem um problema de justiça raramente discutido abertamente, porque nomeá-lo parece criticar os avaliadores. A culpa não é deles. É o que acontece com qualquer pessoa que aplica critérios subjetivos centenas de vezes.

As três formas como as notas manuais se desviam

  • Entre avaliadores: duas pessoas dão notas diferentes para a mesma conversa. É exatamente por isso que as sessões de calibração existem, e o simples fato de serem necessárias já é a prova.
  • No mesmo avaliador ao longo do tempo: a mesma pessoa avalia com mais rigor no início de um bloco de avaliações do que no fim, e de forma diferente numa terça-feira tranquila e em meio a um backlog. O cansaço é real e mexe nas notas.
  • No programa como um todo: os padrões se desviam à medida que avaliadores entram e saem, que os critérios são reinterpretados e que se acumulam precedentes informais que nunca foram escritos. Dois anos depois, as notas significam algo diferente do que significavam no lançamento.

A automação não tem esses modos de falha. Ela aplica exatamente os mesmos critérios à conversa número um e à conversa número quatrocentos mil, com o mesmo padrão, sem memória da última nota que deu. É por isso que uma tendência de nota vinda de um sistema automatizado é confiável de um jeito que uma tendência manual muitas vezes não é: quando o número muda, foi o comportamento que mudou, não o humor do avaliador.

O contraponto honesto é que consistência não é o mesmo que acerto. Uma máquina que aplica um critério mal escrito vai aplicá-lo mal a tudo, de forma consistente. Isso é um argumento para investir nos critérios e calibrá-los, não para aceitar o desvio.

Precisão: onde cada lado realmente ganha

Precisão é a dimensão sobre a qual as pessoas mais discutem e que menos entendem, então vale ser direto sobre a divisão.

A automação é mais forte nos critérios que podem ser verificados contra evidências na transcrição. O atendente confirmou a identidade? As informações obrigatórias foram dadas? A informação estava correta segundo a base de conhecimento? O retorno prometido foi de fato agendado? Esses critérios são a maior parte da maioria dos formulários de monitoria reais, e são verificações em que uma máquina que lê a conversa inteira supera uma pessoa que a lê por cima no fim de um longo bloco de avaliações.

As pessoas são melhores onde o julgamento é realmente necessário. Aquele pedido de desculpas foi sincero ou protocolar? O problema real do cliente era diferente do que ele descreveu? Esse caso-limite deveria ter sido escalonado, considerando tudo o que acontecia com aquela conta? Esses também são os critérios em que os avaliadores humanos mais discordam entre si, e essa é a razão honesta de serem difíceis, não uma crítica à automação.

A implicação prática é pesar a sua avaliação do jeito que o seu formulário de monitoria é de fato ponderado. Julgar um sistema automatizado apenas pelo seu critério subjetivo mais difícil, quando esse critério é uma pequena parte do total, diz muito pouco. Tratamos a precisão em profundidade em uma página separada, incluindo como medir a concordância nas suas próprias conversas em vez de confiar na promessa de alguém, em qual é a precisão da monitoria com IA. A versão curta: precisão é algo que você mede contra um padrão humano calibrado, não algo que você aceita por fé, e toda nota deve estar ligada à evidência que a gerou para que você possa conferi-la.

A pergunta a fazer antes de acreditar em qualquer nota automatizada

A pergunta é se você consegue provar que ela está certa. Peça três coisas: cada nota rastreada até as linhas exatas da transcrição que a geraram, um caminho para o atendente contestar uma nota e uma pessoa revertê-la, e uma rodada do avaliador automático em conversas que os seus próprios avaliadores já avaliaram e sobre as quais concordaram, para você ver a taxa de concordância critério por critério antes que alguém seja medido por ela. A monitoria manual não tem nada equivalente a esse último teste, o que vale notar: ninguém valida um avaliador humano contra um conjunto de referência.

Tempo até o feedback e escalabilidade

Essas duas dimensões recebem menos atenção do que custo e cobertura, e mudam o dia a dia de um programa de QA mais do que qualquer uma delas.

Velocidade: o coaching chega a tempo ou não chega

Em um programa manual, o ciclo é longo. A conversa acontece, espera na fila, entra na amostra no fim do ciclo, é avaliada e depois é discutida em uma reunião individual. A essa altura, o atendente pode nem se lembrar do atendimento e, se lembrar, já repetiu o mesmo comportamento muitas vezes desde então. Feedback que chega semanas depois é registro de compliance, não coaching.

Com a avaliação automática, a conversa recebe nota assim que é encerrada. Um padrão que aparece na segunda-feira pode ser trabalhado no coaching na segunda-feira, e o atendente pode acompanhar as próprias notas no caminho em vez de ser surpreendido na hora da avaliação. Isso encurta a distância entre o comportamento e a correção, que é todo o mecanismo pelo qual o QA melhora alguma coisa.

Escalabilidade: a armadilha linear

A monitoria manual escala de forma linear. Dobre o volume de conversas e você precisa do dobro de horas de avaliador para manter a mesma cobertura. Na prática, ninguém dobra o número de avaliadores, então a cobertura cai pela metade sem alarde e o programa fica mais fraco em silêncio à medida que o negócio cresce. Os picos sazonais pioram tudo: justamente quando o risco para a qualidade é maior, os avaliadores são puxados para a fila e o QA é a primeira coisa a ser deixada de lado.

A cobertura automatizada não depende do tamanho da equipe. O volume pode triplicar e todas as conversas continuam sendo avaliadas. Essa diferença estrutural explica por que equipes que passam de um certo tamanho tendem a chegar à mesma conclusão, e isso é tratado com mais profundidade no nosso guia de QA automatizado.

Quando a monitoria manual ainda é a escolha certa

Uma comparação justa precisa incluir os casos em que a abordagem manual não é só aceitável, mas a correta. Há vários.

  • Você está começando um programa de QA do zero. Não dá para automatizar um padrão que você ainda não definiu. A avaliação manual é como uma equipe descobre o que é bom de verdade no seu próprio contexto, quais critérios importam e quais parecem importantes mas nunca mudam um resultado. Leia conversas suficientes à mão e os critérios se escrevem sozinhos. Pule essa etapa e você automatiza a opinião de outra pessoa. O nosso guia para montar uma monitoria de qualidade começa aqui exatamente por esse motivo.
  • O que está em jogo em um caso individual é muito alto. Decisões reguladas, reclamações com exposição jurídica, escalonamentos de contas de alto valor. Esses casos merecem a leitura de uma pessoa, seja qual for a nota que qualquer sistema tenha dado.
  • Você está calibrando. A calibração é manual por natureza: pessoas lendo as mesmas conversas e discutindo até chegar a um acordo. Esse trabalho não desaparece quando você automatiza; ele fica mais importante, porque o padrão acordado é a referência contra a qual a automação é medida.
  • Algo parece errado e você precisa saber por quê. Uma nota diz o que aconteceu. Entender por que costuma exigir uma pessoa lendo a conversa e o contexto em volta dela. A automação é muito boa em apontar as conversas certas e não substitui a leitura delas.
  • O seu volume é realmente pequeno. Se uma equipe consegue, com honestidade, avaliar à mão uma grande parte das suas conversas, o argumento da cobertura quase desaparece, e consistência e velocidade passam a ser os motivos que restam para automatizar.

Se você leu tudo isso e concluiu que quer manter uma quantidade relevante de avaliação manual, essa é uma posição defensável. O erro não é manter a monitoria manual. O erro é depender dela para uma cobertura que ela não consegue dar.

A conclusão honesta: uma divisão de trabalho

Tratar isso como uma questão de substituição leva a uma resposta ruim nos dois sentidos. Ou as equipes defendem a monitoria manual contra uma ameaça que não é bem uma ameaça, ou automatizam e perdem sem perceber o julgamento humano que dava credibilidade ao programa.

O modelo que funciona é uma divisão de trabalho segundo aquilo em que cada lado é bom de verdade:

  • As máquinas avaliam. Todas as conversas, os mesmos critérios, no mesmo dia, com cada nota rastreada até a evidência. É trabalho de volume com exigência de consistência, que é a definição de uma tarefa para automatizar.
  • As pessoas calibram. Elas decidem o que é bom, escrevem e afinam os critérios, definem juntas o padrão de referência e resolvem contestações. Nenhum sistema consegue fazer isso, e nenhum deveria tentar.
  • As pessoas investigam. A automação traz à tona os pontos fora da curva e os padrões emergentes. As pessoas vão atrás para entendê-los, e é daí que vêm as causas raiz e as correções de processo.
  • As pessoas fazem coaching. O objetivo do QA nunca foi a nota. Foi a conversa que vem depois dela, e esse é um trabalho humano em qualquer versão disso.

Na prática, a mudança está em para onde vai o tempo dos avaliadores. Em um programa manual, a maior parte é consumida avaliando, e o que sobra vai para o coaching. Automatize a avaliação e essa proporção se inverte. A mesma equipe passa a dedicar as suas horas ao trabalho que muda o comportamento dos atendentes, que é o resultado para o qual o programa foi financiado. A Kaizo foi construída para essa divisão, e construída para ser verificada. Cada nota leva à evidência exata que a gerou, qualquer nota pode ser contestada e revertida por uma pessoa, e você pode rodar o avaliador automático em conversas que os seus avaliadores já avaliaram para ver o quanto ele concorda antes de confiar nele. Ela aplica o formulário de monitoria que a sua equipe define a todas as conversas, e não a uma amostra escolhida, então ninguém fica na mira só por causa de uma regra de amostragem. Ela avalia o trabalho feito por IA e por atendentes com o mesmo padrão. É nativa no Zendesk e no Salesforce, então a avaliação acontece onde o trabalho já acontece.

Se você está mais no início da jornada, comece pelos fundamentos da qualidade no atendimento e acerte o padrão antes de escalá-lo. Automatizar critérios em que ninguém confia só produz, mais rápido, notas em que ninguém confia.

Perguntas frequentes

Qual é a diferença entre monitoria manual e Auto QA?

A monitoria manual é um avaliador humano dando nota a uma amostra de conversas com base em critérios. O Auto QA é um software aplicando os mesmos critérios a todas as conversas, automaticamente. Os critérios e o objetivo são os mesmos; o que muda é a cobertura, a consistência, o custo e a rapidez com que o feedback chega ao atendente.

O Auto QA é mais barato que a monitoria manual?

Depende do seu volume, e a comparação só funciona se você contar as horas de avaliador com todos os encargos, e não o preço das licenças. O custo da monitoria manual cresce de forma linear com o volume de conversas e com o tamanho da equipe, enquanto a cobertura automatizada fica praticamente estável à medida que você cresce. Faça a conta com os seus próprios números: atendentes multiplicados pelas avaliações, multiplicados pelos minutos por avaliação, divididos por 60, e depois multiplicados pelo seu próprio custo-hora com todos os encargos.

O Auto QA é mais preciso que um avaliador humano?

Ele é mais consistente, e mais preciso em critérios objetivos que podem ser verificados com evidências, como aderência ao processo e correção das informações. Os avaliadores humanos continuam melhores em decisões raras e muito subjetivas, que também são os critérios em que as pessoas mais discordam entre si. A comparação mais útil não é a precisão por conversa, e sim a precisão na operação inteira, onde a cobertura total supera uma amostra cuidadosa.

O Auto QA substitui os analistas de qualidade?

Não. Ele substitui a avaliação manual de milhares de conversas, não o analista. O papel deixa de ser ler e dar nota e passa a ser calibrar o padrão, investigar o que o sistema traz à tona, resolver contestações e fazer coaching, que é a parte de maior valor do trabalho e a que de fato muda o comportamento dos atendentes.

Uma equipe de atendimento pequena deve automatizar a monitoria?

Se a sua equipe consegue, com honestidade, avaliar à mão uma grande parte das suas conversas, o argumento da cobertura é mais fraco, e os motivos para automatizar passam a ser a consistência e a velocidade do feedback. Equipes pequenas ainda se beneficiam de eliminar o desvio entre avaliadores e de ter notas no mesmo dia, mas o retorno é menos expressivo do que para equipes em que a avaliação manual só consegue alcançar uma pequena amostra.

Dá para usar monitoria manual e Auto QA juntos?

Sim, e esse é o modelo ao qual a maioria dos programas maduros chega. A automação avalia todas as conversas e sinaliza as exceções, enquanto as pessoas calibram o padrão, avaliam à mão os casos ambíguos e de alto risco e conduzem o coaching. Manter a avaliação manual não é falhar em automatizar; é onde o julgamento humano vale mais.

Termos relacionados

Teste o avaliador nas suas próprias conversas

Traga o seu formulário de monitoria atual, um mês de conversas reais e as que os seus avaliadores já avaliaram. Vamos mostrar o quanto a avaliação automatizada concorda com o seu próprio padrão, critério por critério, com cada nota rastreada até a evidência exata na transcrição.

Agendar demo Conheça o Agentic Auto QA Compare softwares de QA

Nesta página

Veja isso nas suas próprias conversas

Avaliamos uma amostra dos seus tickets reais com os seus próprios padrões, para que o exemplo seja seu.

A escolha de equipes de atendimento no mundo todo

  • Foot Locker
  • SteelSeries
  • Canva
  • GetYourGuide
  • Instacart