La gobernanza de agentes de IA en atención al cliente es el conjunto de responsables, reglas y controles que deciden qué puede decir y hacer un agente de IA con sus clientes, cómo se revisan sus conversaciones y qué ocurre cuando se equivoca. Bien hecha, no es un freno. Genera las evidencias que necesita para dar más autonomía al agente, paso a paso.
En resumen
- La mayoría de las guías tratan IT y seguridad. La atención al cliente también necesita gobernar lo que el agente promete, qué políticas aplica y cuándo deriva.
- Cada agente de IA necesita un único responsable que rinda cuentas, y cada política que aplica necesita un responsable y una fecha de revisión.
- Clasifique las acciones del agente por niveles: solo responder, actuar solo, actuar dentro de un límite, actuar con aprobación, nunca.
- Supervisar significa evaluar las propias conversaciones y comprobar que las personas que aprueban las acciones del agente no las aprueban de forma automática.
- Los 15 controles que encontrará más abajo, cada uno con sus evidencias, forman un modelo operativo que puede copiar y los criterios para ampliar la autonomía.
¿Qué es la gobernanza de agentes de IA en atención al cliente?
La gobernanza de agentes de IA en atención al cliente consiste en decidir quién es responsable de cada agente de IA, dentro de qué políticas y límites trabaja, qué acciones requieren a una persona, cómo se revisan sus conversaciones y cómo se gestionan las incidencias. La gobernanza de IT pregunta si el agente puede acceder a un sistema. La gobernanza de la atención al cliente pregunta si lo que hizo por el cliente fue correcto.
La mayoría de las páginas sobre este tema están escritas para equipos de IT y seguridad. Ese trabajo es necesario, pero no suficiente: un agente con permisos perfectamente delimitados puede seguir comunicando a 300 clientes un plazo de devolución equivocado.
| Pregunta | Gobernanza de IT y seguridad | Gobernanza de la atención al cliente |
|---|---|---|
| ¿Qué controla? | El acceso: identidades, permisos, herramientas, datos | El comportamiento: respuestas, promesas, acciones, derivaciones |
| Fallo típico | El agente accede a un sistema al que no debería | El agente aplica una política antigua, promete un reembolso que no puede dar o se queda con un caso que debería derivar |
| Dónde están las evidencias | Registros de acceso, trazas de llamadas a herramientas | En las propias conversaciones |
¿Es nuevo en el tema? Empiece por qué es la IA agéntica (en inglés) y nuestra guía central sobre atención al cliente agéntica.
¿Qué debe incluir un marco de gobernanza de agentes de IA?
Un marco de gobernanza de agentes de IA para atención al cliente debe incluir un registro de agentes, responsables con nombre, la responsabilidad sobre las políticas y el control de cambios, niveles de acción con puntos de aprobación, pruebas antes de cada versión, revisión de conversaciones, reglas de escalamiento, el aviso de IA, un procedimiento de incidencias y una revisión periódica de la autonomía. Cada control necesita evidencias que pueda mostrar a un auditor.
Copie la tabla, asigne un responsable a cada fila y las carencias de su configuración actual saldrán a la luz enseguida.
| # | Control | Responsable | Evidencias que necesita | Frecuencia |
|---|---|---|---|---|
| 1 | Registro de agentes: cada agente de IA con sus intenciones, canales, idiomas, versión y plataforma | Responsable del agente de IA | Entrada en el registro con la fecha de la última revisión | Cada cambio; revisión trimestral |
| 2 | Un único responsable por agente y un responsable por intención | Head of CX | Matriz de responsabilidades firmada (más abajo) | Trimestral |
| 3 | Fuente única de las políticas: cada política que aplica el agente tiene un responsable y una fecha de revisión | Responsables de políticas | Lista de políticas con responsable, versión y fecha de revisión | Mensual |
| 4 | Disparador por cambio de política: el contenido del agente se actualiza y se prueba antes de que el cambio de política entre en vigor | Responsable de la política, responsable del agente de IA | Registro del cambio con un resultado de prueba fechado antes de la entrada en vigor | Cada cambio |
| 5 | Niveles de acción: qué puede hacer el agente, en qué nivel y con qué umbrales | Head of CX | Matriz de acciones y la configuración de la plataforma que la aplica | Trimestral, antes de nuevas acciones |
| 6 | Puntos de aprobación para las acciones que requieren a una persona | Team leads | Registro de aprobaciones: quién, cuándo, qué, aprobado o modificado | Continua |
| 7 | Supervisión de quienes aprueban: tasa de modificación y tiempo de revisión | Responsable de QA | Informe con los valores atípicos | Mensual |
| 8 | Pruebas antes de cada versión por intención, incluidos los casos límite de las políticas y los intentos de sacar al agente de la política | Responsable del agente de IA | Conjunto de pruebas y resultados por versión, con umbral de aprobación | Cada versión |
| 9 | Despliegue escalonado y marcha atrás | Responsable del agente de IA | Registro de la versión con el porcentaje de despliegue y el plan de marcha atrás | Cada versión |
| 10 | Revisión de conversaciones con una scorecard: exactitud, política, escalamiento, aviso de IA, tono | Responsable de QA | Conversaciones evaluadas, cada nota enlazada con las líneas que la justifican | Continua |
| 11 | Reglas de escalamiento: cuándo deriva el agente y qué contexto transmite | Head of CX | Disparadores por escrito, notas de calidad de los traspasos | Trimestral |
| 12 | Aviso de IA en la primera interacción, en todos los canales e idiomas | Legal o cumplimiento normativo | Texto del aviso por canal e idioma, comprobación evaluada del aviso | Cada versión |
| 13 | Límites de acceso y de datos: identidad propia, mínimo privilegio, tratamiento de datos personales | IT y seguridad | Revisión de accesos, registros de actividades de tratamiento | Trimestral |
| 14 | Procedimiento de incidencias: niveles de gravedad, quién puede pausar el agente, cómo se identifica y se compensa a los clientes afectados | Head of CX | Registro de incidencias, lista de clientes afectados, revisión posterior a la incidencia | Cada incidencia |
| 15 | Revisión de la autonomía: ampliar o reducir el alcance por intención, según las evidencias anteriores | Head of CX, responsable del agente de IA | Acta de la decisión con las métricas utilizadas | Mensual |
Los controles 1, 8, 9 y 13 están cerca del trabajo de plataforma e IT que acompaña a cualquier despliegue. Los controles 3, 4, 7, 10 y 15 corresponden al equipo de soporte, y son los que deciden si los errores del agente se quedan en algo pequeño.
¿Quién es responsable de un agente de IA en atención al cliente?
Una sola persona es responsable de cada agente de IA en atención al cliente: normalmente un responsable del agente de IA que reporta al Head of CX, quien rinde cuentas por sus resultados. Los responsables de políticas mantienen el contenido al día, el responsable de QA revisa sus conversaciones, IT protege su acceso y el área legal comprueba el aviso de IA. La responsabilidad compartida sin un nombre concreto es la carencia más habitual.
El marco de Singapur para la IA agéntica es claro en este punto: “Como implantadores, las organizaciones y las personas siguen siendo responsables de las decisiones y acciones de los agentes” (IMDA, Model AI Governance Framework for Agentic AI, en inglés, versión 1.5, sección 2.2.1). El proveedor construye el agente. Su empresa responde de lo que dice a sus clientes.
El rol supone trabajo real. Un equipo que dedicó dos meses a evaluar plataformas enterprise de agentes de IA concluyó en Reddit que necesitaría aproximadamente una persona a tiempo completo para gestionar una (hilo, en inglés). Téngalo previsto antes del lanzamiento.
Una matriz RACI que puede copiar (R = realiza el trabajo, A = rinde cuentas, C = consultado, I = informado):
| Actividad | Head of CX | Responsable del agente de IA | Responsables de políticas | Responsable de QA | IT y seguridad | Legal o cumplimiento normativo |
|---|---|---|---|---|---|---|
| Decidir qué intenciones atiende el agente | A | R | C | C | I | C |
| Fijar los niveles de acción, aprobar versiones, gestionar incidencias, ampliar o reducir la autonomía | A | R | C | C | C | C |
| Mantener al día las políticas y el contenido de ayuda | I | C | A, R | I | C | |
| Revisar conversaciones e informar sobre la calidad | I | C | I | A, R | I | |
| Conceder y revisar el acceso a sistemas | I | C | A, R | |||
| Comprobar el aviso de IA y las obligaciones normativas | I | C | C | A, R |
¿Qué políticas debe seguir un agente de IA y quién las mantiene al día?
Un agente de IA debe seguir las mismas políticas de cliente que su equipo humano (reembolsos, devoluciones, requisitos, compensaciones), además de normas de conducta (aviso de IA, tono, clientes vulnerables) y reglas de escalamiento. Cada política necesita un responsable con nombre y una fecha de revisión, y cualquier cambio debe llegar al contenido del agente antes de entrar en vigor.
El fallo aquí rara vez es una alucinación espectacular. Es un agente que aplica a la perfección la política del mes pasado, en cada conversación sobre ese tema, hasta que alguien cambia el contenido. Por eso nuestra guía sobre alucinaciones de los agentes de IA contrasta las respuestas con la propia política y revisa primero los temas de dinero.
Tres reglas mantienen las políticas al día: el agente responde a partir de las mismas páginas de políticas que usa su equipo, no de una copia pegada en un prompt; cada ticket de cambio de política incluye “actualizar y probar el agente de IA” antes de la fecha de entrada en vigor; y cada mes el responsable de QA enumera las políticas con la fecha de revisión vencida para que sus responsables las confirmen o actualicen.
¿Qué acciones puede ejecutar un agente de IA solo y cuáles requieren aprobación?
Un agente de IA puede actuar solo en acciones reversibles y de poco valor dentro de límites escritos, como reenviar una factura o emitir un reembolso por debajo de un importe fijado. Las acciones de alto riesgo, irreversibles o inusuales requieren antes la aprobación de una persona. Algunas acciones no las ejecuta nunca. Ponga los niveles por escrito, con umbrales, antes de que el agente entre en producción.
El marco de la IMDA cita cuatro tipos de punto de control que deberían activar una aprobación humana (sección 2.2.2): acciones de alto riesgo, acciones irreversibles (entre sus ejemplos figuran enviar comunicaciones y realizar pagos), comportamientos atípicos y límites que fija el usuario. Trasladado a la atención al cliente:
| Nivel | Qué puede hacer el agente | Ejemplos de atención al cliente | Control |
|---|---|---|---|
| 0. Informar | Responder solo a partir de contenido aprobado | Horarios, estado del pedido, preguntas de uso | Revisión de conversaciones |
| 1. Actuar solo | Acciones reversibles sin dinero de por medio | Reenviar una factura, actualizar una nota de entrega, reservar una franja para una llamada | Registrado y revisado |
| 2. Actuar dentro de un límite | Acciones con dinero o compromisos por debajo de un umbral | Reembolso o abono por debajo de su límite, anular un cargo una vez | Umbral aplicado por la plataforma, todos los casos revisados |
| 3. Actuar con aprobación | Acciones por encima del límite, excepciones y decisiones de criterio | Reembolso por encima del límite, gesto comercial fuera de la política, cierre de cuenta | Una persona aprueba antes de la acción |
| 4. Nunca | Fuera del alcance del agente | Amenazas legales, reclamaciones ante reguladores, señales de vulnerabilidad, cambios de datos bancarios | Derivación inmediata a una persona |
Dos detalles hacen que los niveles se sostengan. Es la configuración de la plataforma la que aplica el límite, no solo el prompt. Y las aprobaciones también necesitan gobernanza. La IMDA sugiere seguir la tasa de modificación humana, ya que “una tasa baja puede indicar aprobaciones automáticas”, y el tiempo de revisión, ya que un tiempo más corto puede indicar sesgo de automatización o fatiga de revisión (sección 2.2.2). Quien aprueba el 100% de las solicitudes en cuatro segundos cada una no es un control.
Si varios agentes trabajan en un mismo caso, los niveles deben coincidir entre ellos. El ejemplo de la propia IMDA es un agente de soporte que ofrece reembolsos para resolver rápido las quejas mientras un agente de protección de ingresos bloquea los reembolsos por encima de un umbral (sección 1.2.3). Nuestra guía de orquestación de agentes de IA explica cómo diseñar esos traspasos.
¿Cómo se revisan las conversaciones de un agente de IA?
Las conversaciones de un agente de IA se revisan evaluándolas con una scorecard escrita (exactitud, política, escalamiento, aviso de IA, tono) y enlazando cada nota con las líneas que la justifican. Evalúelas todas, o al menos cada conversación de nivel 2 o superior, porque los errores de un agente de IA se repiten y una muestra pequeña los encuentra tarde.
La supervisión tiene tres capas, cada una con su propia guía en esta serie:
| Capa | Pregunta que responde | Cuándo | Para saber más |
|---|---|---|---|
| Pruebas | ¿Se comporta bien la nueva versión antes de que la vean los clientes? | Antes de cada versión | Pruebas de agentes de IA, pruebas de chatbot |
| Monitorización | ¿Se está rompiendo algo ahora mismo? | En vivo, con alertas | Monitorización de agentes de IA |
| Evaluación y QA | ¿Fue correcta cada conversación y dónde falla la calidad? | Después de cada conversación | Evaluación de agentes de IA |
La tasa de resolución no es una nota de calidad: una conversación cuenta como resuelta cuando el cliente no llegó a una persona, lo que no dice nada sobre si la respuesta era correcta. Nuestra lista de fallos silenciosos de los agentes de IA muestra seis formas en que los errores de un agente se cuentan como éxitos.
Use una sola scorecard para agentes humanos y de IA donde los criterios se apliquen a ambos, más comprobaciones solo para la IA, como los hechos y las políticas inventados. Y dimensione su muestra con honestidad: una muestra de QA del 3% (en inglés) no basta para tomar decisiones sobre un solo agente.
¿Qué evidencias de auditoría conviene conservar de un agente de IA?
Conserve evidencias que muestren, para cualquier fecha, qué versión del agente funcionaba, qué políticas aplicaba, qué se le permitía hacer, quién aprobó sus acciones, qué notas obtuvieron sus conversaciones y cómo se gestionaron las incidencias. Es la columna de evidencias de los 15 controles, guardada donde un auditor pueda encontrarla.
Lo más difícil de reconstruir después es el historial de versiones vinculado a las versiones de las políticas (“¿qué plazo de devolución aplicó el agente el 3 de marzo?”) y las conversaciones evaluadas con las líneas de la transcripción adjuntas. Para las preguntas que IT y compras plantean sobre las propias herramientas, consulte nuestro checklist de seguridad del QA con IA.
¿Cómo se gestiona una incidencia de un agente de IA?
Una incidencia de un agente de IA se gestiona en cinco pasos: contenerla (derivar el tema afectado a personas o volver a la versión anterior), encontrar todas las conversaciones afectadas, compensar a esos clientes, corregir la causa raíz y volver a probar, y después evaluar las conversaciones siguientes para confirmar que la corrección se mantiene. Decida de antemano quién puede pausar el agente.
Un ejemplo práctico muestra por qué el segundo paso necesita cobertura total. Las cifras son una ilustración, no datos de una empresa real.
- Un agente de IA atiende 40.000 conversaciones al mes. Las devoluciones suponen el 12%, es decir, unas 4.800 al mes o 160 al día.
- El día 1, el plazo de devolución baja de 30 a 14 días. El contenido del agente se actualiza el día 10, así que durante 9 días aplica el plazo antiguo.
- En esos 9 días atiende unas 1.440 conversaciones sobre devoluciones. Si el 20% se refiere a artículos de entre 15 y 30 días de antigüedad, a unos 288 clientes se les dice que todavía pueden devolverlos.
- Una muestra aleatoria del 2% revisa unas 800 conversaciones al mes, o 240 en esos 9 días. Unas 29 son conversaciones sobre devoluciones, y unas 6 contienen el error.
La muestra puede detectar el problema. Lo que no puede es decirle quiénes son los otros 282 clientes; para eso necesita buscar o evaluar todas las conversaciones sobre el tema. Cumplir esas promesas con un valor medio de pedido de 60 dólares cuesta unos 17.280 dólares, más los contactos que genera.
Fije los niveles de gravedad de antemano. Un compromiso económico o legal erróneo repetido entre clientes, o la revelación de datos personales, implica pausar el tema en menos de una hora y avisar al área legal; una respuesta de política errónea sin compromiso económico implica derivar el tema a personas y corregirlo en pocos días; los problemas de tono esperan a la siguiente versión.
¿Qué exigen el Reglamento de IA de la UE y el marco de Singapur a los agentes de IA en atención al cliente?
El Reglamento de IA de la UE (AI Act) exige que se informe a los clientes de que interactúan con un sistema de IA, a más tardar en la primera interacción, salvo que resulte evidente; esta obligación se aplica desde el 2 de agosto de 2026. El Model AI Governance Framework for Agentic AI de Singapur es una guía, no una ley, y abarca la delimitación del riesgo, la responsabilidad humana, los controles técnicos y la transparencia con el usuario final.
Reglamento de IA de la UE. El artículo 50, apartado 1, del Reglamento (UE) 2024/1689 impone esta obligación a los proveedores de sistemas de IA que interactúan directamente con personas. Las preguntas frecuentes de la Comisión Europea sobre el artículo 50 (actualizadas el 24 de julio de 2026) confirman que se aplica desde el 2 de agosto de 2026, que el aviso debe darse desde el inicio de la primera interacción y que la excepción de lo “evidente” debe interpretarse de forma restrictiva. La IA que supervisa y evalúa a los empleados puede ser de alto riesgo según el anexo III, con obligaciones a partir del 2 de diciembre de 2027 tras la modificación de 2026 (página de la Comisión sobre el Reglamento de IA). Nuestra guía sobre el Reglamento de IA en atención al cliente entra en los detalles.
Singapur. El marco de la IMDA (versión 1.5, actualizada el 5 de junio de 2026) está escrito para las organizaciones que construyen o compran agentes de IA. Para los agentes de cara al cliente pide transparencia, incluido informar a los usuarios de lo que puede hacer el agente y de a qué personas pueden avisar si funciona mal (sección 2.4.2). Nuestro artículo sobre el marco de gobernanza de la IA agéntica de Singapur lo recorre para los equipos de soporte.
NIST. En Estados Unidos, el AI Risk Management Framework del NIST (en inglés; versión 1.0, 26 de enero de 2023) es de uso voluntario y organiza el trabajo en cuatro funciones: Govern, Map, Measure y Manage (gobernar, mapear, medir y gestionar).
Los 15 controles encajan en los tres. Esta sección resume textos públicos y no constituye asesoramiento jurídico; compruebe sus propias obligaciones con su asesor legal.
¿Cómo permite la gobernanza ampliar la autonomía de un agente de IA paso a paso?
La gobernanza permite ampliar la autonomía porque convierte cada paso en una decisión basada en evidencias: una intención sube de nivel cuando sus conversaciones evaluadas, sus resultados de pruebas y su historial de incidencias cumplen umbrales fijados de antemano, y baja cuando no los cumplen. Sin esas evidencias, la autonomía crece por optimismo o no crece.
La IMDA recomienda desplegar los agentes de forma gradual: por usuarios, por las herramientas y protocolos que puede usar el agente y por los sistemas a los que está expuesto (sección 2.3.3). En atención al cliente, la unidad natural es la intención: amplíe una intención cada vez, no el agente entero.
Criterios de ejemplo para que una intención suba un nivel. Son puntos de partida ilustrativos, no estándares del sector; fije los suyos:
| Criterio | Umbral de ejemplo |
|---|---|
| Volumen evaluado | Al menos 300 conversaciones de esta intención en los últimos 30 días |
| Criterios críticos (exactitud, política) | 98% o más superados |
| Fallos críticos | Ninguno en los últimos 30 días |
| Escalamiento correcto | 95% o más de los casos que debían derivarse se derivaron |
| Pruebas | Las acciones del nuevo nivel superan el conjunto de pruebas previo a la versión |
| Aprobación de los responsables | Head of CX y responsable del agente de IA, registrada en la revisión de la autonomía |
Las reglas para bajar de nivel importan igual. Una regla sensata: un patrón de fallo crítico (la misma causa tres veces en una semana, por ejemplo) devuelve la intención al nivel anterior hasta que la corrección se haya probado y las conversaciones siguientes salgan limpias. Primero un alcance reducido; un alcance mayor, con evidencias.
¿Qué herramientas de gobernanza de agentes de IA necesita?
Necesita herramientas para cinco tareas: los controles de la plataforma del agente (límites, versiones, marcha atrás), la seguridad de identidades y accesos, un registro de gobernanza o de riesgos, la monitorización y evaluación del comportamiento del agente, y la revisión de calidad de las propias conversaciones. Ninguna herramienta cubre los 15 controles, así que asigne cada control a la herramienta que produce sus evidencias.
| Tipo de herramienta | Controles que suele cubrir | Qué deja sin cubrir |
|---|---|---|
| Plataforma del agente de IA | 5, 6, 8, 9: límites, aprobaciones, despliegue escalonado, marcha atrás | Lo que el agente dijo a los clientes |
| Identidad y seguridad | 13: identidad, mínimo privilegio, revisiones de acceso | Si la respuesta era correcta |
| Registros de gobernanza y riesgos | 1, 2, 12: inventario, riesgo, normativa | La calidad del día a día |
| Observabilidad y evaluación | 8: trazas, alertas, conjuntos de pruebas | La evaluación con su scorecard de soporte |
| QA de conversaciones | 10, 11, 12: scorecard, escalamiento, aviso de IA | El acceso y la mecánica de las versiones |
Sierra, por ejemplo, describe la revisión por pares antes de cada versión, un rol de revisor y versiones que se publican para una parte del tráfico en su artículo sobre gobernanza de versiones (en inglés). Controles como estos siguen necesitando la revisión de las conversaciones en vivo una vez que un cambio llega a todos.
Dónde encaja Kaizo
Kaizo es un software de QA para atención al cliente que evalúa cada conversación, tanto de su equipo como de sus agentes de IA. Cubre la revisión de conversaciones (control 10) y las evidencias evaluadas de escalamiento y aviso de IA (11 y 12): AutoPilot evalúa cada conversación resuelta con su propia scorecard y enlaza cada nota con las evidencias. Consulte QA para agentes de IA o reserve una demo para verlo con sus propias conversaciones.
Cuándo este modelo es más de lo que necesita
Si su agente de IA solo responde a partir de su centro de ayuda, no ejecuta acciones y atiende unos cientos de conversaciones al mes, le bastan cinco controles: un responsable, una fecha de revisión de las políticas, el aviso de IA, una regla de derivación y una lectura periódica de sus conversaciones. Añada el resto cuando empiece a ejecutar acciones, a manejar dinero o a funcionar con volúmenes que nadie puede leer.
Cómo empezar esta semana
Puede empezar esta semana sin una herramienta nueva ni un comité. Cinco pasos ponen las bases para el agente que ya tiene en marcha y muestran qué controles faltan.
- Nombre al responsable. Una persona por agente de IA, por escrito, con el Head of CX como responsable último.
- Complete el registro. Enumere cada agente, las intenciones y canales que atiende y su versión actual.
- Redacte los niveles de acción. Sitúe cada acción que puede ejecutar el agente en un nivel, con umbrales, y compruebe que la plataforma los aplica.
- Enumere las políticas que aplica con un responsable y una fecha de revisión, y añada “actualizar el agente de IA” a su proceso de cambio de políticas.
- Evalúe las conversaciones de la semana pasada de una intención de alto volumen con su scorecard y vea lo que una muestra habría pasado por alto.
Preguntas frecuentes
¿Qué diferencia hay entre la gobernanza de la IA agéntica y la gobernanza tradicional de la IA?
La gobernanza tradicional de la IA se centra en lo que produce un modelo: la exactitud, el sesgo y la transparencia de sus predicciones o textos. La gobernanza de la IA agéntica añade lo que hace el sistema: las acciones que ejecuta, las herramientas que usa y quién las aprueba. En atención al cliente, eso significa gobernar reembolsos, cambios en cuentas y derivaciones, no solo respuestas.
¿Cuáles son los pilares de la gobernanza de la IA?
No hay una lista oficial única. El marco del NIST organiza el trabajo en Govern, Map, Measure y Manage. Para un equipo de soporte, los pilares prácticos son la asignación de responsables, el control de las políticas, los límites de acción, la revisión de conversaciones y la gestión de incidencias.
¿Exige la ley la gobernanza de agentes de IA?
En parte. En la UE, el artículo 50 del Reglamento de IA exige el aviso de IA desde el 2 de agosto de 2026, y la normativa de protección de datos sigue aplicándose. El marco de Singapur es una guía sin rango legal y el del NIST es de uso voluntario; ninguno de los dos establece sanciones.
¿Quién es responsable cuando un agente de IA da información errónea a un cliente?
Planifique como si lo fuera su empresa. El marco de Singapur establece que las organizaciones que implantan agentes y las personas siguen siendo responsables de las decisiones y acciones de los agentes. Diga lo que diga su contrato con el proveedor, el cliente ve su marca, así que el procedimiento de incidencias y la compensación a los clientes le corresponden a usted.
¿Cuánta revisión humana necesita un agente de IA?
La revisión humana debe seguir al riesgo, no a un porcentaje fijo. Evalúe todas las conversaciones de forma automática, envíe las acciones de nivel 3 a una persona antes de que se ejecuten y haga que las personas revisen los fallos, las notas discutidas y una muestra semanal de calibración. Después, compruebe que quienes aprueban las acciones modifican realmente algunas de ellas.
