Un agente de IA con human in the loop pide a una persona que apruebe una acción antes de ejecutarla, pero solo en las acciones en las que un error es caro, difícil de deshacer o sensible desde el punto de vista legal. En atención al cliente, responder una pregunta frecuente o cambiar una dirección puede hacerse sin supervisión previa, un reembolso por encima de su límite necesita aprobación y borrar los datos de un cliente nunca debería decidirlo el agente.
En resumen
- Decida la autonomía por acción, no por agente: el mismo agente de IA puede responder solo, reembolsar dentro de un límite y derivar el cierre de una cuenta.
- Puntúe cada acción en cuatro consecuencias (reversibilidad, dinero, legal o cumplimiento normativo, daño al cliente) de 0 a 3, y deje que la puntuación más alta fije el nivel.
- Cinco niveles cubren el trabajo de soporte: informar (solo responder), actuar solo, actuar dentro de un límite, actuar con aprobación, nunca.
- Una aprobación solo es un control si quien aprueba ve los datos correctos, responde a tiempo y a veces dice que no.
- Amplíe o reduzca la autonomía intención por intención, con evidencias: conversaciones evaluadas, acciones revertidas y aprobaciones auditadas.
¿Qué significa human in the loop para un agente de IA?
Human in the loop (una persona dentro del circuito) significa que una persona debe aprobar, modificar o rechazar la acción que propone un agente de IA antes de que se ejecute. Human on the loop (una persona sobre el circuito) significa que el agente actúa y una persona supervisa y puede intervenir después. La atención al cliente necesita ambos: dentro del circuito para las pocas acciones de riesgo, sobre el circuito para todo lo demás.
La mayoría de las guías tratan a la persona como un único punto de control para todo el agente. En soporte eso falla en los dos sentidos: un control en cada acción entierra a los team leads en aprobaciones, y ningún control permite que el agente cancele una suscripción de inmediato cuando el cliente solo quería desactivar la renovación automática.
Las plataformas de agentes le dan el mecanismo hecho. Microsoft Agent Framework, por ejemplo, pausa un flujo y emite una solicitud de aprobación cuando el agente intenta usar una herramienta marcada como sujeta a aprobación, y lo reanuda cuando llega una respuesta (Microsoft Learn, en inglés). Lo que la plataforma no decide es qué acciones llevan esa marca. Esa decisión corresponde al Head of CX, al responsable del agente de IA y a los responsables de las políticas.
OWASP llama “agencia excesiva” (excessive agency) al fallo que esto previene y, entre sus medidas de mitigación, incluye el control human in the loop “para exigir que una persona apruebe las acciones de alto impacto antes de que se ejecuten” (OWASP LLM06:2025). Lo difícil es definir qué es “alto impacto” en sus propias acciones de soporte. Nuestra guía de gobernanza de agentes de IA presenta 15 controles; este artículo profundiza en el control 5 (niveles de acción) y en los controles 6 y 7 (aprobaciones y supervisión de quienes aprueban).
¿Cuáles son los cinco niveles de autonomía de las acciones de un agente de IA?
Los cinco niveles son: 0, informar (responder solo con contenido aprobado); 1, actuar solo en acciones reversibles sin dinero de por medio; 2, actuar dentro de un límite de dinero o de compromisos; 3, actuar con la aprobación de una persona; 4, nunca actuar, derivar. Cada acción está exactamente en un nivel.
| Nivel | El agente puede | Papel de la persona | Control típico |
|---|---|---|---|
| 0. Informar | Responder con contenido aprobado, sin cambiar nada | Sobre el circuito | Revisión de conversaciones con su scorecard |
| 1. Actuar solo | Ejecutar acciones reversibles sin dinero de por medio | Sobre el circuito | Acción registrada, conversaciones revisadas |
| 2. Actuar dentro de un límite | Ejecutar acciones con dinero o compromisos hasta un umbral fijado | Sobre el circuito | Umbral aplicado por la plataforma, cada caso revisado |
| 3. Actuar con aprobación | Proponer la acción; una persona la aprueba antes de que se ejecute | Dentro del circuito | Registro de aprobaciones, tasa de modificación, tiempo de revisión |
| 4. Nunca | Reconocer el caso y derivarlo con contexto | La persona se queda con el caso | Calidad del traspaso revisada |
Son los mismos niveles que en la guía de gobernanza, de modo que una sola matriz sirve para su registro de gobernanza y para la configuración de la plataforma. Después, los guardrails aplican los límites dentro de cada nivel.
¿Cómo se decide qué acciones de un agente de IA requieren aprobación humana?
Puntúe cada acción en cuatro consecuencias, de 0 (ninguna) a 3 (grave): reversibilidad, dinero, exposición legal o de cumplimiento normativo y daño al cliente si la acción es errónea. La puntuación individual más alta fija el nivel, no la suma, porque una acción barata que no se puede deshacer sigue siendo una acción que no se puede deshacer.
Esto sigue la lógica del Model AI Governance Framework for Agentic AI de Singapur, según el cual las organizaciones deben definir puntos de control que exijan aprobación humana para acciones de alto riesgo, acciones irreversibles (entre sus ejemplos están borrar datos de forma permanente y realizar pagos), comportamientos atípicos y límites que fijan los propios usuarios (IMDA, versión 1.5, sección 2.2.2, en inglés; vea nuestro resumen del marco). Los responsables de soporte lo resumen así: automatice según la consecuencia, no según lo compleja que parezca la conversación. La escala siguiente lo hace repetible, de modo que dos personas que puntúan la misma acción llegan al mismo resultado.
La escala de consecuencias
| Puntuación | Reversibilidad | Dinero | Legal o cumplimiento normativo | Daño al cliente si es erróneo |
|---|---|---|---|---|
| 0 | No cambia nada, o el cliente puede deshacerlo solo | Ninguno | Ninguno | Ninguno |
| 1 | El equipo puede deshacerlo en un día sin coste | Igual o inferior a su límite por acción (L1) | Sigue una política escrita, sin proceso regulado | Una molestia que se corrige en el siguiente contacto |
| 2 | Se puede deshacer, pero el cliente lo nota o cuesta esfuerzo o dinero | Por encima de L1, hasta su tope de aprobación (L2) | Afecta a un proceso regulado, un plazo o las condiciones de un contrato | Pérdida de servicio, de acceso o de dinero que el cliente tiene que reclamar |
| 3 | No se puede deshacer | Por encima de L2, o sin importe fijo | Efecto jurídico sobre el cliente, o un proceso que su empresa asigna a un equipo concreto (privacidad, legal, fraude) | Daño grave o duradero, también a un cliente vulnerable |
La regla de puntuación
Aplique las reglas en este orden y deténgase en la primera que se cumpla:
- La acción no cambia nada (solo responde): nivel 0, informar.
- Legal o daño al cliente puntúa 3: nivel 4, nunca. Se queda con el caso una persona responsable de ese proceso.
- Cualquier dimensión puntúa 2 o 3: nivel 3, actuar con aprobación.
- Dinero puntúa 1: nivel 2, actuar dentro de un límite.
- Todo lo demás (todas las puntuaciones en 0 o 1, sin dinero): nivel 1, actuar solo.
Después aplique tres excepciones de contexto, sea cual sea el nivel de la acción. Si la identidad no está verificada, el agente no puede actuar sobre la cuenta en absoluto. Si el cliente muestra señales de vulnerabilidad, menciona acciones legales o presenta una reclamación formal, la conversación pasa a una persona (nivel 4). Si la solicitud es inusual para ese cliente, como un tercer reembolso en un mes, sube un nivel. Esta última es el punto de control de “comportamiento atípico” de IMDA traducido a soporte.
¿Qué acciones de soporte requieren aprobación humana? La matriz de autonomía
Los cambios de dirección y la desactivación de la renovación automática pueden hacerse solos; los reembolsos pequeños, la anulación de recargos y los créditos de cortesía, dentro de un límite; los reembolsos mayores, las cancelaciones inmediatas y el cierre de cuentas necesitan aprobación; el borrado de datos y el cambio de datos bancarios se quedan con una persona.
Los límites (L1 = 50 USD, L2 = 250 USD) y las puntuaciones siguientes son una ilustración para un equipo de suscripciones y comercio electrónico. Copie las columnas, no las cifras.
| Acción | Reversibilidad | Dinero | Legal | Daño | Nivel | Por qué |
|---|---|---|---|---|---|---|
| Responder una pregunta frecuente (plazo de devolución, horario) | 0 | 0 | 0 | 1 | 0. Informar | No cambia nada; la revisión de conversaciones detecta una respuesta errónea |
| Cambiar la dirección de entrega antes del envío (cliente verificado) | 1 | 0 | 0 | 1 | 1. Actuar solo | El equipo puede corregirlo el mismo día |
| Cancelar al final del periodo (desactivar la renovación automática) | 1 | 0 | 1 | 1 | 1. Actuar solo | El cliente mantiene el acceso hasta que termina el periodo |
| Reembolso de hasta 50 USD en un pedido que cumple las condiciones | 1 | 1 | 1 | 1 | 2. Dentro de un límite | Hay dinero, pero por debajo de L1 y dentro de la política escrita |
| Anular un recargo por demora, una vez cada 12 meses | 1 | 1 | 1 | 0 | 2. Dentro de un límite | Pequeño, sujeto a política, fácil de auditar |
| Crédito de cortesía dentro del importe de la política | 1 | 1 | 1 | 1 | 2. Dentro de un límite | Igual que un reembolso pequeño; fuera de la política pasa al nivel 3 |
| Reembolso de más de 50 USD | 1 | 2 | 1 | 1 | 3. Con aprobación | Dinero por encima de L1; por encima de 250 USD necesita a alguien con más responsabilidad |
| Cancelar de inmediato con reembolso proporcional | 2 | 1 | 1 | 2 | 3. Con aprobación | El cliente pierde el acceso ahora; a menudo no es lo que quería |
| Cerrar una cuenta | 3 | 1 | 2 | 2 | 3. Con aprobación | El historial y los saldos no se pueden recuperar |
| Borrar los datos personales del cliente | 3 | 0 | 3 | 2 | 4. Nunca | Irreversible, y un proceso regulado que pertenece al equipo de privacidad |
| Cambiar los datos bancarios o de cobro | 2 | 3 | 2 | 3 | 4. Nunca | Objetivo clásico de fraude; el daño puede ser grande y duradero |
Defina la acción con precisión. “Cancelar la suscripción” son dos acciones con niveles distintos. Un agente que cancela de inmediato cuando el cliente pidió detener la próxima renovación ha ejecutado correctamente la acción equivocada.
Separe la solicitud de la ejecución. El agente puede aceptar y registrar una solicitud de supresión de datos (nivel 1) mientras la supresión en sí se queda en el equipo de privacidad (nivel 4). Según el RGPD, la empresa debe informar al cliente de las actuaciones realizadas sobre esa solicitud “sin dilación indebida y, en cualquier caso, en el plazo de un mes a partir de la recepción de la solicitud” (artículo 12, apartado 3, del RGPD), así que un traspaso limpio, con un ticket y un plazo, es tarea del agente.
Revise la columna legal con sus propios asesores jurídicos. El artículo 22 del RGPD reconoce a las personas el derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado que produzca efectos jurídicos o les afecte significativamente de modo similar, con excepciones; cuando se aplica una excepción, la empresa debe ofrecer como mínimo el derecho a obtener intervención humana. Que el cierre de una cuenta o una negativa entren en ese supuesto depende de su caso, y por eso la matriz envía esas acciones a una persona. Para las obligaciones específicas de la UE, vea nuestra guía sobre el Reglamento de IA en atención al cliente.
¿Cómo funciona en la práctica un flujo de aprobación de un agente de IA?
El agente propone la acción, la plataforma la pausa y envía una tarjeta de aprobación a la persona adecuada, que aprueba, modifica o rechaza dentro de un plazo fijado, y el agente le dice al cliente qué ocurrirá a continuación. Si nadie responde a tiempo, la acción se deniega y el caso pasa a una persona.
Quién aprueba
Envíe cada acción de nivel 3 al rol que ya toma esa decisión para los agentes humanos, no a un rol nuevo.
| Acción | Quién aprueba | Alternativa si no está disponible |
|---|---|---|
| Reembolso entre L1 y L2 | Team lead de turno | Cualquier team lead de la cola |
| Reembolso por encima de L2 | Especialista de facturación o finanzas | Derivar, sin acción |
| Cortesía fuera de la política | Team lead | Derivar, sin acción |
| Cancelación inmediata | Especialista de retención o facturación | Ofrecer en su lugar la cancelación al final del periodo |
| Cierre de cuenta | Especialista de cuentas | Derivar, sin acción |
Con qué rapidez hay que aprobar
El tiempo de aprobación debe ajustarse al canal. En el chat en vivo el cliente está esperando, así que necesita una respuesta en minutos o un mensaje claro de que la acción se confirmará por correo electrónico. En el correo y los tickets, unas horas suelen bastar. Fije un objetivo por canal y mídalo.
Cuando vence el plazo, deniegue por defecto. IMDA incluye entre sus medidas de supervisión “denegar la acción por defecto cuando falla la infraestructura de aprobación”, por ejemplo cuando no se localiza a los supervisores humanos (sección 2.2.2). El cliente debe oír entonces que una persona hará el seguimiento, nunca silencio.
Qué ve quien aprueba
IMDA aconseja que las solicitudes de aprobación sean “contextuales y fáciles de asimilar”, breves y claras en lugar de largos registros, que dejen claro el riesgo e incluyan datos útiles como el riesgo de la acción (sección 2.2.2). Para un reembolso, eso significa una sola tarjeta:
- La acción, el importe y la regla que la activa (“reembolso de 120 USD, por encima del límite de 50 USD”).
- El estado de la verificación de identidad y el historial relevante, como los reembolsos de los últimos 12 meses.
- La política en la que se basa el agente, enlazada, con su versión.
- El motivo del agente en una frase, un resumen de dos líneas y un enlace a la transcripción.
- Las puntuaciones de consecuencia, para que quien aprueba sepa qué está en juego.
- Aprobar, modificar o rechazar, con motivo obligatorio para modificar y rechazar, y una justificación por escrito para las aprobaciones por encima de L2.
Ejemplo práctico: ¿cuántas aprobaciones puede asumir su equipo?
Ilustración, con cifras elegidas para el ejemplo. Un agente de IA atiende 40.000 conversaciones al mes y el 6% termina en una acción de nivel 3. Son 2.400 aprobaciones al mes, unas 109 por día laborable en 22 días. A 90 segundos por aprobación, son unas 2,7 horas diarias de tiempo de team lead, antes de que nadie haya leído a fondo una sola transcripción.
Las aprobaciones son una partida de plantilla, así que planifíquelas como tal. Si la proporción de nivel 3 sube al 15%, el mismo equipo se enfrenta a unas 273 aprobaciones al día y la calidad de la revisión cae. Ese es el momento de pasar algunas acciones al nivel 2 con un límite, con evidencias, en lugar de pedir a las personas que hagan clic más rápido.
¿Cómo evitar la fatiga de aprobación y las aprobaciones automáticas?
Mida a quienes aprueban, no solo al agente. Siga la tasa de modificación de cada persona que aprueba (con qué frecuencia modifica o rechaza) y su tiempo de revisión. IMDA señala que una tasa de modificación baja puede indicar aprobaciones automáticas y que un tiempo de revisión más corto puede indicar sesgo de automatización o fatiga de revisión (sección 2.2.2). Después audite una muestra de las acciones aprobadas.
El sesgo de automatización, aceptar la sugerencia de un sistema sin comprobarla, crece cuando las solicitudes casi siempre son correctas. Así que el problema empeora a medida que el agente mejora.
Ilustración de lo que puede mostrar el informe, con cifras inventadas:
| Quién aprueba | Solicitudes (30 días) | Modificadas o rechazadas | Tasa de modificación | Mediana del tiempo de revisión |
|---|---|---|---|---|
| Team lead A | 1.200 | 20 | 1,7% | 4 segundos |
| Team lead B | 640 | 58 | 9,1% | 70 segundos |
| Team lead C | 710 | 61 | 8,6% | 65 segundos |
El team lead A es el caso “atípico” que describe IMDA, una persona cuyos patrones de decisión se apartan de la norma. Cuatro segundos no bastan para leer una tarjeta. No es un hallazgo disciplinario: normalmente significa que A cubre el turno con más carga.
Cuatro hábitos mantienen el sentido de las aprobaciones:
- Mantenga pequeño el nivel 3. Si una persona gestiona más de un número fijado de solicitudes por hora, baje un nivel, con un límite, las acciones claramente seguras.
- Audite las acciones aprobadas. Cada semana, pida a QA que revise una muestra de acciones aprobadas frente a la política. Una tasa de aprobación no le dice nada; una tasa de aprobaciones correctas, sí.
- Forme a quienes aprueban en los modos de fallo del agente, como citar una política desactualizada, el ejemplo que da IMDA. Nuestro artículo sobre por qué fallan las conversaciones con IA recoge los más comunes.
- Rote y ponga topes. Reparta las aprobaciones entre varios team leads y fije un máximo por turno, para que nadie apruebe cientos de solicitudes seguidas.
¿Qué evidencias deben ampliar o reducir los permisos de un agente de IA?
Amplíe la autonomía de una intención cuando sus conversaciones evaluadas superan el umbral, sus aprobaciones son correctas en su mayoría según la auditoría y sus acciones rara vez se revierten o se discuten. Redúzcala cuando cualquiera de estas señales empeore. Cambie un paso cada vez: suba un límite o baje una acción de nivel, y observe las semanas siguientes.
Las evidencias por intención:
| Señal | Qué le dice | Amplíe cuando | Reduzca cuando |
|---|---|---|---|
| Notas de las conversaciones (exactitud, política, escalamiento) | Si el agente aplica bien la política | Los criterios críticos se cumplen de forma constante | Un fallo crítico se repite |
| Tasa de modificación de las aprobaciones | Con qué frecuencia las personas discrepan del agente | Baja, con tiempos de revisión normales y auditorías limpias | Sube, o es baja con tiempos de revisión muy cortos |
| Auditoría de las acciones aprobadas | Si las aprobaciones fueron correctas | Casi todas correctas | Aparecen aprobaciones erróneas |
| Tasa de reversión (reembolsos recuperados, cancelaciones anuladas) | Si las acciones se mantuvieron | Rara | Sube |
| Reaperturas y reclamaciones tras la acción | Si el cliente estuvo de acuerdo | Estables o a la baja | Al alza |
Una tasa de modificación baja puede significar que el agente acierta o que quienes aprueban dejaron de leer. Solo la auditoría y los tiempos de revisión distinguen las dos cosas, así que use las tres señales antes de ampliar. Después amplíe por pasos: suba L1 de 50 a 75 USD para los reembolsos de una intención, mantenga todo lo demás y compare las cuatro semanas siguientes con las cuatro anteriores. La guía de gobernanza incluye ejemplos de criterios para subir una intención de nivel y una regla para bajarla. Para comprobar que las acciones resolvieron lo que el cliente necesitaba, vea cómo hacer una auditoría de la tasa de resolución de un agente de IA, y mantenga al día las políticas detrás de cada límite con la gestión de políticas de agentes de IA.
Cuándo esta matriz no es para usted
Si su agente de IA solo responde preguntas, está por completo en el nivel 0: necesita una buena base de conocimiento, una regla de derivación y revisión de conversaciones, no un flujo de aprobación. Construya la matriz la semana antes de conectar el agente a reembolsos o cambios de cuenta. Y con unas pocas decenas de acciones a la semana, un team lead puede leerlas todas a posteriori, así que los informes de modificación aportan poco.
Dónde encaja Kaizo
Kaizo es QA y supervisión de la gobernanza para equipos de soporte en los que personas y agentes de IA comparten el trabajo. AutoPilot evalúa cada conversación resuelta con su propia scorecard, así que las notas de conversación de la tabla de evidencias proceden de todas sus conversaciones, no de una muestra, y cada nota enlaza con las líneas que la justifican. Vea cómo funciona el QA de agentes de IA.
Véalo con sus propias conversaciones. Kaizo evalúa el 100% de sus conversaciones de soporte, de su equipo y de sus agentes de IA, y muestra dónde se rompe la calidad. Reserve una demo.
Cómo empezar esta semana
Puede construir la primera matriz de autonomía en una tarde con el responsable de su agente de IA y un team lead, a partir de la configuración de la plataforma, el registro de aprobaciones del mes pasado y la regla de puntuación anterior.
- Enumere todas las acciones que su agente de IA puede ejecutar hoy, a partir de la configuración de la plataforma, no de memoria.
- Puntúe cada acción y aplique la regla de puntuación y las tres excepciones de contexto.
- Compárelo con la plataforma. Compruebe que cada límite de nivel 2 y cada marca de aprobación de nivel 3 se aplica en la plataforma, no solo en el prompt.
- Asigne quién aprueba y el plazo para cada acción de nivel 3, y configure la denegación por defecto al vencer el plazo.
- Saque las cifras del mes pasado: aprobaciones por día, tasa de modificación y mediana del tiempo de revisión por persona. Esa es su línea de base para la primera revisión de autonomía.
Nuestra guía sobre la atención al cliente agéntica muestra dónde encajan estos niveles en el despliegue completo.
Preguntas frecuentes
¿Qué es la autorización human in the loop para agentes de IA?
Es una regla según la cual un agente de IA no puede ejecutar ciertas acciones hasta que una persona concreta las apruebe. El agente propone la acción, la plataforma la pausa y quien aprueba la aprueba, la modifica o la rechaza. La autorización es por acción y por importe, no un permiso general para el agente.
¿ChatGPT es human in the loop?
Por sí solo, un asistente de chat es human in the loop en un sentido sencillo: produce texto y una persona decide qué hacer con él. En cuanto se conecta a herramientas que ejecutan acciones, como emitir reembolsos, usted tiene que decidir qué acciones se ejecutan solas y cuáles esperan a una persona.
¿Para qué sirve un kill switch en un agente de IA?
Un kill switch (botón de parada) detiene rápidamente un agente de IA, o una de sus acciones, cuando algo sale mal, como una mala versión o un error de política que se repite a escala. Complementa las aprobaciones: las aprobaciones frenan acciones de riesgo individuales antes de que ocurran, y un mecanismo de parada limita el daño cuando un patrón se cuela. Compruebe qué ofrece su plataforma de agentes para pausar un agente o una sola acción, y quién puede usarlo.
¿Deben ser iguales los límites de reembolso para todos los clientes?
No necesariamente. Fije un límite por acción y después redúzcalo o exija aprobación cuando haya reembolsos recientes, identidad no verificada o solicitudes inusuales. IMDA también menciona límites que fijan los propios usuarios, como exigir aprobación para compras por encima de un importe.
¿Qué le dice el agente de IA al cliente mientras espera la aprobación?
Debe decir con claridad que un compañero tiene que confirmar la acción, cuánto suele tardar y cómo recibirá el cliente la respuesta. Nunca debe prometer el resultado antes de la aprobación: una promesa rechazada es peor que una espera breve.
¿Reduce el human in the loop la responsabilidad de la empresa por los errores del agente de IA?
No. Una aprobación muestra que una persona revisó la acción, pero la responsabilidad sigue siendo de la empresa, y un registro de aprobaciones automáticas puede demostrar que la supervisión no era real. Conserve el registro de aprobaciones, las tasas de modificación y las auditorías, para poder demostrar que los controles funcionaron.
