El Model AI Governance Framework for Agentic AI (marco modelo de gobernanza de la IA agéntica) es una guía de la Infocomm Media Development Authority (IMDA) de Singapur para desplegar agentes de IA de forma responsable. Pide a las organizaciones evaluar y acotar los riesgos de antemano, hacer que las personas rindan cuentas de verdad, implantar controles técnicos y procesos, y facilitar la responsabilidad del usuario final. En atención al cliente, eso significa permisos acotados, puntos de aprobación, pruebas, monitoreo y aviso de IA.
En resumen
- La IMDA presentó el marco el 22 de enero de 2026; el texto vigente es la versión 1.5, publicada el 20 de mayo de 2026 y actualizada el 5 de junio de 2026.
- Es una guía, no una ley: describe «buenas prácticas emergentes», se define como un documento vivo y no fija sanciones.
- Cita a los agentes de atención al cliente como agentes que interactúan con usuarios y pide avisar de la IA en la interfaz, en el punto de interacción.
- La tabla de correspondencias de abajo convierte cada sección en un paso para un agente de IA de soporte y en las evidencias que conviene guardar.
- Si atiende a clientes en la UE, el Reglamento de IA es la capa vinculante por encima; los dos coinciden sobre todo en el aviso de IA.
Esta explicación está escrita a partir de la fuente primaria y no es asesoramiento jurídico. Forma parte de nuestra guía de gobernanza de agentes de IA.
¿Qué es el marco de gobernanza de Singapur para la IA agéntica?
El Model AI Governance Framework for Agentic AI es un documento de 53 páginas de la IMDA que ofrece a las organizaciones «una visión estructurada de los riesgos de la IA agéntica y de las buenas prácticas emergentes para gestionarlos». Está dirigido a las organizaciones que despliegan agentes de IA, tanto si los construyen internamente como si usan soluciones agénticas de terceros.
| Elemento | Lo que dice la fuente |
|---|---|
| Título exacto | Model AI Governance Framework for Agentic AI |
| Editor | Infocomm Media Development Authority of Singapore (IMDA) |
| Presentación | Anunciado por la ministra Josephine Teo en el Foro Económico Mundial de Davos, el 22 de enero de 2026 (comunicado del MDDI) |
| Versión vigente | Versión 1.5, publicada el 20 de mayo de 2026 y actualizada el 5 de junio de 2026 (PDF de la IMDA) |
| Qué cambió la 1.5 | Comentarios de más de 60 empresas, nuevos factores de riesgo, riesgos multiagente, monitoreo de la tasa de anulación, gestión del cambio, casos de estudio |
| Se apoya en | El Model AI Governance Framework de la IMDA (2020) |
La parte 1 explica qué es un agente y qué puede salir mal. La parte 2 es el marco propiamente dicho, en cuatro dimensiones:
- 2.1 Evaluar y acotar los riesgos de antemano: casos de uso adecuados (2.1.1); límites, identidad y permisos del agente (2.1.2).
- 2.2 Hacer que las personas rindan cuentas de verdad: responsabilidades dentro y fuera de la organización (2.2.1); supervisión humana significativa (2.2.2).
- 2.3 Implantar controles técnicos y procesos: controles en el diseño (2.3.1), pruebas antes del despliegue (2.3.2), despliegue gradual, monitoreo y gestión del cambio después (2.3.3).
- 2.4 Facilitar la responsabilidad del usuario final: transparencia para los usuarios que interactúan con agentes (2.4.2); formación para quienes trabajan con ellos (2.4.3).
¿Es obligatorio el marco de Singapur para la IA agéntica?
No. El marco se presenta como una guía: ofrece «buenas prácticas emergentes», la mayoría de sus recomendaciones dicen «las organizaciones deberían considerar» y se define como «un documento vivo». El comunicado de presentación dice que «orienta a las organizaciones sobre cómo desplegar agentes de forma responsable». No fija sanciones ni tiene un mecanismo propio de aplicación.
El documento no usa la palabra «voluntario», así que descríbalo con precisión internamente: una guía no normativa de un regulador. Sus obligaciones legales en materia de protección de datos, consumo y normativa sectorial se aplican igualmente, y el marco es claro en que «las organizaciones que despliegan agentes y las personas que los supervisan siguen siendo responsables de las acciones de los agentes».
¿Qué riesgos dice el marco que crean los agentes de IA?
El marco enumera cinco tipos de daño causados por agentes: acciones erróneas, acciones no autorizadas, acciones sesgadas o injustas, filtraciones de datos y perturbaciones en los sistemas conectados. Añade riesgos sistémicos por la velocidad y el volumen, los errores en cascada y las configuraciones multiagente. Cada uno tiene un ejemplo sencillo en atención al cliente.
| Riesgo según el marco | En atención al cliente |
|---|---|
| Acciones erróneas | El agente reembolsa el pedido equivocado |
| Acciones no autorizadas | El agente concede una exención de cargo que, según la política, requiere a un supervisor |
| Acciones sesgadas o injustas | Los créditos de cortesía se ofrecen más a menudo a un grupo de clientes |
| Filtraciones de datos | El agente revela la dirección de otro cliente o sobrescribe un registro |
| Perturbación de sistemas conectados | El agente satura el sistema de pedidos con consultas repetidas |
| Velocidad y volumen | Una instrucción defectuosa se repite en miles de conversaciones |
El propio ejemplo de conflicto multiagente de la IMDA es un caso de soporte: «un agente de atención al cliente puede ofrecer reembolsos para resolver reclamaciones con rapidez, mientras que un agente de protección de ingresos puede bloquear los reembolsos por encima de cierto umbral». Si avanza hacia una atención al cliente agéntica con agentes que se pasan casos entre sí, ese conflicto es una cuestión de diseño.
¿Cómo se aplica cada parte del marco a un agente de IA de atención al cliente?
Cada dimensión se traduce en unas pocas decisiones para el equipo de soporte: qué intenciones puede atender el agente y con qué permisos, quién es su responsable y qué aprueba, cómo se prueba y se vigila, y qué se les dice a los clientes y al personal. Los pasos siguen el orden de secciones del propio marco.
2.1 Evaluar y acotar los riesgos de antemano
El marco evalúa el riesgo según el impacto (ámbito y caso de uso, datos sensibles, sistemas externos, lectura o escritura, reversibilidad) y la probabilidad (autonomía, complejidad de la tarea, exposición a sistemas externos, suministro por terceros, complejidad del sistema). Aplíquelo por intención, no por bot:
- Clasifique sus intenciones por niveles. El estado de un pedido es solo lectura. Un reembolso es una acción de escritura con dinero de por medio. Cerrar una cuenta es difícil de revertir.
- Aplique el mínimo privilegio: «las herramientas y el acceso a datos mínimos necesarios». Acceso de lectura para el estado del pedido, no derechos de administrador en el helpdesk.
- Limite las tareas de proceso con un procedimiento operativo estándar en lugar de dejarlas al criterio libre. Los flujos de reembolso y cancelación son exactamente eso.
- Planifique cómo desconectar el agente para una intención o un canal, nombre a quién puede hacerlo y pruébelo.
- Dé al agente su propia identidad, vinculada a un responsable humano, con permisos nunca mayores que los de la persona que lo autoriza.
2.2 Hacer que las personas rindan cuentas de verdad
Nombre a un responsable de los casos de uso y los límites, a un equipo para el diseño, las pruebas y el monitoreo, y a un responsable de seguridad para las salvaguardas y el red teaming. Si el agente viene de un proveedor, el marco le pide que fije en el contrato la seguridad, el rendimiento y la protección de datos, y que solicite información y registros del uso de herramientas y del historial de accesos. Nuestro checklist de seguridad para QA con IA tiene preguntas de compra que puede reutilizar.
Exija aprobación en los «puntos de control significativos»: acciones de alto impacto, acciones irreversibles (el marco cita el envío de comunicaciones y la realización de pagos), comportamientos atípicos y límites definidos por el usuario. Después, audite a quienes aprueban con dos indicadores: la tasa de anulación humana, donde «una tasa baja puede indicar aprobaciones automáticas sin revisión», y el tiempo de respuesta, donde un tiempo corto «puede indicar sesgo de automatización o fatiga de revisión».
2.3 Implantar controles técnicos y procesos
Prefiera los controles que impone el sistema a los controles en el prompt. El ejemplo del marco: «en lugar de indicar a un agente que no use determinadas herramientas, se pueden implantar controles de acceso en la capa de herramientas». Ponga el tope de reembolso en la API de reembolsos, no en el prompt de sistema.
Antes del lanzamiento, pruebe la ejecución de tareas, el cumplimiento de políticas (incluido el enrutamiento a la aprobación humana), las llamadas a herramientas y la robustez, en todo el flujo de trabajo, de forma repetida y con datos variados. Nuestra guía de pruebas de agentes de IA convierte esto en un plan de pruebas. Tras el lanzamiento, despliegue de forma gradual, monitoree de forma continua, fije umbrales de alerta con una intervención definida para cada uno, conserve logs que no se puedan borrar y revise según su riesgo los cambios en modelos, herramientas y políticas. La guía de monitoreo de agentes de IA trata el diseño de alertas.
2.4 Facilitar la responsabilidad del usuario final
Esta sección cita la atención al cliente de forma directa. El marco pide «declarar de antemano en la interfaz de usuario que los usuarios están interactuando con agentes, en el punto de interacción, en lugar de indicarlo solo en documentación aparte», y explicar a los usuarios qué puede hacer el agente, cómo se usan sus datos y con qué persona pueden contactar. Para el personal, añade formación sobre los modos de fallo y una advertencia sobre la «pérdida del oficio»: mantenga suficientes personas capaces de llevar el proceso cuando el agente no esté disponible.
¿Qué evidencias debe guardar un equipo de soporte para cada parte del marco?
Guarde evidencias que alguien pueda comprobar sin preguntarle: un registro, una decisión firmada, un resultado de prueba, un log, una captura de pantalla. El marco no prescribe documentos, así que esta tabla es nuestra traducción de cada sección al registro que un equipo de soporte podría mostrar a un auditor, a un regulador o a su propio consejo.
| Sección del marco | Qué significa para un agente de IA de soporte | Evidencias que guardar |
|---|---|---|
| 2.1.1 Casos de uso adecuados | Cada intención clasificada por impacto y probabilidad antes de que la atienda el agente | Registro de casos de uso: intención, nivel, factores de riesgo, quién aprueba, fecha |
| 2.1.2 Límites del agente y riesgo residual | Lectura o escritura por herramienta, topes de dinero, procedimientos, una desconexión probada, riesgo residual aceptado | Matriz de permisos, versión del procedimiento, última prueba de desconexión, aceptación de riesgo firmada |
| 2.1.2 Identidad y autorización | Credenciales propias, un responsable con nombre, no más derechos que la persona que autoriza | Registro de identidades del agente con responsable y alcance de las credenciales |
| 2.2.1 Responsabilidades internas | Responsables de casos de uso, diseño y pruebas, seguridad, revisión diaria | Matriz RACI, revisada en cada cambio |
| 2.2.1 Responsabilidades externas | Obligaciones del proveedor en seguridad, rendimiento y datos; visibilidad del uso de herramientas | Cláusulas del contrato, información del proveedor, prueba de que puede exportar los logs |
| 2.2.2 Supervisión humana | Aprobaciones para acciones de alto impacto e irreversibles, cada una con su riesgo y su nivel de confianza | Registro de aprobaciones; tasa de anulación mensual y tiempo de respuesta mediano por aprobador |
| 2.3.1 Controles técnicos | Límites impuestos en el sistema; datos sensibles como las contraseñas introducidos por el cliente, no gestionados por el agente | Lista de controles con el lugar donde se aplica cada uno |
| 2.3.2 Pruebas previas al despliegue | Ejecución de tareas, cumplimiento de políticas, llamadas a herramientas, robustez; flujo completo; ejecuciones repetidas | Conjunto de pruebas, umbrales de aprobado, resultados por ejecución, aprobación |
| 2.3.3 Despliegue, monitoreo y cambios | Despliegue por fases; cada conversación comprobada frente a la política; alertas; cambios revisados según su riesgo | Puertas de despliegue, notas de QA e historial de alertas, registro de incidentes, registro de cambios |
| 2.4.2 Usuarios que interactúan | Aviso de IA en el chat, qué puede hacer el agente, uso de los datos, un contacto humano | Captura del aviso por canal e idioma; página del centro de ayuda; vía de escalamiento |
| 2.4.3 Usuarios que trabajan con agentes | Supervisores formados en los modos de fallo; alternativa manual mantenida | Registros de formación; un simulacro de funcionamiento manual |
La mayoría de estas evidencias caducan, porque el marco trata el monitoreo como algo continuo. Y una muestra pequeña es una evidencia débil para un agente que repite el mismo comportamiento miles de veces, lo que apoya comprobar cada conversación frente a la política con una scorecard para agentes de IA.
¿Cómo se fijan los puntos de aprobación sin provocar fatiga de alertas?
Fije las aprobaciones por nivel de riesgo, no por número de acciones, y compruebe después que quienes aprueban siguen pensando. El marco advierte de que la aprobación humana continua «también puede provocar sesgo de automatización y fatiga de alertas», y cita dos señales: una tasa de anulación baja y tiempos de respuesta cortos. No da umbrales, así que fije los suyos.
Una ilustración, con cifras elegidas por nosotros para mostrar la aritmética (no son datos de ninguna empresa). El agente de IA de un comercio minorista atiende 40.000 conversaciones al mes:
| Nivel | Intenciones de ejemplo | Peso | Al mes | Papel humano |
|---|---|---|---|---|
| 1 | Estado del pedido, entrega, cambio de dirección antes del envío | 70% | 28.000 | Ninguno en el momento; se evalúa después |
| 2 | Reembolsos y exenciones de cargos | 25% | 10.000 | Aprobación solo para reembolsos de más de 50 USD |
| 3 | Cierre de cuenta, reclamaciones legales, contracargos | 5% | 2.000 | El agente deriva; actúa una persona |
Aprobar cada reembolso del nivel 2 supone 10.000 solicitudes al mes, unas 455 por día laborable en 22 días. Nadie revisa tantas con atención. Si el 20% de los reembolsos supera los 50 USD, las aprobaciones bajan a 2.000 al mes, unas 91 al día.
Ahora, audítelas. Supongamos que los aprobadores rechazaron o modificaron 14 de 2.000 solicitudes, una tasa de anulación del 0,7%, con un tiempo de decisión mediano de 3 segundos. Juntas, esas cifras encajan con la descripción que hace el marco de las aprobaciones automáticas sin revisión. Una regla de decisión que proponemos: cuando la tasa de anulación esté por debajo del 2% y el tiempo de decisión mediano por debajo de 10 segundos, vuelva a revisar a ciegas una muestra de 50 solicitudes aprobadas. Si los revisores cambiarían varias, acorte las solicitudes, añada el riesgo y el nivel de confianza que pide el marco, o mueva el tope.
El nivel 1 no tiene ningún aprobador, así que la evaluación a posteriori de cada conversación es el único control sobre el 70% del volumen. La guía de evaluación de agentes de IA explica cómo evaluar esos resultados.
¿Cómo se compara el marco con el Reglamento de IA de la UE en atención al cliente?
El Reglamento de IA de la UE (AI Act) es una ley vinculante; el marco de Singapur es una guía. Para un agente de IA de soporte coinciden sobre todo en el aviso de IA: el artículo 50, apartado 1, del Reglamento de IA exige desde el 2 de agosto de 2026 que se informe a las personas de que interactúan con una IA, y el marco pide lo mismo en el punto de interacción.
| Tema | Marco de Singapur para la IA agéntica | Reglamento de IA de la UE |
|---|---|---|
| Carácter jurídico | Guía, un documento vivo | Reglamento (UE) 2024/1689, vinculante en la UE |
| Informar al cliente de que es una IA | Declararlo en la interfaz, en el punto de interacción | Una obligación del proveedor, desde la primera interacción, salvo que resulte evidente (preguntas frecuentes de la Comisión) |
| Enfoque del riesgo | Su propia evaluación por caso de uso | Niveles fijos; un agente de soporte de cara al cliente suele estar en el nivel de transparencia |
| Supervisión humana, pruebas, monitoreo | Detallados para cualquier agente que tome acciones | Obligaciones detalladas sobre todo para los sistemas de alto riesgo; las normas del anexo III se aplican desde el 2 de diciembre de 2027 (página de la Comisión sobre el Reglamento de IA) |
En la práctica, el Reglamento de IA fija el mínimo en la UE, sobre todo el aviso de IA para un agente de cara al cliente, mientras que el marco de Singapur le dice cómo gestionar un agente que toma acciones. En ambos mercados, construya un único conjunto de controles que cumpla el Reglamento de IA y use la estructura del marco para el resto. Nuestro artículo sobre el Reglamento de IA en atención al cliente cubre las fechas, los niveles y las multas.
Cuándo este marco no es el más adecuado
Si su bot solo responde con su propio centro de ayuda y no toma acciones, la mayor parte del marco supone poco trabajo. Sus factores de riesgo consideran de menor riesgo el acceso de solo lectura y una base de conocimiento mantenida internamente, así que necesita sobre todo el aviso de IA, un contacto humano y controles de calidad de las respuestas.
Tampoco describe ninguna certificación, así que «conforme al MGF» no es una afirmación que nadie pueda verificar por usted; lo que puede mostrar son las evidencias de la tabla de arriba.
¿Dónde encaja el QA en el marco?
El QA cubre las partes que necesitan pruebas a partir de conversaciones reales: el cumplimiento de políticas tras el lanzamiento, las auditorías periódicas, el aviso de IA y el ciclo de retroalimentación que pide el marco, «para que los hallazgos del monitoreo vuelvan a los conjuntos de datos de entrenamiento y a los marcos de evaluación». Los logs muestran lo que hizo el agente; una nota de calidad muestra si acertó.
Kaizo es una forma de cubrir esa parte. Evalúa el 100% de las conversaciones de sus agentes de IA con su propia scorecard, la misma con la que se evalúa a su equipo, y vincula cada nota con las evidencias de la conversación; vea QA de agentes de IA. Reserve una reunión para verlo con sus propias conversaciones.
Cómo empezar esta semana
Puede cubrir la primera dimensión y parte de la cuarta en cinco días laborables sin herramientas nuevas: qué puede tocar el agente, quién es su responsable, qué ven los clientes y una primera auditoría de quienes aprueban.
- Día 1: enumere cada intención que atiende el agente y cada herramienta que puede usar; marque cada herramienta como de lectura o de escritura.
- Día 2: clasifique cada intención por impacto y reversibilidad; señale cualquier acción de escritura que implique dinero o cuentas.
- Día 3: nombre a un responsable del agente y de cada nivel; deje por escrito quién puede desconectarlo y pruébelo.
- Día 4: abra una conversación en cada canal e idioma; haga una captura del aviso de IA y de la vía para hablar con una persona.
- Día 5: calcule la tasa de anulación y el tiempo de respuesta mediano del mes pasado por aprobador.
Preguntas frecuentes
¿Existe un PDF del marco?
Sí. La IMDA lo publica en PDF en imda.gov.sg con el título «Model AI Governance Framework for Agentic AI», versión 1.5. Tiene 53 páginas, incluidos casos de estudio, recursos adicionales en el anexo A y una convocatoria de comentarios en el anexo B.
¿Se aplica el marco a empresas de fuera de Singapur?
El marco no define un ámbito territorial. Está escrito para cualquier organización que quiera desplegar IA agéntica, construida internamente o comprada. Las empresas de otros países pueden usar su estructura, pero son sus propias leyes las que deciden qué es obligatorio.
¿Exige el marco que una persona apruebe cada respuesta de un agente de IA?
No. Pide aprobación en los puntos de control significativos, como las acciones de alto impacto, irreversibles o inusuales, y señala que supervisar de forma continua cada flujo de trabajo resulta inviable a gran escala. Las aprobaciones se combinan con monitoreo automatizado y umbrales de alerta.
¿Qué hay de nuevo en la versión 1.5?
La versión 1.5 recoge los comentarios de más de 60 empresas desde la versión 1.0. Añade factores de riesgo como la complejidad del sistema y las soluciones de terceros, riesgos multiagente, prácticas contra el sesgo de automatización como el seguimiento de las tasas de anulación, orientación sobre la gestión del cambio y casos de estudio.
¿Puede una empresa certificarse según el marco?
El documento no describe ningún esquema de certificación ni de auditoría. Es un conjunto de prácticas recomendadas, así que lo más sólido que una empresa puede mostrar son sus propias evidencias: niveles de riesgo, registros de aprobación, resultados de pruebas, registros de monitoreo y capturas del aviso de IA.
