20 nov 2026

¿Cómo pueden las empresas pasar de las políticas a la práctica en materia de gobernanza de IA?

Por qué las políticas de IA y las evaluaciones de riesgo deben seguir siendo efectivas una vez que los sistemas y los agentes autónomos entren en producción.
gft-contacts-ignasi.png
Ignasi Barri Vilardell
Director Global de IA y Datos, Director Regional de Desarrollo de Negocio para Europa Occidental y Continental
blogAbstractMinutes
blogAbstractTimeReading
Abstract visualization of AI governance featuring interconnected light pathways and geometric shapes, symbolizing transparent, secure, and responsible artificial intelligence.
Gobernanza de la IA
IA agencial
IA
2026
contact
share

Una empresa puede evaluar un sistema de IA, comprobar que cumple con los requisitos de gobernanza y aprobar su puesta en producción. Sin embargo, que un sistema esté aprobado no significa que tenga autorización para realizar cualquier acción. Esa aprobación no le otorga automáticamente permiso para ejecutar todas las tareas de las que es capaz.

En mis conversaciones con líderes de riesgos, cumplimiento normativo, gobernanza de IA y tecnología de instituciones financieras europeas, hay un desafío que surge constantemente: las políticas están definidas, las evaluaciones se han realizado, pero nadie puede afirmar con certeza qué acciones tiene permitido ejecutar un sistema de IA una vez que entra en funcionamiento.

La mayoría de las grandes empresas ya cuentan con políticas de IA, procesos de gestión de riesgos y responsabilidades claramente definidas. Estos elementos establecen las bases para determinar qué usos son aceptables y bajo qué condiciones pueden operar los sistemas. El verdadero desafío es garantizar que esas condiciones se sigan cumpliendo cuando un agente de IA actúa, especialmente a medida que evolucionan sus capacidades o cambia el entorno en el que opera.

¿Qué sucede después de que se aprueba un sistema de IA?

Pensemos en un agente de IA que brinda soporte a la mesa de ayuda de una empresa. El agente ha sido autorizado para consultar información sobre incidentes, acceder a bases de conocimiento internas y actualizar registros de servicio.

Ahora imaginemos que recibe una solicitud para modificar una configuración en el entorno de producción. La empresa cuenta con una política que exige una autorización adicional para este tipo de cambios, ya que un error podría interrumpir servicios críticos.

La política de gobernanza es clara. Pero ¿el sistema realmente impide que el agente realice el cambio sin la autorización correspondiente?

Indicarle a un agente que debe cumplir las políticas de la empresa no es lo mismo que establecer una restricción que pueda hacerse cumplir. Para que una política sea efectiva, debe estar integrada en los controles que regulan cada acción.

Las instrucciones forman parte del contexto del modelo de IA, por lo que pueden interpretarse incorrectamente, quedar desplazadas por instrucciones posteriores o ser manipuladas a través del contenido que procesa el agente. Por eso, los controles que deben cumplirse sin excepción tienen que operar fuera del modelo, justo donde se ejecuta la acción: en la herramienta, la API o los permisos de acceso.

Esto cobra especial importancia cuando los agentes pueden seleccionar herramientas y definir secuencias de acciones de forma autónoma durante su ejecución.

Una evaluación inicial considera el uso previsto del sistema, sus capacidades conocidas y las condiciones en las que se espera que opere. Aunque esta evaluación sigue siendo válida como referencia, los permisos, las aplicaciones conectadas y las responsabilidades pueden cambiar después de la aprobación. Cualquier modificación que afecte los riesgos o las restricciones previamente evaluados debe someterse a una nueva revisión.

Esta situación puede presentarse en cualquier entorno donde operen agentes de IA. En el sector bancario, por ejemplo, un agente autorizado para responder consultas de clientes y actualizar datos de contacto adquiere un nivel de riesgo completamente distinto cuando obtiene la capacidad de iniciar pagos, modificar límites de crédito o cerrar cuentas.

La evaluación original no contemplaba esas acciones. Por lo tanto, los controles deben impedir que el agente las ejecute hasta que hayan sido evaluadas y autorizadas.

¿Qué cambia cuando la gobernanza se lleva a la práctica?

La solución no consiste en exigir la aprobación de una persona para cada acción que realiza un agente. Las empresas necesitan diferenciar las actividades según sus posibles consecuencias. Una gobernanza que bloquea todo es tan ineficaz como una que no bloquea nada. La diferencia es que, en el primer caso, se pierde el valor que la tecnología puede aportar y la empresa termina con un asistente costoso en lugar de un agente.

Aplicar controles según el nivel de riesgo
Consultar información autorizada sobre incidentes y modificar una configuración en producción implican riesgos diferentes. La primera acción puede realizarse dentro de los permisos establecidos. La segunda podría afectar la disponibilidad del sistema y ser difícil de revertir.

La organización debe definir qué acciones puede realizar el agente de manera autónoma, cuáles requieren autorización y cuáles están prohibidas. Las políticas establecen los requisitos, mientras que los controles técnicos correspondientes los aplican cuando el agente intenta ejecutar una acción.

El paso intermedio, es decir, convertir un requisito pensado para las personas en un control que pueda aplicar un sistema, es donde la mayoría de las organizaciones presenta mayores debilidades. La política está en un documento gestionado por el área de Cumplimiento Normativo, mientras que los permisos se encuentran en una configuración administrada por el equipo de Ingeniería. La relación entre ambos rara vez queda documentada y mucho menos se mantiene actualizada.

Monitorear la actividad y revisar las excepciones
Supongamos que un agente intenta repetidamente realizar un cambio de configuración que requiere aprobación.

Aunque el control parece estar impidiendo la acción, estos intentos reiterados plantean otra pregunta: ¿las instrucciones, los permisos y las responsabilidades asignadas al agente siguen correspondiendo a la función para la que fue diseñado?

El monitoreo permite identificar este patrón de comportamiento. A partir de esa información, el equipo responsable puede determinar si el sistema necesita ajustes en sus instrucciones, cambios en sus permisos o una revisión adicional de gobernanza.

Un control puede impedir una acción no autorizada y, al mismo tiempo, poner en evidencia una diferencia entre el comportamiento esperado y el comportamiento real del agente.

Utilizar evidencia para evaluar los controles
Un registro operativo puede demostrar que se bloqueó un cambio de configuración. Sin embargo, eso no basta para confirmar que se aplicó el requisito de gobernanza correcto.

La organización también necesita saber qué restricción se aplicó, si la acción requería autorización y cuál fue el resultado.

Comparar la evidencia operativa con los requisitos aprobados permite determinar si el control funcionó según lo previsto y si sus restricciones siguen siendo adecuadas a medida que cambian las condiciones en las que opera el agente.

Este tipo de evidencia resulta más útil cuando se genera como parte de la operación habitual, en lugar de reconstruirse posteriormente para una auditoría. Si cada acción bloqueada o autorizada ya incluye la identificación del requisito que la regula, la revisión se convierte en una tarea de consulta de registros, en lugar de un proceso de investigación forense.

¿Cómo se lleva la IA responsable a la práctica?

Los principios de IA responsable, como la rendición de cuentas y la supervisión humana, deben traducirse en medidas concretas una vez que el sistema entra en funcionamiento. Un requisito de intervención humana debe establecer qué acciones necesitan aprobación, en qué momento debe intervenir una persona y quién se encarga de revisar las excepciones.

Esto ya no es solo una cuestión de principios. El Reglamento de Inteligencia Artificial de la Unión Europea (EU AI Act) establece que la gestión de riesgos debe ser un proceso continuo durante todo el ciclo de vida del sistema (artículo 9), exige que los sistemas de alto riesgo puedan ser supervisados eficazmente por personas (artículo 14) y que su funcionamiento quede registrado (artículo 12). También exige a los proveedores monitorear los sistemas después de su comercialización (artículo 72). La norma ISO/IEC 42001 plantea esta misma disciplina desde la perspectiva de los sistemas de gestión. En la práctica, todas estas obligaciones apuntan a una misma pregunta: ¿qué sucede después de la aprobación?

Los equipos de Riesgos y Cumplimiento Normativo son responsables de estos requisitos, mientras que los equipos de IA, Datos e Ingeniería se encargan de aplicarlos en los sistemas que operan. El criterio humano sigue siendo indispensable para determinar qué riesgos son aceptables y cuándo es necesario modificar los mecanismos de supervisión.

En los sectores regulados, esto responde al conocido modelo de las tres líneas de defensa, aplicado ahora a un nuevo tipo de actor: los equipos que operan el agente constituyen la primera línea; Riesgos y Cumplimiento Normativo, la segunda; y Auditoría Interna necesita contar con evidencia que pueda verificar, en lugar de depender de explicaciones cuya veracidad deba dar por sentada.

¿Por dónde deberían empezar las empresas?

Extender la gobernanza a la operación no requiere reemplazar los marcos de trabajo existentes. Un buen punto de partida es seleccionar un sistema de IA que ya esté en producción y un requisito de alguna política que tenga un impacto significativo en sus acciones.

Comenzar con un solo sistema permite entender cómo funciona el proceso, pero no es el objetivo final. Las instituciones con las que trabajo tienen cientos y, en algunos casos, más de mil casos de uso de IA en producción. Por eso, el proceso que conecta cada requisito con su control y la evidencia correspondiente debe poder replicarse en todos ellos. Lo que se hace manualmente para un sistema difícilmente se hará cuando llegue el momento de gestionar el número quinientos.

Tres preguntas pueden ayudar:

  1. ¿Dónde se aplica el requisito? ¿El sistema correspondiente garantiza su cumplimiento?
  2. ¿Quién revisa las excepciones o los cambios? ¿Están claras las responsabilidades después de la puesta en producción?
  3. ¿Qué evidencia está disponible? ¿Puede la organización comprobar si el control funcionó según lo previsto?

Las respuestas permiten identificar dónde la gobernanza existente funciona de manera efectiva y dónde se necesita una mayor supervisión. Para las empresas que están ampliando la adopción de IA, la gobernanza operativa ayuda a determinar qué actividades pueden realizarse de forma autónoma, cuáles siguen requiriendo autorización y cuándo los cambios en las condiciones de operación hacen necesaria una nueva revisión.

Las políticas y las evaluaciones siguen siendo la base. Sin embargo, sus requisitos también deben continuar regulando las acciones que los sistemas de IA tienen permitido realizar durante su operación.

Esta es la lógica que guía nuestro enfoque de gobernanza de IA en GFT: definir los requisitos para cada sistema de IA, garantizar su cumplimiento en el momento en que se ejecutan las acciones y acumular evidencia que permita generar información confiable para auditores, reguladores y el negocio.

Las herramientas tecnológicas son importantes, pero el cambio es principalmente de mentalidad: pasar de una gobernanza que funciona como un punto de aprobación a una gobernanza integrada en la operación.

Esto plantea la siguiente pregunta: cuando un control bloquea una acción, ¿puede la empresa rastrear ese bloqueo hasta la decisión de riesgo que lo justificó?

Ese será el tema del próximo artículo de esta serie.

Póngase en contacto con nuestros expertos.

gft-contacts-ignasi.png

Ignasi Barri Vilardell

Director Global de IA y Datos, Director Regional de Desarrollo de Negocio para Europa Occidental y Continental
message
dataProtectionDeclaration