En El futuro de la IA, sin filtros, nuestro estudio más reciente, encontramos que esta incertidumbre regulatoria está llevando a las empresas en direcciones opuestas. De los 945 CIO y CTO de todo el mundo que encuestamos, todos pertenecientes a organizaciones con ingresos anuales superiores a USD 500 millones, el 54 % afirmó que la incertidumbre regulatoria los ha llevado a ser más cautelosos al implementar y escalar la IA. Mientras tanto, el 27 % señaló que los ha llevado a adoptar una postura más agresiva.
Cuando las reglas cambian constantemente, limitarse a cumplir requisitos definidos por terceros no es suficiente. Los líderes necesitan integrar la gobernanza desde la base de su infraestructura tecnológica y sus proyectos de IA, para que el control de la IA no dependa de la regulación que esté vigente en un momento determinado. Esto implica poner a prueba continuamente los mecanismos de protección, identificar puntos débiles y reforzarlos, con la participación de personas que comprendan tanto los riesgos de seguridad más críticos como las formas prácticas de abordarlos.
En la práctica, esto comienza en la capa de datos y plataformas. Los permisos se establecen una sola vez, allí donde residen los datos, para que cada modelo y agente herede los mismos límites de acceso. Cada acción de la IA queda registrada, de modo que exista un historial de qué información se consultó y por qué. Cada caso de uso tiene un responsable claramente identificado que responde por él. Además, las pruebas de los mecanismos de protección forman parte del proceso de lanzamiento: se realizan antes de que un sistema entre en producción y nuevamente cada vez que cambia el modelo o sus datos.
Las consecuencias legales de una gobernanza inadecuada son una de las razones por las que este tema cobrará aún más importancia en los próximos años. La otra es que una gobernanza efectiva impulsa la adopción de la IA. Los usuarios confían más en los modelos y agentes cuando saben a qué información y sistemas puede acceder la IA, qué datos están fuera de su alcance y quién es responsable si la IA logra superar los mecanismos de protección establecidos.
Sin embargo, estos mecanismos también pueden ser demasiado restrictivos. Imponer controles excesivos puede ralentizar significativamente los flujos de trabajo. Imagina un banco que restringe tanto su asistente de IA autorizado que este ni siquiera puede resumir el documento de un cliente. Ante la presión de cumplir con sus plazos, los analistas abren cuentas personales en un chatbot público y pegan allí el documento, sin que los equipos de Riesgos o TI lo sepan hasta que una auditoría lo descubre meses después. Multiplica esta situación en toda una organización y tendrás empleados utilizando los modelos que prefieran, mientras la empresa queda expuesta a los riesgos de seguridad asociados.
Como hemos observado a lo largo de nuestro trabajo con clientes, la gobernanza no es solo una cuestión de riesgo o responsabilidad. Es un pilar fundamental para la generación de valor.
.webp "GFT Contact: Dean Clark")
