Em The Future of AI, Unfiltered, nosso estudo mais recente, constatamos que a incerteza regulatória está levando as empresas a seguir caminhos opostos. Entre os 945 CIOs e CTOs de todo o mundo que entrevistamos, todos de organizações com receita anual superior a US$ 500 milhões, 54% afirmaram que a incerteza regulatória os tornou mais cautelosos na implementação e na expansão do uso da IA. Por outro lado, 27% disseram que isso os tornou mais ousados.
Quando as regras estão em constante mudança, simplesmente cumprir os requisitos estabelecidos por terceiros não é suficiente. Os líderes precisam incorporar a governança à base de suas infraestruturas tecnológicas e de seus projetos de IA, para que o controle da IA não dependa da regulamentação em vigor a cada momento. Isso significa testar continuamente os mecanismos de proteção, identificar pontos fracos e fortalecê-los, com a contribuição de pessoas que compreendem os riscos de segurança mais graves e as formas práticas de lidar com eles.
Na prática, isso começa nas camadas de dados e de plataforma. As permissões são definidas uma única vez, no local em que os dados estão armazenados, para que todos os modelos e agentes herdem os mesmos limites de acesso. Cada ação da IA é registrada, criando um histórico do que foi acessado e por quê. Cada caso de uso tem um responsável definido, que responde por ele. Além disso, os testes dos mecanismos de proteção fazem parte do processo de lançamento: são realizados antes de um sistema entrar em operação e novamente sempre que o modelo ou seus dados são alterados.
As consequências legais de uma governança inadequada são uma das razões pelas quais ela será ainda mais importante nos próximos anos. Outra razão é que uma governança eficaz impulsiona a adoção da IA. Os usuários confiam mais nos modelos e agentes quando sabem quais informações e sistemas a IA tem permissão para acessar, quais dados estão fora dos limites de acesso e quem é responsável caso a IA ultrapasse os mecanismos de proteção.
Os mecanismos de proteção também podem ser rígidos demais. Restrições excessivas podem tornar os fluxos de trabalho extremamente lentos. Imagine um banco que restringe tanto seu assistente de IA aprovado que ele não consegue resumir um documento de um cliente. Com prazos a cumprir, analistas criam contas pessoais em um chatbot público e inserem o documento na ferramenta. Ninguém das áreas de Riscos ou de TI fica sabendo até que uma auditoria identifique o problema meses depois. Quando isso acontece em toda a organização, os colaboradores passam a usar os modelos que preferem, expondo a empresa aos riscos de segurança associados a essas ferramentas.
Como vimos ao longo do nosso trabalho com clientes, a governança não é apenas uma questão de responsabilidade jurídica. Ela é um pilar central da geração de valor.
.webp "GFT Contact: Dean Clark")
