A avaliação da realidade dos agentes de IA: A governança está acompanhando o ritmo?

A Gartner prevê que, até 2027, 40% das empresas terão que rebaixar ou desativar agentes autônomos porque eles se depararam com um grande obstáculo de governança depois que algo deu errado na produção. O verdadeiro problema não é a estatística em si, e sim a sequência. A lacuna só vem à tona depois que o agente já agiu.

A maioria das organizações já possui políticas de IA, estruturas de risco e linhas de responsabilidade em vigor. Mas esses mecanismos foram criados para uma era em que a IA se limitava a fazer recomendações. Os copilotos sugerem textos, e os humanos clicam em “enviar”.

Os agentes são diferentes. Os agentes agem. Eles recuperam dados, acionam softwares corporativos, se comunicam com outros sistemas e executam fluxos de trabalho de várias etapas sem esperar que uma mão humana os guie. A questão não é mais se sua empresa possui uma política de IA; é se essa política se sustenta quando o sistema que ela rege começa a fazer as coisas acontecerem por conta própria.

Quando você tem apenas dois ou três agentes em fase de testes, é fácil acompanhar quem é o responsável por eles e o que eles podem acessar. Mas, à medida que as equipes começam a implantá-los em diferentes unidades de negócios e plataformas, a visibilidade diminui rapidamente, as responsabilidades se fragmentam e ninguém sabe ao certo o que um agente tem permissão para fazer ou quais regras se aplicam.

Imagine um agente de Customer Service comum. Ele acessa os dados do consumidor, obtém o histórico de transações de um banco de dados secundário, atualiza o arquivo do caso e inicia um reembolso. Individualmente, cada etapa faz sentido.

Mas e se esse reembolso ultrapassar um limite financeiro que normalmente exigiria a aprovação de um gerente? E se os dados da transação vierem de um sistema interno que o atendente nunca deveria ter acessado? Em muitos casos, ninguém percebe até a auditoria mensal. Nessa altura, o dano já está feito.

Como aponta a Gartner, as empresas costumam tratar a governança dos agentes como um interruptor de luz: ou está totalmente bloqueada ou é totalmente confiável. Nenhum dos extremos funciona. Agentes simples ficam excessivamente restritos, levando equipes de engenharia frustradas a recorrer ao desenvolvimento paralelo. Enquanto isso, agentes altamente autônomos têm restrições insuficientes, e é daí que vêm aquelas surpresas desagradáveis na produção.

Quando um sistema de IA se limita a apoiar a tomada de decisão humana, a pessoa continua no controle. Ela analisa o contexto, verifica se a recomendação está de acordo com a política da empresa e decide se deve prosseguir.

Com um agente, essa dinâmica se inverte completamente. O ponto de controle passa de “antes de cada ação” para a definição dos limites dentro dos quais o agente opera.
A governança não pode mais se limitar a avaliar apenas a qualidade do resultado de um modelo. As organizações precisam decidir:

• A quais dados e sistemas esse agente pode acessar?
• Que ações específicas ele tem permissão para realizar?
• Quem é pessoalmente responsável por seu comportamento?

Isso fica ainda mais complicado quando os agentes começam a chamar outros agentes. A cadeia de responsabilidade precisa se manter intacta a cada transferência de tarefa. Isso não significa eliminar a supervisão humana; significa identificar onde a intervenção é realmente necessária, o que pode ser delegado com segurança e quais limites de segurança precisam ser codificados quando um agente opera com maior autonomia.

Quando os agentes finalmente entram em produção, três coisas são mais importantes do que tudo:

1. Visibilidade
   Não é possível gerenciar o que não se vê. As organizações precisam de um registro atualizado de cada agente em produção — quem é o responsável por ele, quais ferramentas e dados ele pode acessar e seu nível de autonomia. Esse registro deve ser um inventário dinâmico integrado diretamente ao pipeline de implantação, e não uma planilha que as pessoas tentam montar às pressas após um incidente.
2. Responsabilidade
   Os agentes operam nas áreas cinzentas entre tecnologia, dados, segurança, risco e unidades de negócios. Alguém deve assumir a responsabilidade por cada decisão tomada por um agente, e essa responsabilidade precisa ser definida antes da entrada em operação.

Regra geral: pare de permitir que os agentes sejam executados em contas de serviço compartilhadas. Quando uma conta de serviço genérica se torna maliciosa, seus logs apenas apontam para um fantasma. Os agentes precisam de suas próprias identidades.

1. Controle
   Maior autonomia exige clareza absoluta sobre os limites. Nem toda ação precisa do mesmo tratamento: algumas coisas podem ser executadas de forma totalmente autônoma, outras precisam de uma etapa de aprovação humana, outras exigem monitoramento intenso e outras devem ser bloqueadas por completo. Mais importante ainda: aplique essas regras nos escopos da sua API e nas permissões de acesso, não apenas em um documento de política em PDF que fica em uma página da intranet.

Entender isso não significa descartar sua estrutura atual de gestão de riscos. Suas políticas atuais são uma excelente base — você só precisa identificar onde a autonomia dos agentes introduz novos riscos. Em setores regulamentados, isso não é mais opcional. Regulamentos como a Lei de IA da UE e a DORA pressupõem que você possa definir com clareza o que seus sistemas de IA fazem, quem é o proprietário deles e como são controlados.

Fundamentalmente, isso é tanto um desafio de engenharia quanto um desafio de políticas. As decisões de governança só fazem sentido se forem ativamente aplicadas onde o agente realmente opera.

O objetivo não é sufocar a inovação com camadas de burocracia. Trata-se de estabelecer as condições certas para a escalabilidade: manter visibilidade clara, definir com precisão a responsabilidade e alinhar seus controles ao risco real do agente. Governe de forma proporcional, incorpore suas regras ao ambiente de execução e você não precisará se apressar para acionar o botão de desligamento de emergência.