Agents IA: la gouvernance est-elle prête à suivre le rythme ?

Selon les prévisions de Gartner, d’ici 2027, 40 % des entreprises devront réduire l’autonomie de leurs agents ou les désactiver en raison de problèmes majeurs de gouvernance survenus en production. Mais le plus préoccupant n’est pas tant ce chiffre que la chronologie des événements : les failles de gouvernance ne deviennent visibles qu’après que l’agent a déjà agi.

La plupart des organisations disposent déjà de politiques d’IA, de cadres de gestion des risques et de responsabilités clairement définies. Cependant, ces dispositifs ont été conçus pour une génération d’IA qui se contente de formuler des recommandations. Les copilotes proposent du contenu, puis les humains décident de l’envoyer ou non.

Les agents IA fonctionnent différemment : ils agissent. Ils récupèrent des données, interagissent avec des logiciels d’entreprise, communiquent avec d’autres systèmes et exécutent des workflows en plusieurs étapes sans attendre une intervention humaine. La question n’est donc plus simplement de savoir si votre entreprise dispose d’une politique d’IA, mais si cette politique reste efficace lorsque les systèmes qu’elle encadre commencent à agir de manière autonome.

Lorsque vous ne disposez que de deux ou trois agents en phase de test, il est facile de savoir qui en est responsable et à quelles ressources ils peuvent accéder. Mais à mesure que les équipes déploient des agents dans différentes unités opérationnelles et sur plusieurs plateformes, la visibilité diminue rapidement, les responsabilités se fragmentent et personne ne sait précisément ce qu’un agent est autorisé à faire ni quelles règles s’appliquent.

Prenons l’exemple d’un agent IA dédié au service client. Il consulte les informations d’un client, récupère son historique de transactions dans une base de données secondaire, met à jour son dossier et déclenche un remboursement. Individuellement, chacune de ces étapes semble parfaitement logique.

Mais que se passe-t-il si ce remboursement dépasse un seuil financier nécessitant normalement l’approbation d’un responsable ? Et si les données de transaction proviennent d’un système interne auquel l’agent n’aurait jamais dû avoir accès ? Dans de nombreux cas, personne ne remarque ces anomalies avant l’audit mensuel. À ce moment-là, le mal est déjà fait.

Comme le souligne Gartner, les entreprises traitent généralement la gouvernance des agents selon une logique binaire : soit elles imposent des restrictions totales, soit elles leur accordent une confiance absolue. Aucune de ces deux approches n’est satisfaisante. Les agents les plus simples sont soumis à des restrictions excessives, ce qui pousse les équipes d’ingénierie frustrées à développer des solutions en dehors des processus officiels. À l’inverse, les agents disposant d’une grande autonomie ne sont pas suffisamment encadrés, ce qui peut entraîner des incidents imprévus en production.

Lorsqu’un système d’IA se contente d’assister la prise de décision humaine, une personne reste maître du processus. Elle examine le contexte, vérifie que la recommandation respecte les politiques de l’entreprise et décide de la suite à donner.

Avec un agent IA, cette dynamique change radicalement. Le contrôle ne s’exerce plus avant chaque action, mais repose sur la définition des limites dans lesquelles l’agent est autorisé à évoluer.
La gouvernance ne peut plus se contenter d’évaluer la qualité des résultats d’un modèle. Les entreprises doivent déterminer :

• À quelles données et à quels systèmes cet agent peut-il accéder ?
• Quelles actions précises est-il autorisé à effectuer ?
• Qui est personnellement responsable de son comportement ?

La situation se complique encore davantage lorsque les agents commencent à faire appel à d’autres agents. La chaîne de responsabilité doit rester intacte à chaque transfert de responsabilité d’un agent à un autre. Cela ne signifie pas pour autant la suppression de la supervision humaine. Il s’agit plutôt de déterminer à quels moments une intervention humaine est réellement nécessaire, quelles tâches peuvent être déléguées en toute sécurité et quels garde-fous doivent être intégrés directement dans le fonctionnement des agents disposant d’une plus grande autonomie.

Lorsque les agents IA passent en production, trois éléments priment sur tout le reste :

• Visibilité
  Vous ne pouvez pas gouverner ce que vous ne voyez pas. Les entreprises ont besoin d’un registre à jour de tous les agents en production, précisant pour chacun son responsable, les outils et les données auxquels il peut accéder, ainsi que son niveau d’autonomie. Cet inventaire doit être dynamique et directement intégré au processus de déploiement, plutôt que de reposer sur un simple tableau Excel reconstitué après un incident.
• Responsabilité
  Les agents IA évoluent dans les zones grises entre la technologie, les données, la sécurité, les risques et les unités métiers. Chaque décision prise par un agent doit être attribuée à une personne, et cette responsabilité doit être clairement établie avant la mise en service.

Une règle essentielle :  évitez de faire fonctionner les agents avec des comptes de service partagés. Lorsqu’un compte de service générique est utilisé de manière inappropriée, les journaux d’activité ne permettent pas d’identifier précisément l’agent responsable. Chaque agent doit donc disposer de sa propre identité.

• Contrôle
  Une plus grande autonomie exige des limites clairement définies. Toutes les actions ne nécessitent pas le même niveau de contrôle : certaines peuvent être exécutées de manière entièrement autonome, d’autres doivent faire l’objet d’une validation humaine, certaines nécessitent une surveillance renforcée et d’autres encore doivent être totalement bloquées. Plus important encore, ces règles doivent être appliquées directement au niveau des autorisations d’accès et des périmètres d’accès aux API, et pas seulement consignées dans un document PDF de politique interne disponible sur l’intranet.

Maîtriser ces enjeux ne signifie pas abandonner votre cadre actuel de gestion des risques. Vos politiques existantes constituent une excellente base : il vous reste à identifier les nouveaux risques introduits par l’autonomie des agents IA. Dans les secteurs réglementés, cette démarche n’est plus une option. Des réglementations telles que la loi européenne sur l’IA et la DORA partent du principe que vous êtes en mesure de préciser sans ambiguïté ce que font vos systèmes d’IA, qui en est responsable et comment ils sont contrôlés.

Il est essentiel de comprendre que ce défi relève autant de l’ingénierie que de la définition des politiques de gouvernance. Les décisions de gouvernance n’ont de sens que si elles sont activement appliquées dans l’environnement d’exécution des agents.

L’objectif n’est pas de freiner l’innovation en multipliant les contraintes administratives. Il s’agit de créer les conditions nécessaires à un déploiement à grande échelle : garantir une visibilité claire, définir précisément les responsabilités et adapter les contrôles aux risques réels associés à chaque agent.

En adoptant une gouvernance proportionnée aux risques et en intégrant directement les règles dans les mécanismes d’exécution, les entreprises peuvent conserver le contrôle de leurs agents IA sans devoir recourir à leur désactivation en urgence.