20 nov. 2026

Comment les entreprises peuvent-elles faire passer la gouvernance de l’IA de la théorie à la pratique?

Pourquoi les politiques en matière d’IA et les évaluations des risques doivent demeurer efficaces une fois que les systèmes et les agents autonomes sont mis en service.
gft-contacts-ignasi.png
Ignasi Barri Vilardell
Directeur Groupe IA, Directeur régional du développement des affaires pour l'Europe de l'Ouest et continentale
blogAbstractMinutes
blogAbstractTimeReading
Abstract visualization of AI governance featuring interconnected light pathways and geometric shapes, symbolizing transparent, secure, and responsible artificial intelligence.
Gouvernance de l'IA
IA agentique
IA
2026
contact
share

Une entreprise peut évaluer un système IA, confirmer qu’il répond aux exigences de gouvernance et l’approuver pour la mise en production. Mais « approuvé » ne signifie pas « autorisé » : cette approbation n’autorise pas automatiquement toutes les actions que le système est capable d’effectuer.

Dans mes discussions avec des responsables des risques, de la conformité, de la gouvernance de l’IA et des technologies au sein d’institutions financières européennes, c’est l’écart qui revient le plus souvent : le cadre existe, l’évaluation a été effectuée, et pourtant personne ne peut affirmer avec certitude ce que le système est réellement autorisé à faire une fois qu’il est en service.

La plupart des entreprises bien établies disposent déjà de politiques en matière d’IA, de processus de gestion des risques et de responsabilités bien définies. Ces éléments constituent une base permettant de déterminer l’utilisation acceptable et les conditions dans lesquelles les systèmes fonctionnent. Le défi consiste à s’assurer que ces conditions continuent de s’appliquer lorsqu’un agent agit, en particulier lorsque ses capacités ou son environnement d’exploitation changent.

Que se passe-t-il une fois qu’un système IA a été approuvé?

Prenons l’exemple d’un agent IA qui soutient un centre de services d’entreprise. Il a été autorisé à extraire des renseignements sur les incidents, à consulter les bases de connaissances internes et à mettre à jour les dossiers de service.

Supposons maintenant que l’agent reçoive une demande visant à modifier une configuration en production. L’organisation a mis en place une politique exigeant une autorisation supplémentaire, car une modification incorrecte pourrait perturber des services essentiels.

La décision de gouvernance est claire. Mais le système empêche-t-il l’agent d’effectuer la modification sans autorisation?

Une instruction demandant à l’agent de respecter la politique de la société ne constitue pas une restriction exécutoire. Cette exigence doit se refléter dans les contrôles régissant l’action. Les instructions s’inscrivent dans le contexte du modèle, où elles peuvent être mal interprétées, remplacées par des instructions ultérieures ou manipulées par le contenu traité par l’agent. Un contrôle qui doit être respecté doit se situer à l’extérieur du modèle, au point où l’action est exécutée : l’outil, l’interface de programmation d’application, l’autorisation.

Cela revêt une importance particulière pour les agents capables de choisir des outils et des séquences d’actions au moment de l’exécution. Une évaluation porte sur l’utilisation prévue, les capacités connues et les conditions d’exploitation attendues. Elle demeure pertinente, mais les autorisations, les applications connectées ou les responsabilités peuvent changer après l’approbation. Les changements qui ont une incidence sur les risques ou les restrictions approuvés nécessitent un examen plus approfondi.

Le même schéma se retrouve partout où des agents interviennent. Dans le secteur de la banque, un agent autorisé à répondre aux demandes des clients et à mettre à jour les coordonnées devient un système différent dès l’instant où il peut initier un paiement, ajuster une limite de crédit ou fermer un compte. L’évaluation ne couvrait pas ces actions; les contrôles doivent garantir que l’agent ne puisse pas les effectuer tant que cela n’est pas le cas.

Qu’est-ce qui change lorsque la gouvernance passe à l’action?

La solution ne consiste pas à exiger une approbation humaine pour chaque action de l’agent. Les entreprises doivent distinguer les activités en fonction de leurs conséquences potentielles. Une gouvernance qui bloque tout échoue aussi sûrement qu’une gouvernance qui ne bloque rien; elle échoue tout simplement sur le plan de la valeur, et l’entreprise se retrouve avec un assistant coûteux plutôt qu’avec un agent.

Appliquer des contrôles en fonction du risque

La récupération d’informations autorisées sur un incident et la modification d’une configuration de production comportent des risques différents. La première peut se faire dans le cadre des autorisations établies. La seconde pourrait affecter la disponibilité du système et être difficile à annuler.

L’organisation doit déterminer quelles actions l’agent peut effectuer de façon autonome, lesquelles nécessitent une autorisation et lesquelles restent interdites. Une politique établit l’exigence; le contrôle technique pertinent l’applique lorsque l’action est tentée. C’est à l’étape intermédiaire, celle qui consiste à traduire une exigence rédigée à l’intention des personnes en un contrôle qu’un système peut appliquer, que la plupart des organisations présentent leurs plus grandes faiblesses. La politique figure dans un document géré par le service de conformité; l’autorisation figure dans une configuration gérée par le service d’ingénierie; et la correspondance entre les deux est rarement consignée par écrit, et encore moins maintenue à jour.

Surveiller l’activité et examiner les exceptions

Supposons que l’agent tente à plusieurs reprises d’effectuer une modification de configuration qui nécessite une approbation.

Le contrôle semble empêcher l’action, mais ces tentatives répétées soulèvent une autre question : les instructions, les autorisations et les responsabilités attribuées à l’agent reflètent-elles toujours le rôle qui lui est destiné?

La surveillance fournit des renseignements sur ce schéma. L’équipe responsable peut alors déterminer si le système nécessite des instructions révisées, des autorisations différentes ou un examen plus approfondi de la gouvernance.

Un contrôle peut empêcher une action non autorisée tout en révélant un écart entre le comportement attendu et le comportement réel.

Utiliser des preuves pour évaluer les contrôles

Un journal d’exploitation peut indiquer qu’une modification de configuration a été bloquée. Cela ne suffit pas à établir si l’exigence de gouvernance appropriée a été appliquée.

L’organisation doit également savoir quelle restriction s’appliquait, si une autorisation était requise et quel en a été le résultat.

La comparaison des preuves opérationnelles avec l’exigence approuvée permet de déterminer si le contrôle a fonctionné comme prévu et si ses restrictions demeurent appropriées à mesure que les conditions d’exploitation de l’agent évoluent. Les preuves de ce type sont particulièrement utiles lorsqu’elles sont générées naturellement au cours de l’exploitation plutôt que reconstituées a posteriori à des fins d’audit. Si chaque action bloquée ou autorisée comporte déjà l’identification de l’exigence qui la régissait, l’examen se résume alors à une simple lecture, et non à une analyse approfondie.

Comment cela se traduit-il concrètement en matière d’IA responsable?

Les principes d’IA responsable, tels que la responsabilité et la supervision humaine, doivent prendre tout leur sens dans la pratique après le déploiement. Une exigence d’intervention humaine doit préciser quelles actions nécessitent une approbation, à quel moment cette intervention a lieu et qui examine les exceptions. Il ne s’agit plus seulement d’une question de principe. La Loi de l’UE sur l’IA considère la gestion des risques comme un processus continu tout au long du cycle de vie du système (article 9), exige que les systèmes à haut risque puissent faire l’objet d’une surveillance humaine efficace (article 14) et que leur fonctionnement soit consigné (article 12), et attend des fournisseurs qu’ils surveillent les systèmes après leur mise en marché (article 72). La norme ISO/IEC 42001 exige la même rigueur en matière de système de gestion. Chacune de ces obligations soulève, en pratique, la question de ce qui se passe après l’approbation.

Les équipes chargées des risques et de la conformité sont responsables de ces exigences, tandis que les équipes d’IA, de données et d’ingénierie les appliquent au sein des systèmes qu’elles exploitent. Le jugement humain demeure nécessaire pour déterminer le risque acceptable et décider quand la surveillance doit être modifiée. Dans les secteurs industriels réglementés, il s’agit du modèle bien connu des « trois lignes de défense » appliqué à un nouveau type d’acteur : les équipes qui exploitent l’agent constituent la première ligne, les équipes chargées des risques et de la conformité la deuxième, et l’audit interne a besoin de preuves qu’il peut vérifier plutôt que de récits auxquels il doit se fier.

Par où les entreprises devraient-elles commencer?

Étendre la gouvernance à l’exploitation ne nécessite pas de remplacer les cadres existants. Un bon point de départ consiste à prendre un système IA en production et une exigence stratégique qui influe concrètement sur ses actions. Commencer par un seul cas permet d’en comprendre les mécanismes, et non de parvenir à un état final. Les institutions avec lesquelles je travaille comptent des centaines, voire dans certains cas plus d’un millier, de cas d’utilisation de l’IA en production, et la chaîne allant de l’exigence au contrôle en passant par la preuve doit être reproductible pour chacun d’entre eux. Ce qui est fait à la main pour un système ne le sera pas du tout pour le cinq centième.

Trois questions peuvent aider :

  1. Où l’exigence s’applique-t-elle? Le système concerné lafait-il respecter?
  2. Qui examine les exceptions ou les modifications? La responsabilité est-elle clairement établie après le déploiement?
  3. Quelles preuves sont disponibles? L’organisationpeut-elle déterminer si le contrôle a fonctionné comme prévu?

Les réponses indiquent où la gouvernance existante est efficace et où une surveillance supplémentaire est nécessaire. Pour les entreprises qui étendent l’adoption de l’IA, la gouvernance opérationnelle aide à déterminer quelles activités peuvent se dérouler de manière autonome, où l’autorisation demeure nécessaire et quand des changements de conditions exigent un examen.

Les politiques et les évaluations demeurent le fondement. Leurs exigences doivent également continuer de régir ce que les systèmes d’IA sont autorisés à faire en fonctionnement.

C’est la logique qui sous-tend notre approche de la gouvernance de l’IA chez GFT : prescrire les exigences pour chaque système d’IA, les faire respecter là où l’action se déroule, et laisser les preuves s’accumuler pour former un ensemble sur lequel les vérificateurs, les organismes de réglementation et l’entreprise peuvent s’appuyer. Les outils ont leur importance, mais le changement est avant tout une question de mentalité : passer d’une gouvernance considérée comme un filtre à une gouvernance considérée comme une couche opérationnelle.

Cela soulève la question suivante : lorsqu’un contrôle bloque une action, l’entreprise peut-elle remonter jusqu’à la décision en matière de risque qui l’a justifiée? C’est le sujet du prochain article de cette série.

Contactez nos experts.

gft-contacts-ignasi.png

Ignasi Barri Vilardell

Directeur Groupe IA, Directeur régional du développement des affaires pour l'Europe de l'Ouest et continentale
message
dataProtectionDeclaration