Dans notre dernière étude intitulée « L'avenir de l'IA, sans filtre », nous avons constaté que cette incertitude entourant la réglementation pousse les entreprises dans des directions opposées. Parmi les 945 DSI et directeurs de la technologie que nous avons interrogés à travers le monde, tous issus d'entreprises réalisant au moins 500 millions de dollars américains de chiffre d’affaires annuel, 54 % ont déclaré que l’incertitude concernant la réglementation de l’IA les a rendus plus prudents dans le déploiement et la mise à l'échelle de l'IA. Par ailleurs, 27 % ont déclaré qu’elle les avait rendus plus audacieux.
Lorsque les règles changent constamment, se contenter de cocher des cases définies par des tiers ne suffit plus. Les dirigeants doivent intégrer la gouvernance dès la conception de leurs piles technologiques et de leurs projets d’IA afin que le contrôle de leur IA ne dépende pas de la réglementation en vigueur à un moment donné. Cela implique de tester continuellement les mécanismes de protection, d’identifier les points faibles et de renforcer ceux-ci, en s’appuyant sur l’expertise de personnes qui comprennent les risques de sécurité les plus critiques et les moyens concrets d’y remédier.
Dans la pratique, cela commence au niveau des données et de la plateforme. Les autorisations ne sont définies qu'une seule fois, là où résident les données, de sorte que chaque modèle et que chaque agent hérite des mêmes limites d’accès. Chaque action effectuée par l’IA est consignée, ce qui permet de garder une trace des éléments consultés et des raisons de ces accès. Chaque cas d’utilisation a un responsable désigné qui en répond. Les tests de mécanismes de protection font partie du processus de mise en production; ils sont effectués avant la mise en service d’un système, puis à chaque fois que le modèle ou ses données changent.
Les conséquences juridiques d’une mauvaise gouvernance sont l’une des raisons pour lesquelles celle-ci prendra davantage d’importance au cours des années à venir. Une autre raison est qu’une gouvernance efficace favorise l’adoption de l’IA. Les utilisateurs font davantage confiance aux modèles et aux agents lorsqu’ils savent à quelles informations et à quels systèmes l’IA est autorisée à accéder, quelles données lui sont interdites d’accès et qui sera tenu responsable si l’IA venait à outrepasser les mécanismes de protection mis en place.
Les mécanismes de protection peuvent également être trop stricts. Une restriction excessive peut ralentir considérablement les flux de travaux. Imaginez une banque qui impose des restrictions si sévères à son assistant d’IA approuvé que celui-ci ne peut même pas résumer un document client : les analystes, pressés par les échéances, ouvrent alors des comptes personnels sur un dialogueur public et y collent le document, sans que personne au sein du département des risques ou des TI ne s’en aperçoive jusqu’à ce qu’un audit le révèle plusieurs mois plus tard. Multipliez ce scénario à l’échelle d'une entreprise et les employés finissent par utiliser les modèles de leur choix, exposant ainsi l’entreprise aux risques de sécurité qui en découlent.
Comme nous l’avons constaté au fil de nos interventions auprès de nos clients, la gouvernance n’est pas seulement une question de responsabilité légale : c’est un pilier central de la création de valeur.
.webp "GFT Contact: Dean Clark")
