Dans notre dernière étude « The Future of IA, Unfiltered », nous avons constaté que cette incertitude réglementaire pousse les entreprises à adopter des stratégies opposées. Parmi les 945 DSI et CTO interrogés à travers le monde, tous issus d’organisations réalisant plus de 500 millions de dollars de chiffre d’affaires annuel, 54 % déclarent que l’incertitude réglementaire les a incités à davantage de prudence dans le déploiement de l’IA à grande échelle. À l’inverse, 27 % affirment qu’elle les a poussés à accélérer leurs initiatives.
Lorsque les règles évoluent constamment, se contenter de cocher les cases imposées par des organismes tiers ne suffit plus. Les dirigeants doivent intégrer la gouvernance dès la conception de leurs infrastructures technologiques et de leurs projets d’IA, afin de garder le contrôle de leurs systèmes indépendamment des réglementations en vigueur. Cela implique de tester continuellement les mesures de protection, d’identifier les vulnérabilités et de les renforcer, en s’appuyant sur des experts capables de comprendre les risques de sécurité les plus critiques et de proposer des solutions concrètes pour les contrer.
Dans la pratique, cette démarche commence au niveau des données et des plateformes. Les autorisations d’accès sont définies une seule fois, directement là où résident les données, afin que chaque modèle et chaque agent AI respectent les mêmes restrictions. Chaque action effectuée par l’IA est enregistrée, permettant de savoir quelles données ont été consultées et pour quelles raisons. Chaque cas d’usage est placé sous la responsabilité d’une personne clairement identifiée. Enfin, les tests des garde-fous font partie intégrante du processus de mise en production : ils sont effectués avant le déploiement d’un système, puis renouvelés à chaque modification du modèle ou de ses données.
Les conséquences juridiques d’une gouvernance défaillante constituent l’une des raisons pour lesquelles celle-ci prendra davantage d’importance dans les années à venir. L’autre raison est qu’une gouvernance efficace favorise l’adoption de l’IA. Les utilisateurs accordent davantage leur confiance aux modèles et aux agents lorsqu’ils savent à quelles informations et à quels systèmes l’IA est autorisée à accéder, quelles données lui sont interdites et qui est responsable en cas de non-respect des limites de sécurité.
Cependant, les garde-fous peuvent également être trop restrictifs. Un contrôle excessif risque de ralentir considérablement les processus de travail. Prenons l’exemple d’une banque qui impose tellement de restrictions à son assistant IA approuvé que celui-ci ne peut même pas résumer un document client. Confrontés à des délais serrés, les analystes utilisent alors leurs comptes personnels sur un chatbot public et y copient le document. Les équipes chargées des risques et de l’informatique n’en ont connaissance que plusieurs mois plus tard, à l’occasion d’un audit. Multipliez ce scénario à l’échelle de l’organisation et les collaborateurs utilisent les modèles de leur choix, exposant ainsi l’entreprise aux risques de sécurité qui en découlent.
Comme nous l’avons constaté tout au long de nos collaborations avec nos clients, la gouvernance ne se limite pas à la gestion des responsabilités et des risques. Elle constitue un pilier essentiel de la création de valeur.
.webp "GFT Contact: Dean Clark")
