Dans notre dernière étude intitulée « The Future of AI, Unfiltered », nous avons constaté que cette incertitude entourant la réglementation tire les entreprises dans des directions opposées. Sur les 945 chefs des technologies de l’information (CTO) et chefs des systèmes d’information (CIO) du monde entier que nous avons interrogés, tous issus d’organisations dont le chiffre d’affaires annuel dépasse 500 M$, 54 % ont déclaré que l’incertitude réglementaire les avait rendus plus prudents quant au déploiement et à la mise à l’échelle de l’IA. Par ailleurs, 27 % ont déclaré qu’elle les avait rendus plus audacieux.
Lorsque les règles changent constamment, il ne suffira pas de cocher les cases définies par des tiers. Les dirigeants doivent intégrer la gouvernance dès la conception de leurs piles technologiques et de leurs projets d’IA, afin que le contrôle de leur IA ne dépende pas de la réglementation en vigueur à un moment donné. Cela implique de tester continuellement les garde-fous, d’identifier les points faibles et de les renforcer, en s’appuyant sur l’expertise de personnes qui comprennent les risques de sécurité les plus graves et les moyens concrets d’y remédier.
Dans la pratique, cela commence au niveau des données et de la plateforme. Les autorisations sont définies une seule fois, là où résident les données, de sorte que chaque modèle et chaque agent hérite des mêmes limites d’accès. Chaque action de l’IA est consignée, ce qui permet de savoir ce à quoi on a accédé et pourquoi. Chaque cas d’utilisation a un responsable désigné qui en répond. Et les tests des garde-fous font partie du processus de mise en production; ils sont effectués avant la mise en service d’un système, puis à chaque fois que le modèle ou ses données changent.
Les conséquences juridiques d’une mauvaise gouvernance sont l’une des raisons pour lesquelles celle-ci prendra davantage d’importance dans les années à venir. L’autre est qu’une gouvernance efficace favorise l’adoption de l’IA. Les utilisateurs font davantage confiance aux modèles et aux agents lorsqu’ils savent à quelles informations et à quels systèmes l’IA est autorisée à accéder, quelles données sont interdites d’accès, et qui est responsable si l’IA contourne les garde-fous.
Les garde-fous peuvent également être trop stricts. Une restriction excessive peut ralentir considérablement les flux de travail. Imaginez une banque qui impose des restrictions si sévères à son assistant d’IA approuvé qu’il ne peut même pas résumer un document client. Les analystes, pressés par les échéances, ouvrent des comptes personnels sur un clavardage public et y collent le document, sans que personne au service des risques ou des TI ne s’en aperçoive jusqu’à ce qu’un audit le révèle des mois plus tard. Multipliez ce scénario à l’échelle de l’organisation et les employés finissent par utiliser les modèles de leur choix, exposant ainsi l’entreprise aux risques de sécurité qui en découlent.
Comme nous l’avons constaté tout au long de notre collaboration avec nos clients, la gouvernance n’est pas seulement une question de responsabilité. C’est un pilier central de la création de valeur.
.webp "GFT Contact: Dean Clark")
