Unsere aktuelle Studie „The Future of AI, Unfiltered“ zeigt, wie unterschiedlich Unternehmen auf die regulatorische Unsicherheit rund um KI reagieren. Von den 945 weltweit befragten CIOs und CTOs aus Unternehmen mit einem Jahresumsatz von mindestens 500 Millionen US-Dollar geben 54 Prozent an, bei der Einführung und Skalierung von KI vorsichtiger geworden zu sein. 27 Prozent hingegen gehen offensiver vor.
Wenn sich die regulatorischen Rahmenbedingungen laufend verändern, reicht es nicht, lediglich externe Vorgaben abzuarbeiten. Unternehmen müssen Governance von Anfang an in ihrer technologischen Basis und ihren KI-Projekten verankern. Nur so behalten sie die Kontrolle über ihre KI-Systeme, unabhängig davon, welche Regulierung gerade gilt. Dazu gehört, Schutzmechanismen kontinuierlich zu testen, Schwachstellen zu identifizieren und gezielt nachzubessern. Entscheidend ist dabei auch die Einbindung von Experten, die relevante Sicherheitsrisiken kennen und wissen, wie sich diese in der Praxis beherrschen lassen.
In der Praxis beginnt das auf Daten- und Plattformebene. Zugriffsrechte werden dort festgelegt, wo die Daten liegen, sodass für alle Modelle und KI-Agenten dieselben Beschränkungen gelten. Jede Aktion eines KI-Systems wird protokolliert. So lässt sich nachvollziehen, auf welche Informationen zugegriffen wurde und aus welchem Grund. Für jeden Anwendungsfall gibt es zudem eine klar benannte verantwortliche Person. Auch die Überprüfung der Schutzmechanismen gehört fest zum Freigabeprozess: vor der Inbetriebnahme und erneut, sobald sich das Modell oder seine Datengrundlage verändert.
Rechtliche Konsequenzen sind ein Grund, warum eine wirksame Governance in den kommenden Jahren weiter an Bedeutung gewinnen wird. Mindestens ebenso wichtig ist jedoch ein anderer Aspekt: Gute Governance fördert die Akzeptanz von KI. Das Vertrauen in Modelle und KI-Agenten steigt, wenn Nutzer wissen, auf welche Informationen und Systeme die KI zugreifen darf, welche Daten tabu sind und wer die Verantwortung trägt, wenn definierte Grenzen überschritten werden.
Allerdings können Schutzmechanismen auch zu restriktiv sein. Werden die Grenzen zu eng gezogen, können Arbeitsabläufe erheblich ausgebremst werden. Ein Beispiel: Eine Bank schränkt ihren freigegebenen KI-Assistenten so stark ein, dass dieser nicht einmal ein Kundendokument zusammenfassen kann. Mitarbeiter, die unter Zeitdruck stehen, weichen daraufhin möglicherweise auf einen öffentlich zugänglichen Chatbot aus und laden das Dokument dort über einen privaten Account hoch. Risiko- oder IT-Verantwortliche erfahren davon womöglich erst Monate später bei einem Audit. Geschieht das an vielen Stellen im Unternehmen, entsteht eine unkontrollierte Schattennutzung unterschiedlicher KI-Modelle – und damit ein erhebliches Sicherheitsrisiko.
Unsere Erfahrungen aus Kundenprojekten zeigen deshalb: Governance dient nicht nur dazu, Risiken zu begrenzen. Richtig umgesetzt schafft sie die Voraussetzungen dafür, KI sicher einzusetzen, breiter zu nutzen und damit nachhaltig Mehrwert zu erzielen.
.webp "GFT Contact: Dean Clark")
