Verantwortungsvolle KI-Governance als Wettbewerbsvorteil

Mit dem EU AI Act und den wachsenden regulatorischen Anforderungen wird KI-Governance 2025 zum entscheidenden Wettbewerbsfaktor. Das neue Gesetz gilt grundsätzlich für alle Unternehmen, die KI-Systeme auf dem EU-Markt bereitstellen, betreiben oder nutzen. [...]

Besonders in stark regulierten und sensiblen Branchen wie etwa der Finanzindustrie. Banken, Versicherungen und FinTechs müssen nicht nur Transparenz, Fairness und Sicherheit gewährleisten, sondern Governance-Frameworks als strategisches Asset begreifen, um Vertrauen, Innovation und Marktvorteile zu sichern.  Im Bereich der KI muss sich ein Wandel vollziehen: Transparenz, umfassend umgesetzt als KI-Governance, ist nicht mehr optional, sondern ein Muss. Dabei kann sich das Aufbrechen der „Black Box KI“ und ein Governance-Framework als echter Wettbewerbsvorteil erweisen. 

Der neue Rechtsrahmen betrifft sämtliche Organisationen, die KI-Systeme in der Europäischen Union bereitstellen, betreiben oder nutzen. Zugleich erfordert die Einführung von KI-Systemen ein robustes Governance-Rahmenwerk. Doch wie gelingt es, ein vertrauenswürdiges Governance-Framework aufzubauen und damit regulatorische Anforderungen in Wettbewerbsvorteile umzuwandeln? Und wo liegen künftig die Potenziale im Bereich KI-Governance?

Grundprinzipien der KI-Governance

Bevor Unternehmen die ersten Schritte in Richtung Governance-Frameworks gehen, sollte zunächst ein Bewusstsein für Themen wie Transparenz, Fairness und Erklärbarkeit geschaffen und der Blick geschärft werden für mögliche Fehlerquellen. Denn selbst die beste Technologie ist davor nicht gefeit, etwa, wenn es um Data Biases geht. Datengetriebene Systeme wie KI oder maschinelles Lernen sind anfällig dafür. Solche Verzerrungen entstehen oft durch Fehler in der Datenerfassung, unzureichende oder unausgewogene Datenbestände oder durch Vorurteile derjenigen, die die Daten sammeln oder analysieren. Die Daten, welche für das Training verwendet werden, spielen eine entscheidende Rolle, denn wenn diese bereits vorher geprüft werden, verringert dies das Risiko von Bias enorm. Um darüber hinaus sicherzustellen, dass Daten und Algorithmen nicht versehentlich eine Gruppe gegenüber einer anderen bevorzugen, braucht es regelmäßige Audits und Mechanismen zur Erkennung solcher Vorurteile. 

Zur Vermeidung von KI-Bias und um Vertrauen bei den Nutzern aufzubauen, müssen Unternehmen Transparenz bei der algorithmusbasierten Entscheidungsfindung schaffen. Dafür setzen sie verstärkt auf erklärbare KI (XAI), die aufzeigt, wie Entscheidungen zustande kommen. Sie hilft den Nutzern, Verständnis für die Faktoren zu entwickeln, die Einfluss auf die Ergebnisse haben. Die Förderung der Transparenz von Algorithmen ist daher einer der Meilensteine auf dem Weg zu einer robusten KI-Ethik. Zudem trägt sie zur Verringerung algorithmischer Verzerrungen bei und ist damit die Basis jeder KI-Governance.

Schritt für Schritt zu umfassender KI-Governance

Der Startpunkt zu einer wirksamen KI-Governance ist eine sorgfältige Analyse der aktuellen Situation. Diese beinhaltet eine umfassende Bestandsaufnahme der KI-Systeme und laufenden Projekte. Auf dieser Grundlage lassen sich konkrete Ziele formulieren. Diese können in ein strategisches Gesamtkonzept überführt werden, das sowohl den verantwortungsvollen Umgang mit KI als auch gesetzliche Vorgaben berücksichtigt. Um den verschiedenen wirtschaftlichen, rechtlichen, technischen und ethischen Anforderungen gerecht zu werden, ist eine enge bereichsübergreifende Zusammenarbeit unerlässlich. Experten aus den Bereichen IT, Compliance, Recht und Business Development sollten kontinuierlich im Austausch stehen. Feste Strukturen wie KI-Management-Boards oder Ethik-Kommissionen können diesen Dialog effektiv unterstützen.

Ebenso wichtig sind eindeutig definierte Verantwortlichkeiten und die Festlegung von Rollen und Prozessen. Jede Abteilung muss genau wissen, wofür sie zuständig ist, um Transparenz zu gewährleisten und Risiken frühzeitig zu erkennen sowie gezielt zu steuern. Ein KI-Beauftragter oder ein Chief Artificial Intelligence Officer (CAIO) kann ein strukturiertes Vorgehen sicherstellen und als zentrale Anlaufstelle fungieren. Um die entsprechende Kultur im Unternehmen zu implementieren und Verständnis für Themen wie KI-Risiken, Fairness oder Datenschutz zu gewährleisten, sollten entsprechende Schulungen und Awareness-Trainings angeboten werden. 

Die Implementierung technischer Maßnahmen zur Dokumentation und Nachvollziehbarkeit, Explainability-Tools sowie interne oder externe KI-Audits helfen, die Qualität der Trainingsdaten zu gewährleisten und etwa KI-Biases, so genannte Verzerrungen, zu verhindern. Falls KI-Software von einem Fremdanbieter bezogen wird, sind hier nicht nur die Anwender, sondern auch die Anbieter in der Pflicht, für Transparenz und das entsprechende Monitoring zu sorgen.

Auch die eigenen Mitarbeiter sollten von Beginn an einbezogen werden, denn sie haben eine entscheidende Funktion hinsichtlich Überwachung und Steuerung. Nach dem Motto „Keep the human in the loop“, sollten auf KI basierende Entscheidungen nicht einfach übernommen, sondern kontextbezogen und risikoorientiert überprüft werden. Dies gewährleistet, dass menschliche Aufsicht dort stattfindet, wo es erforderlich ist.

Externe Berater begleiten Unternehmen bei der Analyse, dem Aufbau geeigneter Strukturen und der Umsetzung technologischer Lösungen. Gleichzeitig stellen sie sicher, dass regulatorische Entwicklungen fortlaufend berücksichtigt werden. 

So wird Governance zum Wettbewerbsvorteil

Der durch Tools wie ChatGPT befeuerte KI-Boom wirft inzwischen zentrale Fragen auf – etwa nach Voreingenommenheit, Transparenz und Verantwortlichkeit. Unternehmen, denen es gelingt, KI-Governance als Teil ihrer Unternehmens-DNA zu betrachten und zu implementieren, erfüllen nicht nur die Compliance-Vorgaben, sondern positionieren sich als Experte auf diesem Gebiet. 

Zu den konkreten Wettbewerbsvorteilen, die durch ein fundiertes KI-Governance-Framework entstehen, gehört also ein höheres Vertrauen bei Partnern oder Kunden und die Stärkung von Kundenbeziehungen. So wird etwa eine Bank mit einer transparenten KI-Entscheidungslogik bei Krediten eher als vertrauenswürdig wahrgenommen werden. Das bedeutet unter anderem, dass die Schritte und Kriterien, die zu Entscheidungen führen, nachvollziehbar sind, dass auch Menschen ohne tieferes technologisches Verständnis die Entscheidungslogik verstehen und dass die Informationen über die Entscheidungsprozesse jederzeit zugänglich sind. Diese Art der Transparenz bindet nicht nur Bestandskunden, sondern ist auch attraktiver für potenzielle Neukunden.

KI-Governance und Compliance: Verstöße kosten mehr als „nur“ Geld

Nicht nur die Positionierung als vertrauensvoller Partner, auch verschiedene gesetzliche Vorschriften zwingen Unternehmen dazu, sich mit dem Thema Governance zu beschäftigen. So unterstreicht der EU AI Act neue Anforderungen und potenzielle Strafen für missbräuchliche Verwendung von KI, die bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes betragen können. Diese regulatorischen Entwicklungen machen deutlich, dass eine proaktive Herangehensweise an die KI-Governance für Unternehmen unerlässlich ist. 

Auf Banken und Versicherungen kommen in diesem Bereich weitere Herausforderungen zu. Der Digital Operational Resilience Act (DORA) trat für Finanzinstitute am 17. Januar 2025 als verbindliche Regelung in Kraft. Mit DORA gibt es seitens der Europäischen Union nun eine Regulierung für den gesamten EU-Finanzsektor zu Cybersicherheit, weiteren informations- und kommunikationstechnischen Risiken (IKT) sowie digitaler operationaler Resilienz. 

DORA spielt eine zentrale Rolle bei der KI-Governance in Banken und Versicherungen, auch wenn DORA nicht explizit „KI“ thematisiert. Warum? Weil das Regelwerk die digitale Resilienz und Sicherheitsanforderungen für Finanzunternehmen massiv stärkt – und KI ist ein integraler Bestandteil moderner IT-Systeme und auch eine wichtige Komponente der IT-Resilienz von Unternehmen. So sind KI-Systeme mittlerweile in viele Finanzprozesse eingebettet, etwa im Bereich Betrugserkennung oder Risikomodellierung. DORA verlangt die Identifikation und den Schutz kritischer Systeme sowie ihr Monitoring, Kontrolle und die Risikobewertung und stellt neue Anforderungen an die Unternehmensresilienz und somit auch an die KI-Lösungen. 

KI-Governance: Wie die Reise weitergeht

Eine Herausforderung für viele, und besonders für international agierende Unternehmen, ist nach wie vor die Konvergenz der globalen Standards. Klar ist, dass es auch in Zukunft noch regionale Unterschiede geben wird. Es ist aber zu beobachten, dass sich die Regelwerke Stück für Stück annähern.

Um den Fokus auf notwendige Innovationen und die Weiterentwicklung ihres Business legen zu können und mit Blick auf den sich weiter verschärfenden Fachkräftemangel, werden Unternehmen künftig verstärkt Angebote wie „Governance-as-a-service“ in Anspruch nehmen. Services wie diese sind zwar bisher noch nicht flächendeckend etabliert, bieten aber für Unternehmen großes Potenzial, denn so sind sie auch ohne eigene Experten oder Teams in der Lage, KI-Governance mit skalierbaren und automatisierten Lösungen zuverlässig umsetzen. Gleichzeitig ist zu beobachten, dass auch die Tools zur Automatisierung von Compliance-Prüfungen oder Dokumentationen immer intelligenter werden und sich mehr und mehr in Richtung „Governance als Code“ entwickeln. 

*Die Autoren des Beitrags sind Sascha Beck, Executive Director & Financial Services-Leader & Daniel Gottschalck, Managing Director bei GFT Technologies SE.