AI-Governance für Finanzdienstleister

Finanzdienstleister stehen bei ihrer AI-Nutzung unter stärkerer regulatorischer Beobachtung als nahezu jeder andere Sektor. MaRisk, DORA und die DSGVO haben jeweils unmittelbare Auswirkungen darauf, wie Modelle bereitgestellt, überwacht und gesteuert werden. Der EU AI Act fügt für Hochrisiko-Anwendungsfälle eine vierte Ebene hinzu.

Die meisten Unternehmen verfügen über Compliance-Programme, die IT-Risiko und Datenschutz allgemein adressieren. Nur sehr wenige haben diese Programme in Kontrollen übersetzt, die speziell für AI ausgelegt sind. Genau auf diese Lücke richtet sich die Aufmerksamkeit der Regulierungsbehörden zunehmend — und dort werden die Prüfungsfragen schwieriger.

Dieser Artikel erläutert, was jedes Rahmenwerk erwartet, wie sich die Anforderungen überschneiden und wie eine Compliance-taugliche AI-Governance-Infrastruktur in der Praxis aussieht.

Die regulatorische Landschaft

MaRisk (Mindestanforderungen an das Risikomanagement, Deutschland)

Die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) hat MaRisk 2022 aktualisiert, um algorithmische Entscheidungsfindung und Modellrisiko zu adressieren. Die für AI-Governance relevanten Kernpflichten sind:

AT 7.2 (Technisch-organisatorische Ausstattung): Institute müssen über angemessene Kontrollen für IT-Systeme verfügen, einschließlich Prozessen zur Genehmigung neuer Systeme und zur Überwachung ihres Verhaltens. In Geschäftsprozessen eingesetzte AI-Modelle fallen in diesen Anwendungsbereich. Die Aufsicht erwartet dokumentierte Genehmigungs-Workflows vor dem Produktiveinsatz sowie eine laufende Performance-Überwachung.

AT 8.2 (Änderungen betrieblicher Prozesse): Neue AI-basierte Fähigkeiten — einschließlich AI-Agenten, die im Namen des Unternehmens Handlungen ausführen — gelten als Änderungen betrieblicher Prozesse, die eine Risikobewertung, Dokumentation und eine Freigabe durch die Geschäftsleitung erfordern.

BTO 1.4 (Modellrisiko): Dieses Modul ist hinsichtlich der Anforderungen an die Modellvalidierung ausdrücklich. Institute müssen Modelle vor dem Einsatz validieren, den Validierungsprozess dokumentieren und bei wesentlichen Änderungen neu validieren. Für AI bedeutet dies, dass die Validierungspflicht auch über APIs genutzte Foundation-Modelle abdeckt, nicht nur intern entwickelte Modelle — eine Position, die die BaFin in ihren aufsichtsrechtlichen Leitlinien bestätigt hat.

Auslagerung (AT 9): Wenn AI-Dienste von Cloud-Anbietern oder API-Anbietern bereitgestellt werden, gelten die MaRisk-Auslagerungsregeln. Institute müssen die Wesentlichkeit der Auslagerungsvereinbarung bewerten, Exit-Strategien vorhalten und sicherstellen, dass sie ihre Dienstleister prüfen können. Die Nutzung von OpenAI, Anthropic oder ähnlichen API-Diensten für geschäftskritische AI-Workflows löst diese Pflichten aus.

DORA (Digital Operational Resilience Act)

DORA, das im Januar 2025 anwendbar wurde, ist in erster Linie ein Resilienz- und ICT-Risikorahmen — doch sein Anwendungsbereich umfasst AI-Systeme, die in kritischen Geschäftsfunktionen eingesetzt werden.

ICT-Risikomanagement (Artikel 5-16): Institute müssen einen ICT-Risikomanagement-Rahmen vorhalten, der AI-Systeme in kritischen oder wichtigen Funktionen abdeckt. Dazu gehört die Identifizierung und Dokumentation dieser Systeme, die Bewertung ihres Risikoprofils sowie die Umsetzung von Kontrollen, die diesem Risiko angemessen sind.

Risiko durch ICT-Drittdienstleister (Artikel 28-44): Wenn AI über Drittanbieter bereitgestellt wird — Cloud-basierte Modell-APIs, AI-fähige SaaS-Lösungen —, verlangt DORA vertragliche Bestimmungen, einschließlich Prüfungsrechten, Anforderungen an den Datenstandort und Exit-Planung. Speziell für AI bedeutet dies, dass Institute beurteilen müssen, ob ihre Modellanbieter die Prüf- und Inspektionsanforderungen von DORA erfüllen können, und sicherstellen müssen, dass Verträge die erforderlichen Klauseln enthalten.

Vorfallmanagement und -meldung (Artikel 17-23): AI-bezogene Vorfälle — ein Modell, das sich unerwartet verhält, eine Datenoffenlegung über einen AI-Prompt, ein AI-Agent, der eine unbeabsichtigte Handlung ausführt — fallen unter die Klassifizierungs- und Meldepflichten für Vorfälle nach DORA. Institute müssen über Prozesse verfügen, um diese Vorfälle zu erkennen, zu klassifizieren und (sofern wesentlich) zu melden.

Resilienztests (Artikel 24-27): Kritische Funktionen, die von AI-Systemen unterstützt werden, müssen in die Resilienztests einbezogen werden. Für AI bedeutet dies das Testen von Fehlermodi, Rückfallverfahren und der Robustheit AI-abhängiger Workflows.

DSGVO

Die Auswirkungen der DSGVO auf AI-Governance werden häufig unterschätzt. Die zentralen Pflichten sind:

Artikel 5 (Datenminimierung): AI-Prompts, die personenbezogene Daten enthalten, müssen dem Grundsatz der Datenminimierung genügen. Das Senden eines vollständigen Kundendatensatzes an ein AI-Modell, wenn für die Aufgabe nur Name und E-Mail benötigt werden, ist ein Compliance-Verstoß.

Artikel 25 (Datenschutz durch Technikgestaltung): Systeme, die AI zur Verarbeitung personenbezogener Daten einsetzen, müssen von Anfang an unter Berücksichtigung des Datenschutzes gestaltet werden. Das nachträgliche Aufsetzen von DSGVO-Kontrollen auf AI-Workflows, die ohne Datenschutzprüfung bereitgestellt wurden, ist ein häufiger Prüfungsbefund.

Artikel 28 (Auftragsverarbeitungsvereinbarungen): AI-Modellanbieter, die personenbezogene Daten im Auftrag Ihres Unternehmens verarbeiten, sind Auftragsverarbeiter. DSGVO-konforme AVV müssen vorliegen. Consumer-AI-Dienste bieten in der Regel keine AVV an, die Artikel 28 erfüllen — dies ist der Hauptgrund, warum die unkontrollierte Nutzung von Consumer-AI-Tools ein DSGVO-Risiko schafft.

Artikel 22 (Automatisierte Entscheidungsfindung): Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung, die ausschließlich auf automatisierter Verarbeitung beruhen, erfordern entweder eine ausdrückliche Einwilligung, eine vertragliche Notwendigkeit oder eine gesetzliche Ermächtigung. AI-Systeme, die an Kreditentscheidungen, Versicherungstarifierung oder Bewerberauswahl beteiligt sind, erfordern eine spezifische rechtliche Prüfung.

Datenübermittlungen (Kapitel V): Das Senden personenbezogener Daten an AI-Modellanbieter, deren Infrastruktur außerhalb des EWR liegt, erfordert entweder einen Angemessenheitsbeschluss für das Bestimmungsland, Standardvertragsklauseln oder einen anderen Übermittlungsmechanismus. Viele AI-API-Anbieter verarbeiten Daten in den Vereinigten Staaten — die Konformität von Übermittlungen ist für jedes Unternehmen, das diese Dienste nutzt, ein aktuelles Thema.

EU AI Act

Der EU AI Act klassifiziert AI-Systeme nach Risikostufe und wendet die Anforderungen entsprechend an. Für Finanzdienstleister sind die relevantesten Bestimmungen:

Hochrisiko-AI-Systeme (Anhang III): AI, die im Kredit-Scoring, in der Versicherungsrisikobewertung oder bei Beschäftigungsentscheidungen eingesetzt wird, ist als hochriskant klassifiziert. Diese Systeme erfordern eine Konformitätsbewertung vor der Bereitstellung, eine CE-Kennzeichnung (für von harmonisierten Normen erfasste Systeme) sowie eine Registrierung in der EU-Datenbank für Hochrisiko-AI-Systeme. Unternehmen, die AI in diesen Funktionen einsetzen, müssen beurteilen, ob sie Betreiber von Hochrisiko-AI-Systemen im Sinne des AI Act sind.

Pflichten für AI-Modelle mit allgemeinem Verwendungszweck (Artikel 51-56): Unternehmen, die Foundation-Modelle feinabstimmen oder anderweitig anpassen, übernehmen Pflichten, die über die reiner Betreiber hinausgehen. Dies ist relevant für Unternehmen, die proprietäre AI-Fähigkeiten auf Basis von über APIs zugänglichen Modellen aufbauen.

Transparenzpflichten (Artikel 50): AI-Systeme, die mit Menschen interagieren — Chatbots, AI-generierte Kommunikation —, müssen offenlegen, dass die Inhalte AI-generiert sind. Dies gilt für kundengerichtete AI in Finanzdienstleistungen.

Die Compliance-Lücke, die die meisten Unternehmen haben

Trotz dieses umfangreichen Regulierungsrahmens haben die meisten Finanzdienstleister dieselbe Lücke: Sie wissen, was die Regeln besagen, doch es fehlt ihnen die Infrastruktur, um Compliance nachzuweisen.

Konkret können Unternehmen typischerweise nicht:

Jedes in der Organisation eingesetzte AI-Modell aufzählen. Geschäftsbereiche, technische Teams und einzelne Mitarbeitende nutzen AI-Tools außerhalb der zentralen IT-Aufsicht. Ein Unternehmen, das seine AI-Nutzung nicht inventarisieren kann, kann sie nicht steuern.
Einen Audit-Trail von AI-Interaktionen über Shield Control vorweisen. Regulierungsbehörden, die Prüfungen durchführen, fragen zunehmend nach Protokollen der AI-Nutzung — welche Modelle mit welchen Daten für welche Entscheidungen verwendet wurden. Unternehmen ohne diese Protokollierung haben nichts vorzuweisen.
Nachweisen, dass sensible Daten kontrollierte Umgebungen nicht verlassen haben. Für DSGVO- und MaRisk-Zwecke müssen Unternehmen zeigen können, dass personenbezogene Daten, Kundendaten und regulierte Informationen nicht ohne angemessene Kontrollen und Vereinbarungen an externe AI-Dienste gesendet wurden.
Belegen, dass AI-Entscheidungen angemessen geprüft wurden. Für Hochrisiko-Anwendungsfälle erwarten Regulierungsbehörden den Nachweis, dass AI-Ausgaben vor folgenreichen Entscheidungen einer menschlichen Prüfung unterzogen wurden.

Wie eine Compliance-taugliche AI-Governance-Infrastruktur aussieht

Diese Anforderungen zu erfüllen, erfordert eine technische Schicht, nicht nur eine Richtliniendokumentation.

Eine Steuerungsebene für AI-Interaktionen. Jeder AI-Aufruf — ob von einem Mitarbeitenden über eine Chatbot-Oberfläche oder von einem automatisierten Agenten-Workflow — sollte ein System durchlaufen, das diese Interaktion prüfen, protokollieren und mit einer Richtlinie versehen kann. Dies ist die Grundlage einer audit-fähigen Governance.

Datenklassifizierung auf der Prompt-Schicht mit Shield Web. Bevor Daten ein externes Modell erreichen, sollten sie klassifiziert und gegen Ihre Datenschutzrichtlinie gefiltert werden. Personenbezogene Daten, die nicht auf einer angemessenen Rechtsgrundlage verarbeitet werden können, sollten vor der Übertragung blockiert oder pseudonymisiert werden.

Bewertung von Drittanbietern und Vertragsmanagement. Jeder eingesetzte AI-Modellanbieter sollte gegen Ihren DORA-Drittparteienrisikorahmen bewertet werden und über angemessene AVV verfügen. Dies setzt voraus, dass Sie wissen, wer diese Anbieter sind — was wiederum die oben genannte Inventarisierungsfähigkeit erfordert.

Überwachung der Modell-Performance. Für Modelle, die in folgenreichen Entscheidungen eingesetzt werden, benötigen Sie eine laufende Überwachung auf Drift, unerwartete Ausgaben und Leistungsverschlechterung. Dies ist unter den Modellrisiko-Anforderungen von MaRisk nicht optional.

Erkennung und Klassifizierung von Vorfällen. AI-bezogene Vorfälle — Prompt-Injection-Angriffe, modellgenerierte Fehlinformationen, die in einem Geschäftsprozess verwendet werden, eine Datenoffenlegung über ein AI-Tool — müssen innerhalb Ihres bestehenden Vorfallmanagement-Rahmens erkennbar und klassifizierbar sein.

Dokumentierte menschliche Prüfung für Hochrisiko-Anwendungsfälle. Für Entscheidungen, die unter Artikel 22 der DSGVO oder den Hochrisiko-Bestimmungen des EU AI Act eine menschliche Aufsicht erfordern, muss die Prüfung dokumentiert sein. Keine allgemeine Richtlinienaussage, dass eine Prüfung stattfindet — sondern ein Protokoll der konkreten Prüfung für die konkrete Entscheidung.

Eine praktische Compliance-Checkliste

Für Finanzdienstleister, die ihre aktuelle Position bewerten:

Der Weg nach vorn

Die regulatorische Stoßrichtung ist eindeutig. Die MaRisk-Aufsicht wird sich beim Modellrisiko verschärfen. DORA-Prüfungen werden beginnen, AI in ICT-Risikoprogrammen zu hinterfragen. Die Hochrisiko-Pflichten des EU AI Act werden für Finanzdienstleistungs-Anwendungsfälle greifen. Unternehmen, die jetzt eine Governance-Infrastruktur aufgebaut haben, befinden sich in einer grundlegend anderen Position als jene, die sich weiterhin allein auf Richtlinien verlassen.

Die Unternehmen, die dies am besten bewältigen, betrachten AI-Governance nicht als Compliance-Last, sondern als operative Fähigkeit. Die Steuerungsebene, die Ihren Prüfer zufriedenstellt, ist dieselbe, die Ihrem Sicherheitsteam Transparenz, Ihren Betriebsverantwortlichen Vertrauen und Ihren Mitarbeitenden einen sicheren Weg zur produktiven AI-Nutzung verschafft.

Qadar AI ist für regulierte Branchen gebaut — buchen Sie ein Gespräch, um zu sehen, wie wir MaRisk-, DORA- und DSGVO-Anforderungen in der Praxis adressieren. Gespräch buchen

AI-Governance für Finanzdienstleister: Was Regulierungsbehörden 2025 erwarten