Die meiste AI-Governance ist heute reaktiv. Etwas geschieht — Daten werden an ein Modell gesendet, ein Agent führt eine Aktion aus, eine AI-gestützte Entscheidung wird umgesetzt — und dann prüft es jemand. Vielleicht. Irgendwann. Sofern die Protokollierung gut genug war, um das Geschehene zu rekonstruieren.
Für AI-Interaktionen mit geringem Risiko ist das oft akzeptabel. Ein Mitarbeiter, der ChatGPT bittet, einen Absatz internen Textes umzuformulieren, benötigt keine vorherige Freigabe. Das Risiko ist gering, und die Kosten der Governance-Reibung überwiegen den Nutzen.
Doch für AI-Aktionen mit hohem Risiko — das Senden von Kundendaten an ein externes Modell, das Ausführen einer finanziellen Entscheidung auf Basis von AI-Ausgaben, das Zulassen, dass ein AI-Agent Produktionsdatensätze ändert — ist reaktive Governance überhaupt keine Governance. Sie ist eine Prüfung nach dem Vorfall.
Dieser Artikel erklärt, warum Freigabe-Gates vor der Ausführung das entscheidende fehlende Element in den meisten AI-Governance-Programmen sind und wie man sie implementiert, ohne Engpässe zu schaffen.
Was eine AI-Aktion zu „hohem Risiko" macht
Nicht jede AI-Interaktion erfordert das gleiche Maß an Aufsicht. Ein praxistaugliches Risiko-Framework klassifiziert Aktionen nach ihrer potenziellen Auswirkung:
Geringes Risiko — autonome Ausführung. Schreibgeschützte AI-Operationen, internes Verfassen von Inhalten, Datenzusammenfassung aus nicht sensiblen Quellen. Diese können ohne Freigabe ausgeführt und zu Auditzwecken protokolliert werden.
Mittleres Risiko — überwachte Ausführung. AI-Operationen mit internen Daten, Codegenerierung oder Inhalten, die vor externer Nutzung geprüft werden. Diese laufen mit erweiterter Protokollierung und periodischer Prüfung, jedoch ohne Freigabe pro Interaktion.
Hohes Risiko — Freigabe erforderlich. AI-Operationen, die eines der folgenden Elemente umfassen:
- Personenbezogene oder kundenvertrauliche Daten, die an externe Modelle gesendet werden
- AI-gestützte Entscheidungen mit finanziellen, rechtlichen oder operativen Konsequenzen
- Agenten-Aktionen, die Produktionsdaten ändern, externe Kommunikation versenden oder Transaktionen ausführen
- Interaktionen mit Modellen oder Tools außerhalb der freigegebenen Liste der Organisation
Kritisches Risiko — ausnahmslos blockiert. AI-Operationen, die unter keinen Umständen auf ein akzeptables Risiko gemindert werden können — beispielsweise die Verarbeitung von Daten, die spezifischen vertraglichen Verboten unterliegen, oder die Ausführung autonomer Aktionen in sicherheitskritischen Systemen.
Die konkreten Grenzen zwischen den Stufen variieren je nach Organisation, Branche und regulatorischem Umfeld. Entscheidend ist, überhaupt Grenzen zu haben und sie technisch durchzusetzen, statt sich allein auf das Urteilsvermögen der Mitarbeiter zu verlassen.
Warum eine nachträgliche Prüfung nicht ausreicht
Die nachträgliche Prüfung — das Betrachten von Logs im Nachhinein — ist wertvoll für Compliance-Überwachung und Vorfalluntersuchung. Für die Governance von Aktionen mit hohem Risiko ist sie aus drei Gründen nicht ausreichend:
Der Schaden ist bereits entstanden. Wurden Kundendaten an ein nicht freigegebenes Modell gesendet, macht das Prüfen des Logs den Versand nicht rückgängig. Hat ein AI-Agent Produktionsdatensätze gelöscht, stellt der Audit-Trail sie nicht wieder her. Bei Aktionen mit irreversiblen Konsequenzen findet die einzig wirksame Governance vor der Ausführung statt.
Die Erkennung ist unzuverlässig. Die nachträgliche Prüfung hängt davon ab, dass jemand das Problem bemerkt. In einer AI-Umgebung mit hohem Volumen ist das Signal-Rausch-Verhältnis niedrig. Eine einzelne problematische Interaktion unter Tausenden täglicher AI-Anfragen ist leicht zu übersehen — insbesondere, wenn die Protokollierung das Risiko nicht klar sichtbar macht.
Sie erfüllt keine regulatorischen Anforderungen. DSGVO Artikel 22, die Bestimmungen des EU AI Act zu Hochrisiko-Systemen und sektorspezifische Vorschriften (MaRisk, DORA, SOX) erwarten Kontrollen, die schädliche Ergebnisse verhindern, nicht nur im Nachhinein erkennen. Ein Prüfer, der fragt „Welche Kontrollen verhindern, dass Ihre AI unbeaufsichtigt Entscheidungen mit Kundendaten trifft?", gibt sich nicht mit „Wir prüfen die Logs wöchentlich" zufrieden.
Wie Freigabe-Gates vor der Ausführung funktionieren
Ein Freigabe-Gate vor der Ausführung fängt eine AI-Aktion ab, bevor sie ausgeführt wird, legt sie einem Prüfer vor und fährt fort oder blockiert auf Basis der Entscheidung des Prüfers. Der Ablauf sieht so aus:
1. Die AI-Aktion wird initiiert. Ein Mitarbeiter übermittelt einen Prompt, ein Agent schlägt einen Tool-Call vor oder ein AI-gesteuerter Workflow erreicht einen Entscheidungspunkt.
2. Die Policy-Engine bewertet die Aktion. Die Governance-Schicht klassifiziert die Aktion auf Basis der beteiligten Daten, des Operationstyps und der für diesen Kontext konfigurierten Richtlinienregeln. Liegt die Aktion unterhalb der Freigabeschwelle, wird sie automatisch mit Protokollierung fortgesetzt.
3. Aktionen mit hohem Risiko werden pausiert. Überschreitet die Aktion die Freigabeschwelle, wird die Ausführung ausgesetzt. Die Aktion wird zur Prüfung in eine Warteschlange gestellt. Die AI-Sitzung wartet auf eine Entscheidung.
4. Der Prüfer sieht eine geschwärzte Ansicht. Die Freigabeanfrage wird dem dafür vorgesehenen Prüfer — einem Manager, Compliance-Officer oder Sicherheitsverantwortlichen — in einer Form präsentiert, die zeigt, was angefordert wird, ohne sensible Daten unnötig offenzulegen. Der Prüfer sieht den Aktionstyp, die beteiligten Datenkategorien, die Richtlinienregel, die das Gate ausgelöst hat, und genügend Kontext, um eine fundierte Entscheidung zu treffen.
5. Der Prüfer entscheidet. Freigeben (mit der Ausführung fortfahren), ablehnen (die Aktion blockieren) oder ändern (die Aktion vor dem Fortfahren anpassen). Die Entscheidung wird mit Identität, Zeitstempel und Begründung des Prüfers protokolliert.
6. Die Ausführung wird fortgesetzt oder gestoppt. Bei Freigabe wird die Aktion ausgeführt. Bei Ablehnung wird die Sitzung benachrichtigt und kann die Ablehnung kontrolliert behandeln. In beiden Fällen erfasst der Audit-Trail die vollständige Abfolge: Aktion vorgeschlagen → Richtlinienbewertung → Freigabe angefordert → Entscheidung getroffen → Ergebnis.
Freigabe-Workflows gestalten, die keine Engpässe erzeugen
Der häufigste Einwand gegen eine Freigabe vor der Ausführung lautet, dass sie die Dinge verlangsamt. Und das tut sie — das ist der Sinn. Für Aktionen mit hohem Risiko ist eine kurze Pause der Preis der Governance. Eine schlechte Implementierung kann jedoch aus einer notwendigen Pause einen unbrauchbaren Engpass machen.
So vermeiden Sie das.
Legen Sie Freigabeschwellen sorgfältig fest. Erfordert jede AI-Interaktion eine Freigabe, ist der Workflow unbrauchbar. Erfordert nichts eine Freigabe, ist die Governance reine Fassade. Nutzen Sie das obige Risikoklassifizierungs-Framework: Nur Aktionen mit hohem und kritischem Risiko lösen das Gate aus. Aktionen mit geringem und mittlerem Risiko werden mit Protokollierung fortgesetzt.
Leiten Sie an den richtigen Prüfer weiter. Nicht jede Freigabe muss zum CISO gehen. Leiten Sie kontextabhängig weiter: Freigaben zur Datenklassifizierung gehen an eine für den Datenschutz verantwortliche Person, finanzielle Entscheidungen an einen Finanzmanager, Aktionen mit Kundendaten an den zuständigen Engagement Partner. Ordnen Sie den Prüfer der Risikodomäne zu.
Definieren Sie Erwartungen an die Reaktionszeit. Legen Sie SLAs für die Freigabereaktion fest. Ein 15-Minuten-SLA für die meisten Aktionen, Eskalation nach 30 Minuten und automatische Blockierung nach 60 Minuten geben Prüfern ein klares Zeitfenster, ohne Aktionen unbegrenzt in der Warteschlange zu belassen.
Gestalten Sie die Freigabe-Oberfläche einfach. Der Prüfer sollte die Anfrage verstehen und in unter zwei Minuten eine Entscheidung treffen können. Erfordert die Freigabe-Oberfläche das Lesen von Rohdaten, das Konsultieren von Dokumentation oder das Verständnis technischer Implementierungsdetails, wird der Workflow scheitern.
Erlauben Sie Delegation. Prüfer müssen delegieren können, wenn sie nicht verfügbar sind. Bauen Sie Delegationsketten auf, damit Freigaben nicht durch den Kalender einer einzelnen Person blockiert werden.
Freigabe-Workflows für AI-Agenten
AI-Agenten bringen eine spezifische Variante dieser Herausforderung mit. Agenten treffen Entscheidungen und führen Aktionen autonom aus — das ist ihr Zweck. Doch autonomes Handeln ohne Governance ist ein Risiko, auf das die meisten Organisationen nicht vorbereitet sind.
Für Agenten-Workflows greifen Freigabe-Gates auf Ebene der Tool-Calls:
- Schreibgeschützte Tool-Calls (abrufen, zusammenfassen, analysieren) können in der Regel autonom ausgeführt werden
- Schreibfähige Tool-Calls (senden, erstellen, aktualisieren, löschen) sollten eine Freigabe für jede Aktion auslösen, die Produktionsdaten, externe Kommunikation oder Finanzsysteme betrifft
- Mehrstufige Workflows benötigen möglicherweise eine Freigabe an bestimmten Kontrollpunkten statt für jede einzelne Aktion — den Plan prüfen, die Abfolge freigeben, die Ausführung überwachen
Das Kernprinzip: Das Maß an Autonomie, das ein Agent hat, sollte proportional zum Maß an Vertrauen sein, das er sich durch seinen bisherigen Ausführungsverlauf erworben hat, sowie zum Risikograd, den die Aktion birgt. Neue Agenten mit unerprobtem Verhalten sollten strengere Freigabeanforderungen haben als etablierte Agenten mit nachweislicher Erfolgsbilanz.
Was das für Ihre Organisation bedeutet
Wenn Ihre Organisation AI in Workflows einsetzt, die sensible Daten verarbeiten oder folgenreiche Entscheidungen steuern, müssen Sie eine Frage beantworten: Was geschieht zwischen dem Moment, in dem die AI handeln will, und der Ausführung der Aktion?
Lautet die Antwort „nichts — die Aktion wird einfach ausgeführt", haben Sie eine Governance-Lücke, die keine noch so umfangreiche nachträgliche Protokollierung schließen kann.
Freigabe-Gates vor der Ausführung schließen diese Lücke. Sie fügen einen Moment menschlichen Urteils genau an der Stelle ein, an der es am wichtigsten ist — bevor das Irreversible geschieht. Gut umgesetzt, fügen sie Aktionen mit hohem Risiko angemessene Reibung hinzu, ohne den alltäglichen Gebrauch zu verlangsamen.
Qadar AI bietet Freigabe-Gates vor der Ausführung für AI-Interaktionen und Agenten-Workflows — integriert in Shield Control, in wenigen Minuten konfiguriert. So funktioniert es
