Muster 1: Guardrails auf Prompt-Ebene
Die einfachste Form von Guardrails besteht darin, dem Modell über System-Prompts mitzuteilen, was es tun darf und was nicht. Zum Beispiel: „Sie sind ein Assistent. Sie dürfen KEINE Preisinformationen weitergeben oder Dateien löschen."
Das Risiko: Guardrails auf Prompt-Ebene sind Empfehlungen, keine Kontrollen. Sie sind hochgradig anfällig für Prompt Injection und Modell-Drift. Sie sollten niemals die einzige Sicherheitsebene für einen produktiven Agenten sein.
Muster 2: Semantische Eingabe-/Ausgabefilterung
Dieses Muster nutzt ein zweites, kleineres Modell (einen „Moderator" oder „Klassifizierer"), um jede Eingabe und Ausgabe auf Richtlinienverstöße zu prüfen. Es kann PII, toxische Inhalte oder Anweisungen erkennen, die wie Injection-Angriffe aussehen.
Der Vorteil: Es bietet eine dynamische Schutzebene, die nicht auf einfachem Schlüsselwortabgleich beruht.
Muster 3: Abfangen von Tool-Calls zur Laufzeit
Dies ist das robusteste Muster und der Kern der Shield Control-Architektur. Jedes Mal, wenn ein Agent versucht, ein Tool zu verwenden (etwa eine API aufzurufen oder eine Datei zu lesen), wird die Anfrage auf der Infrastrukturebene abgefangen.
Die Sicherheitsplattform validiert den Tool-Call gegen eine zentrale Richtlinien-Engine. Ist die Aktion nicht autorisiert — etwa „alle Kundendaten an eine private E-Mail übertragen" —, wird sie blockiert, bevor sie überhaupt ausgeführt wird.
Muster 4: Human-in-the-Loop (HITL)
Bei besonders folgenreichen Aktionen ist der Guardrail ein Mensch. Der Agent kann die Aktion planen, muss jedoch pausieren und auf die ausdrückliche Freigabe durch einen Operator warten, bevor er fortfährt. Das ist entscheidend bei Finanztransaktionen, Datenlöschungen oder externer Kommunikation.
