Risiko 1: Prompt-Injection-Angriffe
Das meistdiskutierte Risiko. Angreifer können bösartige Befehle in die Daten einbetten, die ein Agent verarbeitet — E-Mails, Webseiten oder Dokumente. Folgt der Agent diesen eingeschleusten Befehlen, lässt er sich dazu manipulieren, Daten zu exfiltrieren, Tools missbräuchlich zu verwenden oder Sicherheitsrichtlinien zu verletzen.
Risiko 2: Übermäßig berechtigter Tool-Einsatz
Agenten brauchen Tools, um nützlich zu sein, doch breiter Tool-Zugriff ist eine erhebliche Sicherheitslücke. Hat ein Agent Schreibzugriff auf Ihre Datenbank oder die Möglichkeit, E-Mails nach außen zu versenden, kann ein einziger Reasoning-Fehler oder eine erfolgreiche Injection unumkehrbare Konsequenzen in der realen Welt haben. Eine Architektur nach dem Prinzip der geringsten Rechte ist nicht verhandelbar.
Risiko 3: Datenexfiltration über Modellanbieter
Jede Interaktion mit einem LLM-Agenten bedeutet, dass Daten an einen Drittanbieter-Modellanbieter gesendet werden. Verarbeitet Ihr Agent sensible Dokumente oder PII, verlassen diese Daten Ihre Umgebung. Organisationen müssen Schichten zur Datenfilterung und -schwärzung wie Shield Control einführen, um versehentliche Datenlecks zu verhindern.
Risiko 4: Instabiles autonomes Verhalten
Agenten arbeiten häufig in Schleifen. Stößt ein Modell auf einen unerwarteten Fehler eines Tools, kann es in eine „Infinite-Retry"-Schleife geraten oder versuchen, den Fehler durch eine Abfolge zunehmend riskanter Aktionen zu „beheben". Ohne Runtime-Beschränkungen kann dieses Verhalten zu Ressourcenerschöpfung oder Datenkorruption führen.
