Kategorie 1: Manipulation von Anweisungen (Prompt Injection)
Das bekannteste Agentic-Risiko. Da Agenten externe Daten (etwa Webseiten oder E-Mails) verarbeiten, um Aufgaben zu erledigen, kann ein Angreifer schädliche Anweisungen in diese Daten einbetten. Befolgt der Agent die eingeschleusten Anweisungen, lässt er sich dazu zwingen, mit seinen Tools der Organisation zu schaden.
Kategorie 2: Missbrauch von Tool-Calls
Agenten sind nur so gefährlich wie die Tools, auf die sie Zugriff haben. Ein Risiko entsteht, wenn Agenten mit zu weitreichenden Berechtigungen ausgestattet sind — etwa ein HR-Agent mit „Admin"-Zugriff auf die Mitarbeiterdatenbank. Ein autonomes System, das Tool-Calls auf Grundlage seiner eigenen Schlussfolgerungen ausführt, erfordert eine Least-Privilege-Architektur.
Kategorie 3: Instabilität in geschlossenen Regelkreisen
Agenten arbeiten häufig in einer Schleife: planen, handeln, beobachten, wiederholen. Stößt ein Agent auf einen Fehler oder mehrdeutiges Feedback, kann er in einen instabilen Zustand geraten, Aktionen rasch wiederholen oder sein Verhalten eskalieren, um das Ziel doch noch zu erreichen. Das kann zu Ressourcenerschöpfung, Datenkorruption oder „halluzinierten" Systemaktualisierungen führen.
Kategorie 4: Die Verantwortungslücke
Wenn ein autonomer Agent eine Aktion ausführt, ist es schwierig zu bestimmen, warum er dies getan hat. LLMs sind nicht-deterministisch. Ohne einen spezialisierten Audit-Trail wie den von Shield Control können Organisationen die Nachweise nicht erbringen, die Regulierungsbehörden für automatisierte Entscheidungen mit erheblichen rechtlichen Auswirkungen verlangen.
