AI Security Glossar
Zentrale Begriffe und Konzepte in AI Security, Governance und Compliance — erklärt für Praktiker.
Agent Communication Protocol (ACP)
Das Agent Communication Protocol (ACP) ist ein REST-basierter Standard für die Interoperabilität von AI-Agenten. Erfahren Sie, wie ACP mit MCP, A2A und Enterprise-AI-Governance zusammenhängt.
Agentic-AI-Risiko
Agentic-AI-Risiko ist die Kategorie von Sicherheitsbedrohungen, die entstehen, wenn autonome AI-Systeme ohne direkte menschliche Aufsicht handeln. Ein vollständiger Leitfaden.
AI-Agenten-Sicherheit
AI-Agenten-Sicherheit regelt, was autonome AI-Systeme zur Laufzeit tun, worauf sie zugreifen und wonach sie handeln dürfen. Lernen Sie das Bedrohungsmodell, die Kernkontrollen und wie sich Agenten-Sicherheit von traditioneller Anwendungssicherheit unterscheidet.
AI-Firewall
Eine AI-Firewall ist eine Schicht zur Richtliniendurchsetzung, die steuert, worauf AI-Modelle zur Laufzeit zugreifen, was sie generieren und worauf sie reagieren dürfen. Erfahren Sie, wie AI-Firewalls funktionieren und warum Unternehmen sie benötigen.
AI-Governance
AI-Governance ist die Gesamtheit der Richtlinien, Kontrollen und Audit-Mechanismen, die festlegen, wie Organisationen AI verantwortungsvoll und konform einsetzen. Ein vollständiger Leitfaden.
Bevollmächtigter (EU AI Act)
Ein Bevollmächtigter unter dem EU AI Act ist eine in der EU ansässige Person, die ein Nicht-EU-Anbieter schriftlich mit seinen Pflichten beauftragt.
Chief Information Security Officer (CISO)
Ein Chief Information Security Officer (CISO) ist die Führungskraft, die für die Sicherheitsstrategie einer Organisation verantwortlich ist. Erfahren Sie mehr über die Rolle, die Berichtswege und die Pflichten im Bereich AI-Governance.
Data Loss Prevention (DLP)
Data Loss Prevention (DLP) ist eine Reihe von Kontrollen, die verhindern, dass sensible Daten eine Organisation verlassen. Erfahren Sie, wie DLP funktioniert, wo es für AI an Grenzen stößt und wie AI-zeitalter-Datenschutz es erweitert.
Auftragsverarbeitungsvertrag (DPA)
Ein Auftragsverarbeitungsvertrag (DPA) ist ein nach DSGVO erforderlicher Vertrag zwischen Verantwortlichem und Auftragsverarbeiter. Erfahren Sie, was ein DPA enthalten muss und warum AI-Tools einen auslösen.
Datenschutzbeauftragter (DPO)
Ein Datenschutzbeauftragter (DPO) ist eine unabhängige Rolle, die nach DSGVO zur Überwachung der Datenschutz-Compliance erforderlich ist. Erfahren Sie die Aufgaben, Unabhängigkeit und AI-Pflichten des DPO.
Betreiber (EU AI Act)
Ein Betreiber unter dem EU AI Act ist eine Organisation, die ein AI-System unter eigener Verantwortung nutzt. Pflichten des Betreibers und Abgrenzung zum Anbieter.
Digital Operational Resilience Act (DORA)
Der Digital Operational Resilience Act (DORA) ist eine EU-Verordnung, die einen einheitlichen IKT-Risikorahmen für den Finanzsektor festlegt. Erfahren Sie ihre Säulen und ihren AI-Geltungsbereich.
Händler (EU AI Act)
Ein Händler nach dem EU AI Act ist ein Akteur der Lieferkette — weder Anbieter noch Einführer —, der ein AI-System auf dem EU-Markt bereitstellt.
EU AI Act (Artificial Intelligence Act)
Der EU AI Act ist das risikobasierte AI-Gesetz der EU. Eine verständliche Zusammenfassung: was er regelt, ab wann er gilt und wer ihn einhalten muss.
Datenschutz-Grundverordnung (DSGVO)
Die Datenschutz-Grundverordnung (DSGVO) ist das EU-Gesetz, das regelt, wie personenbezogene Daten verarbeitet werden. Erfahren Sie ihre Grundsätze, Rechte und was sie für AI bedeutet.
Governance, Risk & Compliance (GRC)
Governance, Risk und Compliance (GRC) ist ein integrierter Ansatz, um eine Organisation zu steuern, Risiken zu managen und Pflichten zu erfüllen. Erfahren Sie, wie GRC funktioniert und warum AI es braucht.
GPAI (General-Purpose AI)
GPAI im EU AI Act: Definition aus Artikel 3(63), Anbieterpflichten aus Kapitel V, Modelle mit systemischem Risiko — und warum GPAI keine Risikostufe ist.
HIPAA
HIPAA — der Health Insurance Portability and Accountability Act (HIPAA) — legt US-Regeln zum Schutz von Gesundheitsdaten fest. Erfahren Sie seine Privacy und Security Rules sowie die AI-Implikationen.
Human-in-the-Loop (HITL)
Human-in-the-Loop (HITL) ist ein Designmuster, bei dem ein Mensch die Aktionen eines AI-Systems prüft, freigibt oder ablehnt, bevor sie wirksam werden. Erfahren Sie, wie HITL funktioniert.
Identity & Access Management (IAM)
Identity and Access Management (IAM) ist die Disziplin, sicherzustellen, dass die richtigen Identitäten den richtigen Zugriff auf die richtigen Ressourcen haben. Erfahren Sie, wie IAM funktioniert und warum AI-Agenten es aufbrechen.
Einführer (EU AI Act)
Ein Einführer unter dem EU AI Act ist eine in der EU ansässige Person, die ein AI-System mit dem Namen eines Nicht-EU-Anbieters in Verkehr bringt. Rolle, Test und Pflichten.
LLM-Sicherheit
LLM-Sicherheit ist die Praxis, große Sprachmodelle in der Produktion vor adversarialen Angriffen, Datenlecks und unbefugtem Zugriff zu schützen.
Mobile Device Management (MDM)
Mit Mobile Device Management (MDM) können Organisationen iOS- und Android-Geräte von einer zentralen Konsole aus registrieren, konfigurieren, absichern und aus der Ferne verwalten. Erfahren Sie, wie MDM funktioniert und wo es bei AI an Grenzen stößt.
Model Context Protocol (MCP)
Das Model Context Protocol (MCP) ist ein offener Standard zur Anbindung von AI-Modellen und -Agenten an externe Tools und Daten. Erfahren Sie, wie MCP funktioniert und welche Sicherheitsimplikationen es hat.
NIST AI Risk Management Framework
Das NIST AI Risk Management Framework (AI RMF) ist ein freiwilliges Rahmenwerk zum Management von AI-Risiken und zum Aufbau vertrauenswürdiger AI. Lernen Sie seine vier Kernfunktionen und ihre Anwendung kennen.
Akteur (EU AI Act)
Ein Akteur ist der Oberbegriff des EU AI Act für jede Partei in der AI-Wertschöpfungskette: Anbieter, Produkthersteller, Betreiber, Bevollmächtigter, Einführer oder Händler.
OWASP Top 10 for LLMs
Die OWASP Top 10 für LLM-Anwendungen ist eine von der Community erstellte Liste der kritischsten Sicherheitsrisiken in Apps auf Basis großer Sprachmodelle. Lernen Sie die Kategorien und Gegenmaßnahmen kennen.
Personally Identifiable Information (PII)
Personally Identifiable Information (PII) sind alle Daten, die eine Person direkt oder indirekt identifizieren können. Erfahren Sie, wie sich PII von personenbezogenen Daten nach DSGVO unterscheidet und warum sie für AI relevant sind.
Produkthersteller (EU AI Act)
Nach dem EU AI Act gilt ein Produkthersteller, der eine hochriskante AI-Sicherheitskomponente in sein eigenes Produkt einbettet, als Anbieter. Die Regel des Artikels 25(3).
Prompt Injection
Prompt Injection ist ein AI-Sicherheitsangriff, bei dem in Daten eingebettete bösartige Anweisungen ein LLM dazu bringen, Angreiferbefehlen statt seinem System-Prompt zu folgen. Erfahren Sie, wie Angriffe funktionieren und wie man sich dagegen verteidigt.
Anbieter (EU AI Act)
Ein Anbieter unter dem EU AI Act entwickelt ein AI-System oder GPAI-Modell und bringt es unter eigenem Namen in Verkehr. Definition, Test und Pflichten erklärt.
Retrieval-Augmented Generation (RAG)
Retrieval-Augmented Generation (RAG) verankert LLM-Antworten in abgerufenen Dokumenten. Erfahren Sie, wie die RAG-Pipeline funktioniert, wie sie sich vom Fine-Tuning unterscheidet und welche Sicherheitsrisiken sie birgt.
Security Information and Event Management (SIEM)
Security Information and Event Management (SIEM) aggregiert und korreliert Logs über die gesamte IT-Landschaft hinweg für Echtzeit-Alarmierung, Untersuchung und Compliance.
Shadow AI
Shadow AI ist die Nutzung von AI-Tools durch Mitarbeiter ohne Freigabe von IT, Sicherheit oder Compliance. Erfahren Sie, was dazuzählt, warum es ein Risiko ist und wie man es regelt.
Single Sign-On (SSO)
Single Sign-On (SSO) ermöglicht Nutzern den Zugriff auf viele Anwendungen mit einem einzigen Satz von Anmeldedaten über einen zentralen Identity-Provider. Erfahren Sie, wie SSO funktioniert, welche Risiken es birgt und wo seine Grenzen für AI liegen.
SOC 2
SOC 2 ist ein Attestierungsbericht über die Kontrollen einer Dienstleistungsorganisation anhand der AICPA Trust Services Criteria. Erfahren Sie, wie SOC 2 funktioniert, Typ I vs. Typ II und welche Relevanz es für AI hat.