1. Warum der EU AI Act nach Risiko aufgebaut ist, nicht nach Technologie
Der EU AI Act (Verordnung (EU) 2024/1689) ist am 1. August 2024 in Kraft getreten. Statt Regeln für „AI" als eine einzige Sache zu schreiben, reguliert er AI nach dem Risiko, das eine bestimmte Nutzung für Gesundheit, Sicherheit und Grundrechte darstellt. Dasselbe zugrunde liegende Modell kann in einem Workflow minimales Risiko und in einem anderen hohes Risiko bedeuten — entscheidend ist der Nutzungskontext.
Dieses Design hat eine praktische Konsequenz: Ihre Pflichten hängen weniger davon ab, welches Modell Sie gewählt haben, als davon, was Sie damit tun. Ein Large Language Model, das interne Notizen zusammenfasst, sitzt in einer ganz anderen Stufe als dasselbe Modell, das Bewerber vorsortiert. Die erste Frage für jede Bereitstellung lautet daher nicht „Ist diese AI konform?", sondern „Wozu wird dieses AI-System eingesetzt — was entscheidet oder tut es?"
2. Die vier Risikoklassen — und General-Purpose-AI
Der Act definiert vier Risikoklassen plus ein eigenes Regime für General-Purpose-AI (GPAI).
- Inakzeptables Risiko — verboten. Eine kurze Liste von Praktiken ist verboten, darunter Social Scoring durch Behörden, das ungezielte Auslesen von Gesichtsbildern sowie bestimmte manipulative oder ausnutzende Systeme.
- Hohes Risiko — erlaubt, aber an Bedingungen geknüpft. AI in Bereichen wie Beschäftigung, Bildung, Kredit und wesentlichen Diensten, kritischer Infrastruktur, Strafverfolgung oder als Sicherheitskomponente eines regulierten Produkts. Anbieter müssen Risikomanagement, Data Governance, technische Dokumentation, Logging, menschliche Aufsicht, Transparenz, Genauigkeit und Cybersicherheit umsetzen und vor dem Markteintritt eine Konformitätsbewertung durchlaufen.
- Begrenztes Risiko — Transparenz. Systeme wie Chatbots und Emotionserkennung sowie AI-generierte oder manipulierte Medien tragen die Pflicht, offenzulegen, dass AI im Einsatz ist oder dass Inhalte synthetisch sind.
- Minimales Risiko — keine neuen Pflichten. Die große Mehrheit der geschäftlichen AI-Tools, die nur dem bestehenden Recht unterliegen.
- General-Purpose-AI-Modelle. Foundation Models unterliegen Transparenz- und Dokumentationspflichten; Modelle mit systemischem Risiko unterliegen zusätzlichen Pflichten zu Evaluierung, Risikominderung und Vorfallmeldung.
Die meisten Organisationen operieren in der minimalen und begrenzten Stufe als Betreiber von Tools, die andere gebaut haben. Die Arbeit dort ist leichter als für Hochrisiko-Anbieter — aber sie ist nicht null und betrifft vor allem Transparenz und Nachweise.
3. Der Zeitplan: Was ab wann gilt
Der Act gilt gestaffelt. Behandeln Sie diese Daten als Planungs-Meilensteine, nicht als einzelne Klippe.
| Datum | Was zu gelten beginnt |
|---|---|
| 2. Feb 2025 | Verbotene Praktiken; die AI-Literacy-Pflicht für Anbieter und Betreiber |
| 2. Aug 2025 | Regeln für General-Purpose-AI-Modelle; Governance-Stellen; Sanktionsvorschriften |
| 2. Aug 2026 | Allgemeine Anwendung, einschließlich der meisten Hochrisiko-Pflichten |
| 2. Aug 2027 | Hochrisiko-Pflichten für AI, die in regulierte Produkte des bestehenden EU-Rechts eingebettet ist |
Zwei davon sind für gewöhnliche Betreiber früh relevant: die Verbote (stellen Sie sicher, dass nichts, was Sie nutzen, in eine verbotene Kategorie fällt) und die AI-Literacy-Pflicht (Abschnitt 5).
4. Für wen der Act gilt
Der Act weist Pflichten nach Rolle entlang der Lieferkette zu:
- Anbieter entwickeln ein AI-System oder bringen es unter eigenem Namen in Verkehr. Sie tragen die schwersten Pflichten, besonders bei Hochrisiko-Systemen.
- Betreiber nutzen ein AI-System beruflich. Die meisten Organisationen sind Betreiber — sie führen Tools von Drittanbietern ein und sind dafür verantwortlich, sie innerhalb der Grenzen des Acts zu nutzen, menschliche Aufsicht sicherzustellen, wo erforderlich, und Transparenzpflichten zu erfüllen.
- Importeure, Händler und Produkthersteller tragen Pflichten, wo sie Systeme in den EU-Markt bringen oder AI in ihre Produkte einbauen.
Entscheidend: Der Act ist extraterritorial. Ein Anbieter oder Betreiber mit Sitz außerhalb der EU fällt in den Geltungsbereich, wenn die Ausgabe seines AI-Systems innerhalb der Union genutzt wird. Der Ort der Niederlassung hebt die Pflicht nicht auf.
5. Die AI-Literacy-Pflicht (Artikel 4): Wer geschult werden muss
Artikel 4 ist eine der frühesten und breit relevantesten Pflichten. Ab dem 2. Februar 2025 müssen Anbieter und Betreiber Maßnahmen ergreifen, um ein ausreichendes Maß an AI Literacy bei ihren Mitarbeitern und anderen sicherzustellen, die AI-Systeme in ihrem Auftrag bedienen — genug Verständnis davon, wie die Systeme funktionieren und welche Risiken und Grenzen sie haben, um verantwortungsvoll damit umzugehen.
Die Pflicht ist ergebnisorientiert, kein festes Curriculum. Was „ausreichend" bedeutet, skaliert mit den Rollen der Menschen, den Systemen, die sie berühren, und dem Nutzungskontext. In der Praxis ist dies die regulatorische Grundlage für eine AI-Usage-Policy plus rollengerechte Schulung: Wer wirkungsstärkere AI bedient, braucht tieferes Verständnis als jemand, der einen Assistenten mit minimalem Risiko nutzt.
6. Wie der EU AI Act auf die DSGVO trifft
Der AI Act ersetzt das Datenschutzrecht nicht — er läuft daneben. Wo ein AI-System personenbezogene Daten verarbeitet, gilt die DSGVO weiterhin vollständig: Sie brauchen weiterhin eine Rechtsgrundlage, Datenminimierung, ein Verzeichnis von Verarbeitungstätigkeiten und einen Pfad zur menschlichen Überprüfung bei bedeutsamen automatisierten Entscheidungen.
Die beiden Rahmenwerke verstärken einander. Vieles, was der AI Act zu Dokumentation, menschlicher Aufsicht und Logging erwartet, deckt sich eng mit DSGVO-Pflichten, die Sie möglicherweise bereits erfüllen. Unser begleitender Artikel zu EU-AI-Act- und DSGVO-Controls für schlanke Operators geht die überlappenden Controls im Detail durch; kurz gesagt kann eine einzige, gut instrumentierte Kontrollebene Nachweise für beide zugleich erzeugen.
7. Die praktischen Controls, die ein Betreiber braucht
Für einen Betreiber ist AI-Act-Readiness überwiegend ein Governance- und Nachweisproblem. Es zählen die Controls, die es Ihnen jederzeit erlauben zu beantworten, welche AI-Systeme im Einsatz sind, welche Daten sie erhalten, wer sie bedient und was sie getan haben. Funktional:
- Inventar und Discovery — wissen, welche AI-Tools und -Dienste tatsächlich im Einsatz sind, über Browser, Desktop, Mobile und Agent-Runtimes hinweg, einschließlich der ohne Beteiligung der IT eingeführten.
- Policy-Durchsetzung — Regeln auf der Prompt- und Tool-Call-Ebene anwenden: sensible Daten filtern, bevor sie Ihren Perimeter verlassen, und Nutzungskategorien blockieren, die außerhalb der Policy liegen.
- Menschliche Aufsicht für folgenreiche Aktionen — risikoreiche Agenten-Aktionen gaten, sodass eine Person vor der Ausführung freigibt, mit protokollierter Entscheidung.
- Ein manipulationssicherer Audit-Trail — eine vollständige, durchsuchbare Aufzeichnung von AI-Interaktionen, die sowohl die Rechenschaft unter dem AI Act als auch die DSGVO-Pflicht zum Verarbeitungsverzeichnis stützt.
Shield Control von Qadar AI stellt diese Ebene bereit: Es inventarisiert die AI-Nutzung über Runtimes hinweg, setzt Policies für Prompts und Tool-Calls durch, gated risikoreiche Agenten-Aktionen und erfasst jede Interaktion als aufsichtstauglichen Nachweis — und verwandelt ungesteuerte AI-Einführung in eine kontrollierte, prüfbare Fähigkeit. Der EU AI Act ist ein Rechtsrahmen, und dieser Leitfaden ist keine Rechtsberatung; Qadar AI gibt Ihnen die operativen Controls und Nachweise, um AI innerhalb davon zu nutzen.
