Der EU AI Act ist die Verordnung (EU) 2024/1689 über Künstliche Intelligenz. Sie gilt unmittelbar in allen Mitgliedstaaten und muss nicht in nationales Recht umgesetzt werden. Anders als eine ISO-Norm ist sie keine Option: Wer KI-Systeme in der EU anbietet oder einsetzt, unterliegt ihr, ohne sich dafür entschieden zu haben.
Adressiert werden zwei Hauptrollen. Anbieter entwickeln ein KI-System oder lassen es entwickeln und bringen es unter eigenem Namen in Verkehr. Betreiber setzen ein System unter eigener Verantwortung ein. Die Pflichten der Anbieter sind deutlich umfangreicher — und die Grenze verschiebt sich schneller, als vielen bewusst ist: Wer ein zugekauftes System wesentlich verändert oder unter eigenem Namen anbietet, wird rechtlich zum Anbieter.
Der Anwendungsbereich reicht über die EU hinaus. Erfasst sind auch Anbieter aus Drittstaaten, wenn ihr System in der Union in Verkehr gebracht wird oder wenn die damit erzeugten Ergebnisse in der Union verwendet werden.
Warum es keine EU-AI-Act-Zertifizierung gibt
Zertifikate stellen akkreditierte Stellen auf Grundlage von Normen aus. Der AI Act ist Recht, keine Norm. Er sieht für Hochrisiko-Systeme eine Konformitätsbewertung vor, die in den meisten Fällen der Anbieter selbst durchführt — als interne Kontrolle. Am Ende stehen eine EU-Konformitätserklärung, die CE-Kennzeichnung und in vielen Fällen ein Eintrag in einer EU-Datenbank. Eine Eigenerklärung mit Haftung, kein Prüfsiegel.
Eine notifizierte Stelle wird nur in bestimmten Konstellationen eingeschaltet: bei bestimmten biometrischen Anwendungen, wenn keine harmonisierten Normen angewandt werden, und bei KI-Systemen, die als Sicherheitsbauteil in Produkte eingehen, für die ohnehin eine Fremdprüfung vorgeschrieben ist — Maschinen, Medizinprodukte, Aufzüge.
Nachweisbar sind daher drei Dinge, und keines davon heißt „AI-Act-Zertifikat”:
Die technische Dokumentation und die Konformitätserklärung. Sie sind der eigentliche Nachweis. Beides muss vorliegen, bevor das System in Verkehr gebracht wird, und über den festgelegten Zeitraum aufbewahrt werden.
Die Anwendung harmonisierter Normen. Sobald die europäischen Normungsgremien die passenden Normen veröffentlicht haben und diese im Amtsblatt gelistet sind, begründet ihre Anwendung eine Konformitätsvermutung. Was eine harmonisierte Norm rechtlich bewirkt, ist im Glossar beschrieben. Bis dahin bleibt die Erfüllung der Anforderungen im Einzelnen zu begründen.
Ein Managementsystem als Organisationsrahmen. ISO 42001 ist zertifizierbar und liefert die Struktur, in der die Pflichten überhaupt erfüllbar werden. Sie ersetzt keine gesetzliche Anforderung, aber sie beantwortet die Frage, wer im Unternehmen wofür zuständig ist.
Die Risikoklassen und was aus ihnen folgt
Die Verordnung stuft nicht Technologien ein, sondern Verwendungszwecke. Dasselbe Modell kann in einer Anwendung unreguliert und in einer anderen hochriskant sein.
| Klasse | Beispiele für Anwendungen | Rechtsfolge |
|---|---|---|
| Unannehmbares Risiko | Social Scoring durch Behörden, gezielte Manipulation, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, ungezieltes Auslesen von Gesichtsbildern aus dem Internet | Verboten |
| Hohes Risiko | Auswahl von Bewerbern, Bewertung von Beschäftigten, Kreditwürdigkeitsprüfung, Zugang zu Bildung, kritische Infrastruktur, bestimmte biometrische Anwendungen; zusätzlich KI als Sicherheitsbauteil in regulierten Produkten | Vollständiger Pflichtenkatalog, Konformitätsbewertung, CE-Kennzeichnung |
| Transparenzrisiko | Chatbots, Systeme zur Erzeugung synthetischer Inhalte, Deepfakes | Offenlegungs- und Kennzeichnungspflichten |
| Minimales Risiko | Spam-Filter, Empfehlungssysteme im Handel, Optimierung in der Produktion | Keine besonderen Pflichten |
Daneben stehen die KI-Modelle mit allgemeinem Verwendungszweck. Für sie gelten eigene Pflichten zu technischer Dokumentation, Informationen für nachgelagerte Anbieter und Urheberrecht. Für Modelle mit systemischem Risiko kommen Bewertung, Angriffstests und Meldepflichten hinzu.
Zwei Pflichten gelten unabhängig von der Risikoklasse. Die erste ist die KI-Kompetenz: Anbieter und Betreiber müssen dafür sorgen, dass ihr Personal über ausreichendes Verständnis für den Umgang mit den eingesetzten Systemen verfügt. Die zweite ist die Kennzeichnung synthetisch erzeugter Inhalte.
Die Anforderungen an Hochrisiko-Systeme
Der Kern der Verordnung sind sieben Anforderungen, die für jedes Hochrisiko-System erfüllt sein müssen.
| Anforderung | Was verlangt wird | Wo es in der Praxis klemmt |
|---|---|---|
| Risikomanagementsystem | Fortlaufender Prozess über den gesamten Lebenszyklus, nicht eine Analyse vor dem Start | Wird als einmalige Bewertung behandelt |
| Daten und Daten-Governance | Trainings-, Validierungs- und Testdaten müssen relevant, repräsentativ und auf Verzerrungen geprüft sein | Herkunft der Daten ist nicht dokumentiert |
| Technische Dokumentation | Vor dem Inverkehrbringen vollständig, mit festgelegtem Mindestinhalt | Entsteht rückwirkend nach Projektabschluss |
| Aufzeichnung von Ereignissen | Automatische Protokollierung über die Lebensdauer, nachvollziehbar | Protokolle werden nach 30 Tagen überschrieben |
| Transparenz für Betreiber | Betriebsanleitung mit Zweck, Grenzen, Genauigkeit und Anforderungen an die Aufsicht | Marketingunterlage statt Betriebsanleitung |
| Menschliche Aufsicht | Von vornherein so gestaltet, dass Menschen eingreifen und übersteuern können | Freigabeklick ohne echte Prüfmöglichkeit |
| Genauigkeit, Robustheit, Cybersicherheit | Angemessenes Niveau, in der Betriebsanleitung angegeben, gegen Manipulation abgesichert | Kein definierter Schwellenwert, gegen den gemessen wird |
Anbieter müssen zusätzlich ein Qualitätsmanagementsystem betreiben, das System nach dem Inverkehrbringen beobachten und schwerwiegende Vorfälle melden. Betreiber haben eigene, engere Pflichten: bestimmungsgemäße Verwendung, geeignete und kompetente Personen für die Aufsicht, Kontrolle der Eingabedaten im eigenen Verantwortungsbereich, Aufbewahrung der Protokolle, Information der Betroffenen und Meldung von Vorfällen. Bestimmte Betreiber müssen vor dem Einsatz zusätzlich eine Folgenabschätzung zu den Auswirkungen auf Grundrechte durchführen.
Die Fristen
| Datum | Was gilt |
|---|---|
| 1. August 2024 | Inkrafttreten der Verordnung |
| 2. Februar 2025 | Verbotene Praktiken und die Pflicht zur KI-Kompetenz |
| 2. August 2025 | Pflichten für Modelle mit allgemeinem Verwendungszweck, Governance-Struktur, Sanktionsregeln |
| 2. August 2026 | Allgemeine Geltung, einschließlich der Hochrisiko-Anwendungen aus Anhang III und der Transparenzpflichten |
| 2. August 2027 | KI als Sicherheitsbauteil in Produkten nach Anhang I; ältere Modelle mit allgemeinem Verwendungszweck |
Der Zeitplan war auf EU-Ebene Gegenstand von Verhandlungen über eine Verschiebung einzelner Hochrisiko-Pflichten. Wer plant, sollte den aktuellen Rechtsstand prüfen. Auf eine Verschiebung zu setzen ist riskant, weil die Verbote und die Kompetenzpflicht davon nicht berührt sind.
Für wen die Verordnung relevant ist und wann nicht
Relevant ist sie für jedes Unternehmen, das KI in Personalauswahl, Bonitätsprüfung, Zugangsentscheidungen oder in regulierten Produkten einsetzt. Diese Anwendungen fallen typischerweise in die Hochrisiko-Klasse, unabhängig von der Unternehmensgröße.
Relevant ist sie außerdem für Maschinen- und Medizinproduktehersteller. Dort greift die Verordnung in bestehende Konformitätsverfahren ein, statt ein eigenes danebenzustellen — die KI-Anforderungen werden Teil der ohnehin fälligen Produktprüfung.
Weniger relevant, aber nicht folgenlos ist sie für Unternehmen, die KI ausschließlich intern zur Textarbeit, Recherche oder Prozessoptimierung nutzen. Hier greifen in der Regel nur die Kompetenzpflicht und, bei veröffentlichten Inhalten, die Kennzeichnung. Der Aufwand liegt dann in der Bestandsaufnahme, nicht in der Umsetzung.
Nicht anwendbar ist die Verordnung unter anderem auf Systeme, die ausschließlich für Forschung und Entwicklung genutzt werden, solange sie nicht in Verkehr gebracht sind, sowie auf rein private Nutzung außerhalb einer beruflichen Tätigkeit.
Der Weg zum Nachweis
- Bestandsaufnahme. Welche KI-Systeme sind im Einsatz, in welcher Rolle, mit welchem Zweck? Das Ergebnis überrascht regelmäßig, weil Fachabteilungen Werkzeuge eingeführt haben, von denen die IT nichts weiß.
- Einstufung je System und Zweck. Nicht das Produkt wird eingestuft, sondern die Verwendung. Dasselbe Sprachmodell kann in zwei Abteilungen zwei Klassen haben.
- Rolle bestimmen. Anbieter oder Betreiber — und bei Eigenentwicklungen auf fremder Basis genau prüfen, ob die Anbieterrolle übergeht.
- Lücken schließen. Für Hochrisiko-Systeme die sieben Anforderungen einzeln durchgehen und Verantwortliche benennen.
- Verfahren aufsetzen. Risikomanagement über den Lebenszyklus, Vorfallsmeldung, Beobachtung nach dem Inverkehrbringen. Als Rahmen bietet sich ISO 42001 an, für die Risikologik ISO 31000, für die technischen Schutzmaßnahmen ein vorhandenes ISMS nach ISO 27001.
- Kompetenz nachweisen. Wer welche Schulung erhalten hat, gehört dokumentiert. Ein Schulungsplan reicht dafür aus, wenn er gepflegt wird.
Woran Projekte scheitern
Die Einstufung erfolgt nach Technologie statt nach Zweck. „Wir nutzen nur ein Sprachmodell, das ist nicht Hochrisiko.” Der Zweck entscheidet. Ein Sprachmodell, das Bewerbungen vorsortiert, ist eine Hochrisiko-Anwendung.
Niemand weiß, welche Systeme im Haus sind. Die Bestandsaufnahme erfasst die IT-Landschaft, nicht die Werkzeuge, die einzelne Teams selbst abonniert haben. Damit ist die Einstufung von Beginn an unvollständig.
Menschliche Aufsicht ist ein Klick. Eine Person bestätigt Vorschläge im Sekundentakt, ohne die Grundlage sehen zu können. Die Anforderung verlangt die Fähigkeit zum Eingreifen, nicht die Formalie einer Freigabe. Der Nachweis scheitert an der Bearbeitungszeit in den Protokollen.
Protokolle werden zu kurz aufbewahrt. Aufzeichnungspflichten und die üblichen Löschfristen aus dem Datenschutz geraten in Konflikt. Diese Abwägung braucht eine dokumentierte Entscheidung, keine Standardeinstellung im Log-Server.
Die Datenherkunft ist nicht belegbar. Beim Einkauf eines Modells fehlen Angaben zu den Trainingsdaten. Wer die Anbieterrolle übernimmt, übernimmt die Nachweispflicht mit — und kann sie nachträglich nicht mehr erfüllen. Das gehört in den Vertrag, nicht in die Konformitätsphase.
ISO 42001 wird als Erfüllung verstanden. Das Zertifikat belegt ein Managementsystem, nicht die Konformität eines einzelnen Systems mit den Anforderungen der Verordnung. Beides wird in Ausschreibungen zunehmend nebeneinander verlangt.
Abgrenzung zu verwandten Regelwerken
| Regelwerk | Charakter | Verhältnis zum AI Act |
|---|---|---|
| EU AI Act | Unmittelbar geltendes EU-Recht, nicht zertifizierbar | Legt die Pflichten fest |
| ISO 42001 | Zertifizierbare Anforderungsnorm | Organisationsrahmen zur Erfüllung, keine Konformitätsvermutung |
| ISO/IEC 23894 | Leitfaden zum Risikomanagement für KI, nicht zertifizierbar | Methodik für die Risikoanforderung |
| ISO 27001 | Zertifizierbare Anforderungsnorm | Deckt Cybersicherheit und Zugriffsschutz ab, nicht die KI-spezifischen Pflichten |
| Datenschutz-Grundverordnung | Unmittelbar geltendes EU-Recht | Gilt parallel; personenbezogene Daten im Training bleiben datenschutzrechtlich zu prüfen |
| DORA | Unmittelbar geltendes EU-Recht | Gilt für Finanzunternehmen zusätzlich, mit eigenem Schwerpunkt auf IKT-Risiken |
| Maschinenverordnung, Medizinprodukteverordnung | Produktrecht | Bestimmen, wann KI als Sicherheitsbauteil einer Fremdprüfung unterliegt |
Die Kurzfassung: Der AI Act sagt, was zu tun ist. ISO 42001 sagt, wie man sich organisiert, um es zuverlässig zu tun. Das eine ersetzt das andere nicht.