ISO/IEC 42001 ist die erste zertifizierbare Norm für Managementsysteme im Bereich Künstlicher Intelligenz. Sie beschreibt, wie eine Organisation die Entwicklung, Bereitstellung und Nutzung von KI-Systemen steuert — verantwortlich, nachvollziehbar und über den gesamten Lebenszyklus.
Was die Norm nicht tut, ist ebenso wichtig: Sie bewertet kein Modell, prüft keine Trainingsdaten auf Verzerrung und schreibt keine Architektur vor. Sie stellt keine Anforderung an die Qualität Ihrer KI. Sie verlangt, dass Sie wissen, welche KI-Systeme Sie einsetzen, was diese können, wo ihre Grenzen liegen, wer verantwortlich ist und was passiert, wenn sie sich falsch verhalten. Zertifiziert wird die Steuerungsfähigkeit der Organisation, nicht das Produkt.
Diese Unterscheidung entscheidet über den Wert des Zertifikats in der Kundenkommunikation. Wer damit wirbt, sein KI-System sei „ISO-zertifiziert”, sagt etwas Falsches — und wird es in einem Lieferantenaudit erklären müssen.
Aufbau: bekannte Struktur plus vier Anhänge
Die Gliederung entspricht der High Level Structure mit den Kapiteln 4 bis 10, wie sie auch ISO 9001 und ISO 27001 verwenden. Wer eines dieser Systeme betreibt, findet sich sofort zurecht.
| Teil | Inhalt | Charakter |
|---|---|---|
| Kapitel 4–10 | Kontext, Führung, Planung, Unterstützung, Betrieb, Bewertung, Verbesserung | Vollständig zu erfüllen |
| Anhang A | Maßnahmenziele und Maßnahmen | Normativ, vergleichbar mit Anhang A der ISO 27001 |
| Anhang B | Umsetzungsleitfaden zu den Maßnahmen | Erläuternd |
| Anhang C | Mögliche organisationsbezogene Ziele und Risikoquellen | Orientierung |
| Anhang D | Anwendung über Bereiche und Sektoren hinweg | Orientierung |
Die inhaltlichen Schwerpunkte liegen auf sechs Feldern: der Folgenabschätzung, der Steuerung über den KI-Lebenszyklus, Datenqualität und Datenherkunft, wirksamer menschlicher Aufsicht, Transparenz gegenüber Betroffenen und der Steuerung von Drittanbietern.
Rollen im KI-Lebenszyklus
Die Norm betrachtet KI-Systeme über ihre gesamte Lebensdauer: von der Zieldefinition über Datenbeschaffung, Training, Validierung und Freigabe bis zu Betrieb, Überwachung und Außerbetriebnahme. Für jede Phase muss klar sein, wer entscheidet.
| Phase | Zu klärende Frage | Typische Lücke in der Praxis |
|---|---|---|
| Zweck und Anforderung | Wofür wird das System eingesetzt, und was ist ausdrücklich kein zulässiger Einsatz? | Der zulässige Einsatz ist nirgends begrenzt, das System wandert in andere Anwendungsfälle. |
| Daten | Woher stammen die Daten, welche Rechte bestehen daran, wie sind sie versioniert? | Trainingsdaten sind nicht rückverfolgbar, Rechtefragen wurden nie geklärt. |
| Validierung und Freigabe | Wer gibt frei, gegen welche Kriterien? | Freigabe erfolgt durch das Entwicklungsteam gegen selbst gesetzte Kriterien. |
| Betrieb und Überwachung | Wer erkennt, dass sich das Verhalten verändert hat? | Es wird die Verfügbarkeit überwacht, nicht die Ausgabequalität. |
| Außerbetriebnahme | Wer entscheidet über die Abschaltung, was passiert mit Daten und Protokollen? | Nicht geregelt, weil noch nie eingetreten. |
Die Überwachung im Betrieb ist der Punkt, der am häufigsten fehlt. Ein Modell, das bei Inbetriebnahme funktioniert, kann bei verändertem Datenaufkommen abdriften, ohne dass ein technischer Fehler auftritt. Die Norm verlangt deshalb Messgrößen für die Ausgabequalität und eine Regel, ab wann nachtrainiert oder abgeschaltet wird.
Die drei Nachweise, an denen alles hängt
Das Verzeichnis der KI-Systeme. Ohne belastbare Bestandsübersicht gibt es nichts zu steuern. Sie klingt trivial und ist es nicht: KI steckt in eingekauften Softwareprodukten, in Funktionen, die ein Anbieter per Update nachgeliefert hat, und in Werkzeugen, die Fachabteilungen ohne Beteiligung der IT abonniert haben. Ein Verzeichnis, das nur die selbst entwickelten Modelle kennt, fällt im ersten Audit auf.
Die KI-Folgenabschätzung. Der deutlichste Unterschied zu allen anderen Managementsystemnormen. Bewertet werden nicht nur Risiken für die Organisation, sondern Auswirkungen auf Personen und Gesellschaft: Benachteiligung, Diskriminierung, Eingriffe in Rechte, Fehlentscheidungen mit Folgen für Einzelne. Die klassische Risikoanalyse fragt, was dem Unternehmen schaden kann. Hier wird zusätzlich gefragt, wem das System schaden kann. Diese Perspektive lässt sich weder von der IT noch von der Rechtsabteilung allein ausfüllen.
Die Erklärung zur Anwendbarkeit. Wie bei ISO 27001 wird für Anhang A dokumentiert, welche Maßnahme anwendbar ist, warum, und wie sie umgesetzt wurde. Die Mechanik ist im Eintrag zur Erklärung zur Anwendbarkeit beschrieben. Der Auditor arbeitet sich im Stufe-2-Audit an diesem Dokument entlang, also gehört hinein, was tatsächlich geschieht — nicht der geplante Zielzustand.
Der Weg zum Zertifikat
Der Ablauf entspricht dem allgemeinen Zertifizierungsverfahren, mit KI-spezifischen Schwerpunkten:
- Geltungsbereich festlegen. Welche Produkte, Standorte und KI-Anwendungen sind erfasst? Der Geltungsbereich steht auf dem Zertifikat und wird von Kunden genau dort gelesen.
- KI-Systeme erfassen und die Rolle je System bestimmen: Entwickeln Sie es, betreiben Sie es, oder nutzen Sie ein fremdes Produkt? Die Pflichten unterscheiden sich erheblich.
- Rollen im Lebenszyklus zuordnen. Wer gibt ein Modell frei, wer überwacht es im Betrieb, wer entscheidet über eine Abschaltung?
- Risiken beurteilen und Folgenabschätzung durchführen — getrennt dokumentiert, weil zwei verschiedene Fragen beantwortet werden.
- Maßnahmen umsetzen und die Erklärung zur Anwendbarkeit erstellen.
- Betriebsphase. Überwachungsdaten, Vorfallsbearbeitung, Schulungen und Freigabeentscheidungen müssen über Monate entstehen.
- Internes Audit und Managementbewertung.
- Stufe-1- und Stufe-2-Audit, danach jährliche Überwachungsaudits.
Zeitbedarf und kritischer Pfad
Für ein Unternehmen mit bestehendem ISMS ist der Aufsatz in überschaubarer Zeit machbar, weil Dokumentenlenkung, Auditprogramm, Vorfallsverfahren und Managementbewertung bereits stehen. Ohne Vorarbeiten kommt die gesamte Grundmechanik eines Managementsystems dazu.
Der kritische Pfad liegt nicht in der Technik. Er liegt bei zwei Fragen: Wer im Unternehmen kann die Folgenabschätzung fachlich verantworten? Und welche KI steckt eigentlich in den eingekauften Systemen? Die zweite Frage beantwortet sich nur über Gespräche mit Fachbereichen und Anfragen bei Anbietern — beides braucht Kalenderzeit, die sich nicht durch mehr Personal verkürzen lässt.
Verhältnis zur EU-KI-Verordnung
Die meistgestellte Frage im Projekt. Beide adressieren dasselbe Feld, sind aber verschiedene Instrumente.
| EU-KI-Verordnung | ISO 42001 | |
|---|---|---|
| Charakter | Geltendes Recht | Freiwillige Norm |
| Verpflichtung | Abhängig von Risikoklasse und Rolle | Freiwillig |
| Gegenstand | Das KI-System und seine Risikoklasse | Das Managementsystem der Organisation |
| Ergebnis | Konformität, teils mit Konformitätsbewertung | Zertifikat einer Zertifizierungsstelle |
| Prüfende Instanz | Behörden und benannte Stellen | Akkreditierte Zertifizierungsstelle |
Ein Zertifikat nach ISO 42001 ersetzt die Konformität mit der Verordnung nicht. Die Norm ist derzeit nicht als harmonisierte Norm unter der KI-Verordnung gelistet — ob sich das ändert, ist offen und sollte beobachtet werden. Es baut aber genau die Strukturen auf, die die Verordnung voraussetzt: Bestandsübersicht, Risikobeurteilung, technische Dokumentation, menschliche Aufsicht, Protokollierung, Vorfallsbehandlung. Wer beides braucht, sollte einmal aufbauen statt zweimal — und die Nachweise so ablegen, dass sie für beide Zwecke taugen.
Woran Projekte scheitern
Das Systemverzeichnis ist unvollständig. Erfasst sind die Eigenentwicklungen, nicht die KI-Funktionen in Standardsoftware. Der Auditor fragt nach einem konkreten Werkzeug aus dem Marketing oder dem Recruiting — und es fehlt.
Die Folgenabschätzung wird als Risikoanalyse zweitverwertet. Dieselbe Tabelle, andere Überschrift. Damit fehlt genau die Perspektive, die die Norm neu einführt.
Menschliche Aufsicht existiert nur auf dem Papier. Ein Freigabeprozess, in dem eine Person hundert Vorschläge pro Stunde bestätigt, ist keine wirksame Aufsicht. Auditoren prüfen das über Bearbeitungszeiten und Ablehnungsquoten, nicht über die Verfahrensbeschreibung.
Drittanbieter werden nicht gesteuert. Die meisten Organisationen entwickeln keine Modelle, sondern nutzen fremde. Dann verschiebt sich die Anforderung auf die Lieferantenkette: Was garantiert der Anbieter, wie erfahren Sie von Modellwechseln, und was bleibt Ihre Verantwortung? Ohne vertragliche Regelung und ohne Lieferantenbewertung fehlt der Nachweis.
Es gibt keine Vorfälle. Ein KI-Managementsystem ohne dokumentierte Fehlausgaben, Beschwerden oder Korrekturen behauptet implizit, alles laufe fehlerfrei. Das nimmt kein Auditor ab.
Für wen sich das heute lohnt
Jetzt sinnvoll für Anbieter, deren Kunden Nachweise verlangen: Softwarehäuser mit KI-Funktionen, SaaS-Anbieter, Dienstleister im regulierten Umfeld und Unternehmen, deren KI in Entscheidungen mit Außenwirkung eingreift.
Noch verfrüht für Organisationen, die KI ausschließlich intern und in unkritischen Anwendungen nutzen. Dort genügen zunächst eine saubere Bestandsaufnahme, klare Nutzungsregeln und geklärte Verantwortlichkeiten — Bausteine, die sich später ohne Verlust in ein System überführen lassen.