ISO 42001 Zertifizierung,
verständlich erklärt

ISO/IEC 42001 ist der internationale Standard für ein KI-Managementsystem (AIMS). Im Dezember 2023 veröffentlicht, ist es der erste Managementsystem-Standard, der eigens für künstliche Intelligenz gebaut wurde — und, wichtig, der erste, gegen den Sie sich über eine akkreditierte Zertifizierungsstelle zertifizieren können. Er zertifiziert kein einzelnes Modell und kein fertiges Produkt; er bestätigt, dass Ihre Organisation eine definierte, wiederholbare Art betreibt, die KI zu steuern, die sie entwickelt oder nutzt.

Diese Einordnung zählt. Ein Zertifikat nach ISO 42001 ist kein Stempel, der sagt "Ihr Modell ist sicher." Es sagt, dass Sie ein funktionierendes System haben, um zu entscheiden, was Ihre KI tun soll und was nicht, die Risiken und Auswirkungen zu erkennen, die sie erzeugt, Controls und menschliche Aufsicht einzurichten und immer wieder zu belegen, dass das System tatsächlich läuft. Ein Auditor prüft nicht die Genauigkeit Ihres Modells; er prüft, ob das Managementsystem darum herum existiert und so arbeitet wie dokumentiert.

Weil es ein Managementsystem-Standard ist, folgt ISO 42001 derselben harmonisierten Struktur wie andere ISO-Standards, etwa ISO 27001 — Management-Clauses 4 bis 10 plus ein Satz Annex-A-Controls. Wenn Sie schon einmal ein ISMS aufgebaut haben, wird Ihnen die Form vertraut vorkommen; was sich ändert, ist der Gegenstand, nämlich verantwortungsvolle, vertrauenswürdige KI statt Informationssicherheit.

Die meisten Teams verfolgen ISO 42001 nicht um seiner selbst willen. Sie greifen danach, weil KI von einem Nebenprojekt zu etwas geworden ist, das fest im Produkt steckt, und die Leute, an die sie verkaufen, von Enterprise-Käufern bis zu regulierten Kunden und Einkaufsteams, beginnen zu fragen, wie diese KI gesteuert wird. Ein Zertifikat ist eine Art, diese Frage einmal glaubwürdig zu beantworten, statt in einem eigenen Fragebogen für jeden Deal.

Es trägt auch über Grenzen. Da KI-Regulierung in ganz Europa und darüber hinaus kommt, wollen Organisationen eine einzige, international anerkannte Art zeigen, dass sie verantwortungsvolle KI ernst nehmen, statt für jede Jurisdiktion eine andere Geschichte zusammenzustellen. ISO 42001 gibt ihnen diesen gemeinsamen Bezugspunkt — anerkannt auf dieselbe Weise wie ISO 27001 für Sicherheit.

Der praktische Test ist derselbe, den Teams bei jedem Framework anlegen: Verlieren oder verlangsamen Sie Deals, oder tragen Sie regulatorisches Risiko, weil Sie keinen gesteuerten Umgang mit der KI nachweisen können, die Sie bauen oder einsetzen? Wenn ja, ist ein KI-Managementsystem meist die am breitesten akzeptierte Antwort — und der grösste Teil der Arbeit, eines aufzubauen, ist die Arbeit, KI gut zu steuern, schriftlich festgehalten.

ISO 42001 ist aufgebaut wie jeder andere moderne ISO-Managementsystem-Standard. Clauses 4 bis 10 legen die Managementsystem-Anforderungen fest: das Verständnis von Kontext und interessierten Parteien (4), Führung und KI-Policy (5), Planung und Risikobehandlung (6), Unterstützung — Ressourcen, Kompetenz, dokumentierte Information (7), Betrieb (8), Leistungsbewertung über Monitoring, internes Audit und Managementbewertung (9) und Verbesserung (10). Das sind die Anforderungen, gegen die Sie tatsächlich auditiert werden.

Neben den Clauses steht Annex A: ein Satz von Controls, rund 38, gruppiert nach Control-Zielen, die die spezifischen Risiken des Bauens und Nutzens von KI adressieren. Sie decken Bereiche ab wie die KI-Policy und Rollen, die interne Organisation, Ressourcen für KI-Systeme, die Folgenabschätzung von KI-Systemen, den KI-System-Lebenszyklus, Daten für KI-Systeme, Information für interessierte Parteien (Transparenz) und die verantwortungsvolle Nutzung von KI. Annex B liefert Umsetzungshinweise für jedes Control, und weitere Annexe helfen Ihnen, AIMS-Ziele zuzuordnen und organisatorische Auswirkungen zu bewerten.

Wie bei anderen ISO-Standards müssen Sie nicht jedes Annex-A-Control blind umsetzen. Sie prüfen jedes gegen die Risiken, die Sie erkannt haben, wenden die an, die für Ihre KI-Systeme relevant sind, und begründen Ihre Entscheidungen — genau dafür ist die dokumentierte Information des Standards da.

ISO 42001 ist risikobasiert wie seine Schwesterstandards: Sie bewerten die Risiken, die Ihre KI erzeugt, und wählen Controls, um sie zu behandeln. Doch es fügt eine Dimension hinzu, die ein reiner Sicherheitsstandard nicht hat. Wo ISO 27001 vor allem nach dem Risiko für die Informationen der Organisation fragt, verlangt ISO 42001 zusätzlich, die Auswirkungen zu bewerten, die Ihre KI-Systeme auf die davon betroffenen Menschen und auf die Gesellschaft insgesamt haben.

Das ist die KI-System-Folgenabschätzung, und sie ist eine der prägenden Anforderungen des Standards. Für jedes relevante KI-System prüfen Sie Folgen, die ein technisches Risikoregister übersehen würde — Fairness und mögliche Verzerrung, Auswirkungen auf die Rechte und die Sicherheit Einzelner, Transparenz gegenüber den Betroffenen und die breiteren gesellschaftlichen Folgen des Einsatzes. Es geht darum, diese Fragen bewusst und früh sichtbar zu machen, die Schlüsse zu dokumentieren und sie zurück in Gestaltung und Betrieb des Systems zu führen.

Diese beiden Bewertungen arbeiten zusammen. Die KI-Risikobewertung entscheidet, welche Annex-A-Controls relevant sind und warum; die Folgenabschätzung stellt sicher, dass die menschlichen und gesellschaftlichen Folgen neben den organisatorischen mitbedacht werden. Beide aktuell zu halten, während sich Ihre KI-Systeme ändern, ist der grösste Teil dessen, was der Betrieb eines AIMS tatsächlich ausmacht.

ISO 42001 erwartet, dass Sie KI-Systeme über ihren ganzen Lebenszyklus steuern, nicht nur beim Start. Das heisst: vor der Entwicklung Ziele für verantwortungsvolle KI und Abnahmekriterien festlegen, steuern, wie Systeme gestaltet und gebaut werden, sie vor dem Einsatz validieren und verifizieren und sie dann im Betrieb überwachen — denn das Verhalten eines KI-Systems kann driften, während sich die Daten und die Welt darum herum verändern. Der Standard fasst dies als kontinuierliche Schleife auf, nicht als einmalige Freigabe.

Daten-Governance ist innerhalb dieses Lebenszyklus ein erstrangiges Anliegen. Die Controls verlangen, dass Sie bewusst mit den Daten umgehen, die Ihre KI-Systeme nutzen — woher sie stammen, ihre Qualität und Herkunft, wie sie aufbereitet wurden und ob ihre Nutzung zum Zweck passt. Schlechte Daten-Governance ist einer der häufigsten Wege, auf denen ein ansonsten gut gebautes KI-System unfaire oder unzuverlässige Ergebnisse liefert. Deshalb behandelt der Standard sie als eigenen Bereich, statt sie in den allgemeinen Betrieb zu falten.

Transparenz und menschliche Aufsicht laufen neben beidem. ISO 42001 erwartet, dass Sie den von einem KI-System betroffenen Menschen angemessene Informationen geben und dort, wo es zählt, eine echte menschliche Aufsicht aufrechterhalten — damit Entscheidungen mit erheblichen Folgen nicht ganz einem automatisierten System überlassen werden, ohne dass ein Mensch verstehen, hinterfragen und eingreifen kann.

Die Zertifizierung folgt demselben zweistufigen Modell wie andere ISO-Managementsystem-Standards, durchgeführt von einer akkreditierten Zertifizierungsstelle. Stage 1 ist eine Dokumentationsprüfung: Der Auditor prüft, dass Ihr AIMS auf dem Papier existiert — Kontext, KI-Policy, Risikobewertung, Folgenabschätzungen, die angewandten Controls und unterstützende Aufzeichnungen, und dass es auditbereit ist. Sie bringt meist Lücken zutage, die Sie schliessen, bevor es weitergeht.

Stage 2 ist das eigentliche Audit. Der Auditor prüft, ob das System tatsächlich so arbeitet wie dokumentiert, zieht Nachweise quer über Ihre KI-Systeme und die Controls im Geltungsbereich und befragt die Menschen, die sie betreiben. Wie bei jedem Managementsystem-Standard wird erwartet, dass Sie vor Stage 2 selbst mindestens ein internes Audit und eine Managementbewertung des AIMS durchgeführt haben — Sie werden nicht gegen ein System zertifiziert, das Sie nie geprüft haben.

Ab einem ernsthaften Start hängt die Dauer vor allem davon ab, wie viel Praxis für verantwortungsvolle KI bereits existiert und wie viel davon schriftlich festgehalten ist, und nicht von einem festen Zeitplan. Das Audit ist ein Kontrollpunkt auf einem System, das Sie am Laufen halten, kein Projekt, das endet, wenn das Zertifikat kommt.

Weil ISO 42001 die harmonisierte Managementsystem-Struktur teilt, fügt es sich sauber in ein bereits nach ISO 27001 gebautes Informationssicherheits-Managementsystem ein. Die beiden Standards nutzen dieselben Clauses 4 bis 10, dieselbe Logik aus Kontext, Führung, risikobasierter Planung, Betrieb, Bewertung und Verbesserung und viele derselben unterstützenden Prozesse — internes Audit, Managementbewertung, Korrekturmassnahmen, dokumentierte Information.

In der Praxis heisst das: Teams, die bereits ein ISO 27001 ISMS betreiben, starten ein AIMS nicht auf einer leeren Seite. Das Managementsystem-Gerüst ist grösstenteils da; neu ist der KI-spezifische Gegenstand — die KI-Policy, die KI-Risiko- und Folgenabschätzungen, die Lifecycle- und Daten-Governance-Controls. Sie erweitern das System, das Sie haben, statt ein paralleles aufzubauen, was zugleich weniger Arbeit ist und sich leichter konsistent halten lässt.

Dieselbe Überschneidung ist der Grund, warum ISO 42001 natürlich mit der regulatorischen Bereitschaft für den EU AI Act zusammenpasst. Ein funktionierendes AIMS gibt Ihnen die Governance, Dokumentation und Aufsicht, die sich überschneidende Pflichten erwarten — so stützt das Managementsystem Ihre Bereitschaft, obwohl es selbst nicht das Gesetz ist.

Die ISO 42001 Zertifizierung läuft auf demselben Dreijahreszyklus wie andere ISO-Managementsystem-Standards. Nach der Erstzertifizierung prüft ein Überwachungsaudit in den Jahren eins und zwei, dass das AIMS noch läuft, und ein vollständiges Rezertifizierungsaudit im dritten Jahr erneuert das Zertifikat für einen weiteren Zyklus.

Das ist der Teil, den Teams bei jedem Managementsystem unterschätzen, und KI macht ihn schärfer. KI-Systeme ändern sich, mit neuen Modellen, neuen Daten und neuen Anwendungsfällen, und der Standard erwartet, dass Ihre Governance Schritt hält. Die Arbeit, die das erste Zertifikat verdient, ist dieselbe, die Sie sauber durch jedes Audit danach trägt: die Risiko- und Folgenabschätzungen aktuell halten, die Controls anwenden, während sich Systeme entwickeln, die Aufsicht echt und die Nachweise im Fluss halten. Teams, die das erste Audit als einmaligen Sprint behandeln, spüren die Kosten bei jeder Erneuerung erneut; Teams, die das AIMS in ihren ohnehin laufenden KI-Betrieb einbauen, nicht.