Der EU AI Act,
verständlich erklärt

Der EU AI Act ist die Verordnung (EU) 2024/1689 — das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz. Er trat am 1. August 2024 in Kraft und verfolgt einen risikobasierten Ansatz: Statt jede KI gleich zu behandeln, ordnet er Systeme nach dem Risiko ein, das sie für Gesundheit, Sicherheit und Grundrechte darstellen, und skaliert die Pflichten entsprechend. Je riskanter die Nutzung, desto schwerer die Pflichten; manche Anwendungen sind ganz verboten.

Es lohnt sich, genau zu sein, um welche Art von Instrument es sich handelt, denn die Sprache rundherum wird oft falsch verwendet. Der EU AI Act ist ein Gesetz, kein Standard, gegen den man sich zertifiziert. Es gibt kein "EU AI Act Zertifikat", das man an die Wand hängt. Wo die Verordnung es verlangt, also für high-risk-Systeme, führen Sie eine Konformitätsbewertung durch und bringen die CE-Kennzeichnung an, denselben Mechanismus, den die EU bereits für regulierte Produkte nutzt. Durchgängig lauten die richtigen Worte "comply" und "conformity", nicht "get certified".

Als Verordnung und nicht als Richtlinie gilt der EU AI Act unmittelbar in allen EU-Mitgliedstaaten, ohne dass er erst in nationales Recht umgesetzt werden muss. Seine Reichweite ist zudem extraterritorial: Er kann für Anbieter und Betreiber ausserhalb der EU gelten, darunter Schweizer und andere Nicht-EU-Unternehmen, wenn ihre KI-Systeme auf dem EU-Markt in Verkehr gebracht werden oder ihre Ergebnisse in der Union genutzt werden.

Die ganze Verordnung hängt an einer einzigen Idee: jedes KI-System nach Risiko einzustufen und dann Pflichten anzuwenden, die zu diesem Risiko passen. Es gibt vier Stufen, und fast alles andere im Gesetz folgt daraus, in welche davon Ihr System fällt.

Inakzeptables Risiko steht zuoberst: eine kurze Liste von Praktiken, die als klare Bedrohung der Grundrechte gelten und vollständig verboten sind. Darunter umfasst high-risk bestimmte aufgelistete Anwendungsfälle sowie KI, die als Sicherheitskomponente regulierter Produkte dient; diese tragen den Grossteil der Pflichten der Verordnung. Begrenztes Risiko gilt für Systeme, die mit Menschen interagieren oder Inhalte erzeugen, und schuldet vor allem Transparenzpflichten. Minimales Risiko, die grosse Mehrheit der KI im Alltag, hat unter dem Act gar keine Pflichten.

Bei high-risk bekommt der EU AI Act sein eigentliches Gewicht. Ein System ist in zwei groben Situationen high-risk: wenn es in einem der Bereiche eingesetzt wird, die die Verordnung in Annex III auflistet, etwa Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, Zugang zu wesentlichen Diensten, Strafverfolgung, Migration oder Rechtspflege, oder wenn es als Sicherheitskomponente eines Produkts dient, das bereits dem EU-Produktsicherheitsrecht unterliegt.

Für diese Systeme legt die Verordnung einen umfangreichen Satz an Pflichten fest. Sie müssen ein Risikomanagementsystem über den gesamten Lebenszyklus betreiben, Daten-Governance auf die Daten anwenden, mit denen Ihr System trainiert und getestet wird, technische Dokumentation und automatische Aufzeichnung (Logging) führen, Transparenz und klare Informationen für Betreiber bieten, das System auf menschliche Aufsicht hin gestalten und angemessene Werte für Genauigkeit, Robustheit und Cybersicherheit erreichen.

Diese Pflichten sind kein einmaliges Ergebnis. Sie beschreiben ein System, das Sie am Laufen halten: Dokumentation, die aktuell bleibt, Logs, die weiter fliessen, Aufsicht, die tatsächlich ausgeübt wird. Genau das prüft eine Konformitätsbewertung am Ende. Der grösste Teil der Arbeit, ein high-risk-System für den EU AI Act bereit zu machen, besteht darin, diese Nachweise über die Zeit aufzubauen und zu pflegen.

An der Spitze der Risikopyramide steht eine Kategorie, die nicht reguliert, sondern verboten ist. Das sind KI-Praktiken, die die EU als inakzeptable Bedrohung für die Rechte und die Sicherheit der Menschen ansieht; sie in Verkehr zu bringen oder in Betrieb zu nehmen ist ausdrücklich verboten.

Die Liste umfasst Praktiken wie Social Scoring durch Behörden, bestimmte manipulative oder täuschende Techniken, die Verhalten wesentlich verzerren und Schaden verursachen, das Ausnutzen von Schwächen bestimmter Gruppen, das ungezielte Auslesen von Gesichtsbildern zum Aufbau von Erkennungsdatenbanken sowie bestimmte Formen der biometrischen Kategorisierung und der biometrischen Echtzeit-Fernidentifizierung — jeweils im Text mit präzisen Bedingungen und engen Ausnahmen definiert. Weil die Grenzen genau gezogen sind, lohnt es sich, die Verbote am tatsächlichen Anwendungsfall zu prüfen statt aus dem Gedächtnis.

Die Verbote waren der erste Teil der Verordnung, der griff: Die Verbote dieser Praktiken gelten seit dem 2. Februar 2025, noch vor den high-risk-Pflichten. Für die meisten Teams ist die Verbotsliste eher eine schnelle Prüfung als laufende Arbeit — doch es ist eine Prüfung, die man früh machen sollte, denn die Folgen eines Verstosses sind die schwersten der ganzen Verordnung.

Der EU AI Act behandelt general-purpose-KI-Modelle, also die grossen, breit einsetzbaren Modelle, die sich an viele Aufgaben anpassen lassen, als eigene Kategorie, getrennt von der Risikostufen-Einstufung der KI-Systeme. Anbieter von GPAI-Modellen tragen einen eigenen Satz an Pflichten, unabhängig davon, wie ein darauf aufbauendes nachgelagertes System eingestuft wird.

Für alle GPAI-Modelle müssen Anbieter technische Dokumentation führen, den nachgelagerten Anbietern, die das Modell in ihre eigenen Systeme integrieren, Informationen bereitstellen, eine Richtlinie zur Einhaltung des EU-Urheberrechts einführen und eine hinreichend detaillierte Zusammenfassung der zum Training verwendeten Inhalte veröffentlichen. Gilt ein Modell als systemisches Risiko (grob gesagt die leistungsfähigsten Modelle mit der grössten Wirkung), kommen weitere Pflichten hinzu, darunter Modellbewertung, Beurteilung und Minderung systemischer Risiken, Vorfallverfolgung und -meldung sowie erhöhter Cybersicherheitsschutz.

Diese Pflichten gelten seit dem 2. August 2025, noch vor den meisten Pflichten für high-risk-Systeme. Wenn Sie Ihr eigenes general-purpose-Modell trainieren oder feinjustieren, gilt dieser Teil der Verordnung unmittelbar für Sie; wenn Sie nur auf dem Modell eines anderen aufbauen, lauten die entscheidenden Fragen, welche Pflichten dieser erfüllt hat und welche Informationen er an Sie nach unten weitergibt.

Der EU AI Act weist Pflichten nach Rolle zu. Als Erstes ist daher zu klären, welche Rolle Sie bei einem bestimmten System spielen — denn dasselbe System kann Sie in der einen Situation zum Anbieter und in der anderen zum Betreiber machen. Die beiden zentralen Rollen sind Anbieter und Betreiber, während Einführer und Händler in der Lieferkette ihre eigenen leichteren Pflichten tragen.

Ein Anbieter entwickelt ein KI-System (oder lässt es entwickeln) und bringt es unter eigenem Namen oder eigener Marke in Verkehr oder in Betrieb. Anbieter tragen die schwerste Last, besonders bei high-risk-Systemen: Aufbau von Risikomanagement, Dokumentation und Qualitätsmassnahmen, Durchführung der Konformitätsbewertung und Anbringen der CE-Kennzeichnung. Ein Betreiber nutzt ein KI-System unter eigener Verantwortung, zum Beispiel ein Unternehmen, das ein high-risk-Einstellungstool einsetzt. Betreiber schulden einen engeren, aber realen Satz an Pflichten: das System gemäss Anweisungen zu nutzen, menschliche Aufsicht sicherzustellen, den Betrieb zu überwachen und die erzeugten Logs aufzubewahren.

Die Rolle richtig zu bestimmen ist grundlegend, denn eine falsche Antwort hier wirkt sich auf alles andere aus. Insbesondere können bestimmte Handlungen, etwa ein high-risk-System wesentlich zu verändern oder den eigenen Namen darauf zu setzen, einen Betreiber zum Anbieter machen und die vollen Anbieterpflichten nach sich ziehen.

Der EU AI Act kommt nicht auf einen Schlag. Er trat am 1. August 2024 in Kraft, doch seine Pflichten schalten sich gestaffelt ein. Welche Frist für Sie zählt, hängt also ganz davon ab, welche Art von KI Sie bauen oder nutzen.

Die Verbote für Praktiken mit inakzeptablem Risiko galten zuerst, ab dem 2. Februar 2025. Die Pflichten für general-purpose-KI-Modelle folgten, ab dem 2. August 2025. Die meisten high-risk-Pflichten gelten ab dem 2. August 2026, und ein weiterer Satz für bestimmte high-risk-KI-Systeme, die als Sicherheitskomponenten in bereits dem EU-Produktsicherheitsrecht unterliegenden Produkten verbaut sind, gilt ab dem 2. August 2027.

Die praktische Folge ist, dass "sind wir bereit für den EU AI Act?" kein einzelnes Ja oder Nein ist. Es hängt davon ab, welche Systeme Sie betreiben und in welcher Stufe jedes davon liegt. Je früher Sie Ihr KI-Portfolio einstufen, desto früher wissen Sie, welche dieser Daten tatsächlich Ihre ist — und wie viel Zeit Ihnen bleibt, sie einzuhalten.

Bei high-risk-KI-Systemen läuft der Nachweis der Compliance über die Konformitätsbewertung — der etablierte Weg der EU, um zu zeigen, dass ein Produkt seine rechtlichen Anforderungen erfüllt, bevor es auf den Markt kommt. Je nach Art des Systems erfolgt das entweder über eine interne Bewertung durch den Anbieter selbst oder unter Beteiligung einer benannten Stelle (eines unabhängigen Dritten), wobei der Weg von der Verordnung vorgegeben und nicht frei gewählt wird.

Hat ein high-risk-System die Konformitätsbewertung bestanden, erstellt der Anbieter eine EU-Konformitätserklärung, bringt die CE-Kennzeichnung an und registriert das System, wo erforderlich, in der EU-Datenbank für high-risk-Systeme. Die CE-Kennzeichnung zeigt an, dass das System die geltenden EU-Anforderungen erfüllt, dasselbe Zeichen, das bereits bei regulierten Produkten verwendet wird. Das kommt einem "Zertifikat" im EU AI Act am nächsten und ist bewusst nicht dasselbe: Es ist eine selbst angebrachte (oder von einer benannten Stelle gestützte) Erklärung, die durch die dahinterliegende Dokumentation getragen wird, kein Abzeichen, das eine Zertifizierungsstelle ausstellt.

Harmonisierte Normen spielen hier eine stille, aber zentrale Rolle. Die Compliance mit bestimmten harmonisierten Normen, darunter an ISO/IEC 42001 ausgerichtete Arbeit, kann eine Konformitätsvermutung für die entsprechenden Anforderungen begründen. Deshalb ist ein KI-Managementsystem eine so praktische Grundlage: Es erzeugt einen Grossteil der Nachweise, die die Bewertung sehen will.

Die beiden werden oft in einem Atemzug genannt, und es hilft, klar zu sein, wie sie sich unterscheiden. Der EU AI Act ist ein bindendes Gesetz mit rechtlichen Pflichten und Strafen; ISO/IEC 42001 ist ein freiwilliger internationaler Managementsystem-Standard, das KI-Gegenstück zu ISO 27001 für Informationssicherheit, gegen den Sie sich zertifizieren können. Das eine müssen Sie einhalten; das andere übernehmen Sie freiwillig.

Sie ergänzen sich, statt zu konkurrieren. ISO/IEC 42001 gibt Ihnen ein KI-Managementsystem: eine strukturierte, prüfbare Art, zu steuern, wie KI in der Organisation entwickelt und genutzt wird, mit eingebautem Risikomanagement, eingebauter Dokumentation und Aufsicht. Genau diese Maschinerie erwartet der EU AI Act von einem high-risk-Anbieter. Deshalb ist ein ISO 42001 Managementsystem ein praktischer Weg, die Bereitschaft für den EU AI Act umzusetzen — und deshalb können daran ausgerichtete harmonisierte Normen eine Konformitätsvermutung stützen.

Kurz gesagt: ISO 42001 macht Sie nicht von allein konform mit dem EU AI Act, denn das Gesetz hat spezifische Anforderungen, die der Standard nicht genau abbildet. Doch es ist einer der direktesten Wege, die Governance, die Nachweise und die Disziplin aufzubauen, die Compliance verlangt.

Der EU AI Act untermauert seine Pflichten mit erheblichen Strafen, gestaffelt nach der Schwere des Verstosses. Die schwersten Bussen sind für Verstösse gegen die Verbote von Praktiken mit inakzeptablem Risiko vorgesehen: bis zu 35 Mio. EUR oder 7% des gesamten weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist.

Für andere Verstösse gelten niedrigere Obergrenzen — etwa sind Bussen für die Nichteinhaltung der meisten übrigen Pflichten auf ein niedrigeres Niveau gedeckelt, mit einer weiteren, noch tieferen Stufe für falsche, unvollständige oder irreführende Angaben gegenüber Behörden. Die Struktur spiegelt den umsatzbasierten Ansatz der GDPR, und die Botschaft ist dieselbe: Einstufung und Compliance sind keine Papierübungen, denn das Risiko bemisst sich am globalen Geschäft, nicht am lokalen.