Eine Rede schafft keine Pflicht, aber ein Satz der FINMA-Präsidentin gibt einem Schweizer Institut eine nützliche Frage mit: Wer verantwortet Zweck, Grenzen und Ergebnisse jeder KI-Anwendung, auch der eingekauften?
Eine Rede schafft keine Pflicht, aber ein Satz der FINMA-Präsidentin gibt einem Schweizer Institut eine nützliche Frage mit: Wer verantwortet Zweck, Grenzen und Ergebnisse jeder KI-Anwendung, auch der eingekauften?
In dem von der FINMA veröffentlichten Text für den SBA Digital Finance Day schreibt ihre Präsidentin Marlene Amstad von «einem Prinzip, das ich für nicht verhandelbar halte: Verantwortung lässt sich nicht an einen Algorithmus delegieren» (im Original: "a principle I consider non-negotiable: accountability cannot be delegated to an algorithm"). Die Seite trägt das Datum 3. November 2026, sechs Tage vor dem Anlass am 9. November. Ich zitiere deshalb den veröffentlichten Text und keine Aufzeichnung des tatsächlich Gesagten. Wenn Sie in einem beaufsichtigten Schweizer Institut für KI-Risiken einstehen, lautet die Frage: Wozu kann Sie ein Satz in einer Rede verpflichten?
Ein Hinweis zur deutschen Fassung: Die Rede liegt nur auf Englisch vor. Ihre Zitate sind übersetzt, tragende Passagen stehen zusätzlich im englischen Original. Die Aufsichtsmitteilung, die Übersichtsseite und die beiden FINMA-Mitteilungen zitiere ich nach den deutschen Fassungen der FINMA.
Meine Antwort: zu nichts, wozu Sie nicht schon verpflichtet waren, denn die drei Texte, um die es geht, haben unterschiedliches Gewicht.
Die FINMA erklärt nicht, wie «erwartet» neben «nicht auf die Rechtswirkung ausgerichtet» steht. Ich lese die Erwartung als Aussage darüber, wie die Regeln angewendet werden; die Pflicht bleibt in den Regeln. Welche Bestimmungen Ihre Bewilligung betreffen, ist eine Frage für Ihre Rechtsberatung.
Die Rede zeigt also, wohin die Aufmerksamkeit der Präsidentin geht. Abschnitt 3 der Aufsichtsmitteilung sagt, dass «auch die FINMA ihre Erwartungen» zu KI «weiterentwickeln und sofern nötig im Markt transparent machen» wird. Eine Rede würde ich nicht als diese Weiterentwicklung bezeichnen.
Die Rede zitiert die Aufsichtsmitteilung 08/2024 nirgends; die einzige Aufsichtsmitteilung, die sie erwähnt, betrifft digitalen Betrug. Beide zu verbinden ist meine Lesart.
Abschnitt 2 schliesst seine Liste von KI-Risiken mit dem Problem «verstreuter Zuständigkeiten für KI-Anwendungen bei den Beaufsichtigten». Abschnitt 2.1 liefert eine Ursache:
«Zudem erfolgt die Entwicklung von KI-Anwendungen oftmals dezentral, sodass es herausfordernd ist, konsistente Standards umzusetzen, Verantwortlichkeiten klar und an Mitarbeitende mit entsprechenden Fähigkeiten und Erfahrungen zuzuweisen und alle relevanten Risiken zu adressieren.»
Danach achtete die FINMA auf «die Festlegung von Zuständigkeiten und Verantwortlichkeiten bei Entwicklung, Implementierung, Überwachung und Nutzung von KI».
Die verstreuten Zuständigkeiten stehen in einer Liste von Risiken und Herausforderungen ohne Zahl dahinter, und das Dokument nennt nirgends Zahlen. Es ist zudem eine Bestandsaufnahme vom Dezember 2024. Die damalige Mitteilung der FINMA sah die meisten Institute «noch am Anfang der Entwicklung», und ich kann nicht sagen, wie viel davon heute noch gilt.
Der Satz aus der Rede trifft auf eine Lücke, die die FINMA bereits festgehalten hatte, und er geht weiter, indem er «jede» sagt und benennt, was zu verantworten ist.
Die Rede greift weiter als die Aufsichtsmitteilung. Sie führt das Prinzip über agentische KI ein, also Systeme, die Aufgaben selbstständig planen, ausführen und verketten, und weitet es dann auf jede Anwendung aus.
Abschnitt 1 wendet zudem durchgehend Proportionalität an: Grösse, Komplexität, Struktur und Risikoprofil des Instituts, die Wesentlichkeit der Anwendungen und die Wahrscheinlichkeit, dass die Risiken eintreten.
Ich würde von beiden Geltungsbereichen ausgehen und ihnen unterschiedliche Aufgaben geben. Ownership kann jede Anwendung erfassen, und die Tiefe von Dokumentation und Überprüfung richtet sich nach der Wesentlichkeit. Ein Owner für eine wenig wesentliche Anwendung ist eher der Name auf einem Glas im gemeinsamen Kühlschrank als ein Dossier. Er sagt Ihnen, wen Sie fragen können.
Einen Owner zu benennen setzt eine Liste der Anwendungen voraus. Abschnitt 2.2 hält fest, dass «die Beaufsichtigten KI teilweise eng definierten, um sich auf vermeintlich grössere oder neue Risiken zu fokussieren», und sagt dann, die FINMA beurteilte «Vorhandensein und Vollständigkeit von KI-Inventaren sowie die Risiko-Klassifizierung von KI-Anwendungen». Dieser Satz enthält keine Wesentlichkeitsgrenze, auch wenn Abschnitt 2.1 ein zentral geführtes Inventar zu dem zählt, was die FINMA bei Beaufsichtigten mit vielen oder wesentlichen Anwendungen beurteilte. Eine Anwendung, die eine enge Definition ausschliesst, hat keinen Owner, den man finden könnte.
Zweck, Grenzen und Ergebnisse entsprechen jeweils Formulierungen, die schon in der Aufsichtsmitteilung stehen. Die Zuordnung stammt von mir; die FINMA nimmt sie nicht vor.
| Rede | Formulierung der Aufsichtsmitteilung | Fundstelle |
|---|---|---|
| Zweck | «den Zweck der Anwendung»; «die gesteckten Ziele erreicht» | Abschnitt 2.5 (nur wesentliche Anwendungen); Abschnitt 2.4 |
| Grenzen | «Annahmen, Limitierungen» und «Fallback-Lösungen»; «potenzielle Grenzen der Anwendung» | Abschnitt 2.5 (nur wesentliche Anwendungen); Fussnote 8 |
| Ergebnisse | «Korrektheit und fortlaufende Qualität der Outputs»; Fälle, «in denen die Ausgabe von den Anwendern ignoriert oder verändert wurde»; «Ergebnisse häufig nicht nachvollzogen, erklärt oder reproduziert» | Abschnitt 2.4; Abschnitt 2.6 |
Abschnitt 2.5 ist auf wesentliche Anwendungen beschränkt, die Abschnitte 2.4 und 2.6 sind es nicht. Bei einer kleinen Anwendung würde ich deshalb zu Zweck und Grenzen eine kurze Antwort erwarten und trotzdem wollen, dass sich jemand ansieht, was sie produziert.
Bleibt das Wort jemand. Die Rede sagt «jemand in Ihrer Organisation», die Aufsichtsmitteilung «Mitarbeitende mit entsprechenden Fähigkeiten und Erfahrungen». Ich würde das zu einem namentlich benannten Owner zuspitzen, den es in keinem der beiden Texte gibt. Wenn die Antwort auf «Wer verantwortet das?» eine Abteilung oder ein Ausschuss ist, kann die Verantwortung meiner Meinung nach so verstreut bleiben, wie die Aufsichtsmitteilung es beschrieben hat. Ein Name zeigt nicht, dass Sie die Erwartungen der FINMA erfüllen, aber «Wer verantwortet das?» ist die erste Frage, die ich stellen würde.
Den schwierigsten Fall spricht die Rede direkt an: «Ein Institut bleibt für die Anwendungen verantwortlich, die es nutzt, einschliesslich derer, die es eingekauft hat.» (Im Original: "an institution remains responsible for the applications it uses, including those it has bought in.")
Die Zahlen dazu stammen aus der FINMA-Umfrage von 2025 bei rund 400 Instituten, so wie die Rede sie wiedergibt: Im Durchschnitt «betreiben die befragten Institute rund fünf KI-Anwendungen und arbeiten an neun weiteren», und «Wenige entwickeln ihre Anwendungen selbst. Die meisten stützen sich auf externe Anbieter.» Für diese letzte Aussage nennt sie keinen Prozentsatz, und die Mitteilung der FINMA vom April 2025 ist zurückhaltender: «Die meisten Institute setzen nicht nur auf eigene Entwicklungen, sondern nutzen zusätzlich externe Dienstleister.» Laut der Mitteilung setzen zudem rund 50 Prozent der befragten Institute KI ein oder haben Anwendungen in Entwicklung.
Die Verantwortung bleibt beim Institut, während das Wissen beim Anbieter liegen kann. Die Aufsichtsmitteilung hält das fest:
«Bei extern eingekauften Anwendungen und Dienstleistungen hatten die Beaufsichtigten teilweise Schwierigkeiten, zu eruieren, ob KI enthalten ist, welche Daten und Methoden verwendet werden und ob eine ausreichende Due Diligence existiert.» (Abschnitt 2.1)
«Bei eingekauften Lösungen haben die Beaufsichtigten häufig keinen Einfluss auf bzw. kennen die zugrundeliegenden Daten nicht.» (Abschnitt 2.3)
Abschnitt 2.1 ergänzt, dass die FINMA «im Fall von Outsourcing» beurteilte, ob die Beaufsichtigten «zusätzliche Tests, Kontrollen und Vertragsklauseln, die Verantwortlichkeiten und Haftungsfragen regeln», implementiert hatten. Ich würde nicht davon ausgehen, dass jedes eingekaufte Werkzeug im regulatorischen Sinn als Outsourcing gilt.
Was kann ein Owner hier also verantworten? Zweck und Grenzen, denn das Institut entscheidet, wofür es die Anwendung nutzt und wo ihr Einsatz endet. Auch die Ergebnisse: Fussnote 9 sagt, je weniger über ein System oder seine Daten bekannt ist, umso wichtiger sei es zu beurteilen, ob die Anwendung «entsprechend ihrem Zweck funktioniert». Die Daten des Anbieters bleiben vielleicht unerreichbar, und was der Owner festhalten kann, ist eine ehrliche Aufzeichnung dessen, was man nicht weiss.
Keiner der beiden Texte sagt, wie viel Wissen vom Anbieter genügt, also kann ich Ihnen nicht sagen, wo diese Grenze liegt. Wenn Sie der Anbieter sind, kommen diese Fragen womöglich von Ihrer Kundschaft auf Sie zu.
Die Aufsichtsmitteilung umfasst acht Seiten, und für den Anfang brauchen Sie nicht alle. Beginnen Sie mit den Abschnitten 2.1, 2.2 und 2.5. Nehmen Sie dann eine eingekaufte Anwendung und fragen Sie, wer in Ihrer Organisation ihren Zweck, ihre Grenzen und ihre Ergebnisse verantwortet. Legen Sie die Antwort neben die Tabelle, und Sie sehen, welche Zeilen einen Namen tragen und welche einen Anbieter.
devguard bietet eine KI-Richtlinienvorlage, Prozessvorlagen für KI-Folgenabschätzungen und einen Satz von KI-Risikovorlagen, keine davon auf FINMA-Aufsichtsmitteilungen abgebildet; beim Hinzufügen der Risiken wählen Sie eine verantwortliche Rolle, sodass es bei Ihnen bleibt, für jede Anwendung eine Person zu benennen (App 2.6.0 im Changelog).
Starten Sie kostenlos, bringen Sie Ihre Frameworks mit, und die Nachweise bleiben an der Arbeit, während sie ausgeliefert wird, ohne Setup-Reibung, ohne Feuerwehrübung in der Audit-Woche.
Starten Sie kostenlos, bringen Sie Ihre Frameworks mit, und die Nachweise bleiben an der Arbeit, während sie ausgeliefert wird, ohne Setup-Reibung, ohne Feuerwehrübung in der Audit-Woche.