Zentralbanker warnen: KI-Boom könnte globalen Finanzcrash auslösen

WAS PASSIERT IST

Diese Woche berichtete der Telegraph über eine Warnung von Zentralbankern: Der KI-Boom könnte einen globalen Finanzcrash auslösen. Zentralbanker aus mehreren Ländern sehen die wachsende Verbreitung von KI-gesteuerten Handelssystemen und Entscheidungsmodellen als systemisches Risiko. Die Sorge: Algorithmen, die auf ähnlichen Daten trainiert wurden, könnten in Stressphasen gleichgerichtet reagieren und einen digitalen Herdentrieb erzeugen. Ein Effekt, der an den Flash Crash von 2010 erinnert, nur in viel größerem Maßstab.

Die Warnung kommt nicht von ungefähr. In den letzten Jahren haben große Banken und Asset-Manager massiv in Machine-Learning-Modelle investiert, um Kreditrisiken zu bewerten, Portfolios zu optimieren oder Handelsentscheidungen zu automatisieren. Auch kleinere Finanzinstitute ziehen nach. Erste Vorfälle gab es bereits: Ein Hedgefonds musste 2025 einen Verlust von 400 Millionen Euro melden, weil ein LLM-basierter Trading-Agent eine Fehlinterpretation von Nachrichten produzierte. Und genau das macht die aktuelle Meldung für Sie relevant: Die Debatte um KI-Risiken ist jetzt auf der höchsten regulatorischen Ebene angekommen. Das ist kein abstraktes Zukunftsszenario mehr.

WARUM ES JETZT FÜR KMU ZÄHLT

Aus meiner Sicht hat diese Warnung eine klare Botschaft für jeden Finanzdienstleister, der KI einsetzt oder einführen will: Die Aufsicht wird genauer hinsehen. Bisher dachten viele kleinere Vermögensverwalter, unabhängige Finanzberater oder spezialisierte Trading-Desks, dass KI-Regulierung vor allem die Globalbanken betrifft. Das ändert sich jetzt.

Drei Entwicklungen treiben das Risiko auch für Sie:

Erstens die Reichweite. KI-Modelle, die Kredite vergeben, Anlageempfehlungen aussprechen oder Zahlungsströme überwachen, wirken automatisiert und schnell. Ein Fehler in einem vermeintlich kleinen Modell eines mittelständischen Asset-Managers kann Ansteckungseffekte auslösen, wenn viele andere Marktteilnehmer auf die gleichen Signale reagieren. Die Zentralbanker sprechen von „Modell-Monokulturen" und das betrifft nicht nur die Großen.

Zweitens die Regulierung. Mit dem EU-AI-Act und DORA sind bereits jetzt Anforderungen für Hochrisiko-KI-Systeme in der Finanzbranche definiert. Die BaFin, FMA und FINMA haben ihre Prüfroutinen verschärft. Die Warnung der Zentralbanker wird den Druck auf die nationalen Aufseher weiter erhöhen. Ich erwarte, dass in den nächsten 12 Monaten konkrete Leitlinien für KI-Modellrisikomanagement kommen, die explizit auch kleinere Institute adressieren.

Drittens die Haftung. Stellen Sie sich vor, ein von Ihnen eingesetzter Robo-Advisor erzeugt eine systematisch falsche Asset-Allokation, die zu Klumpenrisiken führt. Oder ein Betrugserkennungsmodell Ihres Zahlungsdienstleisters schlägt reihenweise falsch aus und blockiert legitime Transaktionen. Die Konsequenzen: aufsichtsrechtliche Sanktionen, Reputationsverlust und zivilrechtliche Klagen. Wer jetzt kein KI-Governance-Framework hat, fährt ohne Sicherheitsgurt.

Konkret für die einzelnen Subsektoren:

• Unabhängige Finanzberater und Honorarberater: Sie nutzen zunehmend KI für Geeignetheitsprüfungen oder Produktvorschläge. Die BaFin hat klargestellt, dass algorithmische Entscheidungsunterstützung einer Plausibilitätskontrolle durch den Berater bedarf. Ohne dokumentierte Prüfung riskieren Sie Ihre Zulassung.
• Kleine und mittlere Asset-Manager: Wenn Sie quantitative Modelle für das Portfoliomanagement einsetzen, müssen Sie nachweisen, dass diese unter extremen Marktbedingungen nicht versagen. Die Zentralbanker haben genau diese Fragilität im Visier.
• Trading-Desks und Broker: Automatisierte Ausführungsalgorithmen können in illiquiden Märkten kaskadierende Effekte auslösen. Die Pflicht zur Systemstabilität nach DORA verlangt Tests für den Ernstfall.
• Zahlungsverkehr und FinTechs: KI-gestützte Transaktionsüberwachung muss erklärbar, überwachbar und korrigierbar sein. Sonst entsteht ein neues operationelles Risiko.

KONKRETE HANDLUNGSEMPFEHLUNG

Mein Rat an KMU in der Finanzbranche: Handeln Sie jetzt, bevor die Aufsicht mit detaillierten Anforderungen kommt und Sie unter Zeitdruck geraten. Drei Schritte, die Sie noch in diesem Quartal umsetzen sollten:

1. KI-Governance-Framework aufsetzen, nicht delegieren. Benennen Sie einen Verantwortlichen für KI-Risiko (das muss nicht die IT sein). Dokumentieren Sie, welche KI-Modelle Sie wo einsetzen, welche Datenquellen sie nutzen, wie sie getestet und überwacht werden. Nutzen Sie das Orientierungsdokument der BaFin zu Algorithmischem Entscheiden in der Kreditvergabe (auch wenn Sie keine Kredite vergeben, die Grundstruktur ist übertragbar). Ein einfaches Excel mit Modellinventar, Verantwortlichkeiten und Prüfzyklen ist besser als nichts.

2. Stresstests für KI-Modelle unter Extrembedingungen. Lassen Sie Ihre Modelle nicht nur mit historischen Durchschnittsdaten laufen. Simulieren Sie Marktcrashs wie März 2020 oder den Flash Crash 2010. Testen Sie, wie Ihre KI auf inkonsistente Nachrichten reagiert. Typisches Beispiel: Ein LLM, das aus Nachrichten Handelsignale ableitet, verarbeitet eine Falschmeldung als Fakt und löst eine Kettenreaktion aus. Nur wer diese Fehler kennt, kann sie abfangen.

3. Menschliche Aufsicht zwingend einbauen. Automatisierung spart Kosten. Aber für kritische Entscheidungen muss immer ein Mensch final freigeben oder übersteuern können. Das ist nicht nur regulatorisch gefordert, sondern auch betriebswirtschaftlich sinnvoll. Häufiges Muster: Ein KI-Modell erkennt ein vermeintliches Anomalie-Muster und lehnt plötzlich alle Zahlungen aus einer bestimmten Region ab. Erst eine manuelle Überprüfung zeigt, dass es sich um einen Fehlalarm handelt. Ohne Human-in-the-loop kostet Sie das Kunden und Reputation.

Noch ein Wort zum Zeitrahmen: Die Zentralbanker-Warnung ist der Vorbote einer neuen Regulierungswelle. Ich rechne damit, dass die EZB und die nationalen Aufseher noch in diesem Jahr Stresstest-Szenarien für KI-Modelle vorlegen werden. Wer dann nicht gerüstet ist, muss mit scharfen Auflagen rechnen.

Die gute Nachricht: Viele der geforderten Maßnahmen decken sich mit dem, was ohnehin betriebswirtschaftlich sinnvoll ist. Ein robustes KI-Risikomanagement schützt nicht nur vor Aufsicht, sondern auch vor eigenen Verlusten. Und es signalisiert Ihren Kunden, dass Sie professionell mit der neuen Technologie umgehen. In einer Zeit, in der Vertrauen in digitale Finanzdienstleistungen ohnehin fragil ist, kann das ein entscheidender Wettbewerbsvorteil sein.