KI-Agenten außer Kontrolle: Haftungsrisiko für Finanzinstitute

Was passiert ist

Am 6. Oktober 2026 berichtet The Decoder: Versicherer machen sich auf Millionenforderungen gefasst, weil KI-Agenten außer Kontrolle geraten. Die Meldung bezieht sich auf autonome Agenten, die im Namen von Unternehmen handeln. Die Führungskräfte der großen KI-Anbieter, Sam Altman von OpenAI und Dario Amodei von Anthropic, könnten persönlich haftbar gemacht werden. Das ist bemerkenswert. Bisher galt: Softwarefehler sind ein Problem der Anwender. Jetzt rückt die Verantwortung der Hersteller in den Fokus. Für die Finanzbranche ist das doppelt relevant. Erstens setzen Banken, Vermögensverwalter und FinTechs solche Agenten ein. Zweitens verkaufen Versicherer selbst Policen, die genau diese Risiken abdecken sollen. Wenn die Versicherer jetzt schon mit Schäden rechnen, dann wissen sie mehr als viele Anwender.

Warum es jetzt für KMU zählt

Die Finanzbranche ist Vorreiter beim Einsatz von KI-Agenten. Typisches Beispiel: Ein Family Office lässt einen Agenten täglich die Liquidität über Konten hinweg optimieren. Der Agent hat Zugriff auf Zahlungsverkehr, Depot und Kreditlinien. Wenn er einen Fehler macht, etwa doppelt bucht oder eine Überweisung an den falschen Empfänger auslöst, entsteht sofort ein Vermögensschaden. Wer haftet? Der Family-Office-Inhaber, der Vermögensverwalter, die Bank, der Softwareanbieter? Die Antwort hängt vom Einzelfall ab, aber die Tendenz ist klar: Die Aufsicht und die Gerichte werden zuerst diejenigen in die Pflicht nehmen, die den Agenten eingesetzt haben.

Aus meiner Sicht unterschätzen viele KMU das Haftungsrisiko systematisch. Sie sehen den Nutzen: Kostensenkung, schnellere Prozesse, weniger Fehler durch Menschen. Aber sie sehen nicht die Kehrseite: Wenn der Agent falsch entscheidet, ist der Schaden oft größer als der Nutzen. Häufiges Muster: Ein Steuerberater setzt einen Agenten ein, der Belege automatisch prüft. Der Agent übersieht einen formellen Fehler, der Bescheid wird rechtskräftig, der Mandant verliert. Der Steuerberater haftet nach österreichischem Recht für seine Erfüllungsgehilfen. Der KI-Agent ist ein Erfüllungsgehilfe. Die Haftung ist nicht ausgeschlossen, sondern wahrscheinlich.

Auch die Versicherer selbst sind betroffen. Sie nutzen KI-Agenten für Schadenregulierung, Betrugserkennung, Risikobewertung. Wenn ein Agent einen Schadenfall falsch ablehnt, kann das zu Regressforderungen und Reputationsverlust führen. Gleichzeitig entwickeln sie neue Produkte: AI-Haftpflicht, Cyber-Policen mit Agenten-Klauseln, Betriebsunterbrechungsversicherung für KI-Ausfälle. Der Markt bewegt sich schnell. Wer als KMU in der Finanzbranche nicht rechtzeitig absichert, riskiert, auf den Kosten sitzen zu bleiben.

Ein weiterer Punkt: Die Regulierung zieht nach. Der EU AI Act stuft viele Finanz-KI-Anwendungen als hochriskant ein. Das bedeutet: Konformitätsbewertung, Dokumentationspflichten, menschliche Aufsicht. DORA verlangt ein umfassendes Management von IKT-Risiken, inklusive KI. Die BaFin hat bereits klargestellt, dass KI-Entscheidungen nachvollziehbar und überwachbar sein müssen. Wer diese Anforderungen nicht erfüllt, begeht eine Ordnungswidrigkeit. Die Haftungsfrage ist also nicht nur zivilrechtlich, sondern auch aufsichtsrechtlich relevant.

Konkrete Handlungsempfehlung

Mein Rat an KMU in der Finanzbranche: Handeln Sie jetzt, bevor der erste Schaden eintritt. Drei Schritte sind entscheidend.

1. Agenten-Inventur und Governance einrichten. Erfassen Sie alle KI-Agenten, die eigenständig Entscheidungen treffen oder Transaktionen auslösen. Dazu gehören Trading-Bots, Kreditentscheidungs-Engines, Chatbots mit Abschlussvollmacht, automatisierte Compliance-Checks, Betrugserkennungssysteme. Für jeden Agenten definieren Sie klare Grenzen: Welche Beträge darf er bewegen? Welche Entscheidungen sind erlaubt? Wer überwacht ihn? Dokumentieren Sie diese Governance. Im Haftungsfall ist das Ihre Rettung.

2. Versicherungslücken schließen. Prüfen Sie Ihre bestehenden Policen: Betriebshaftpflicht, Vermögensschaden-Haftpflicht, D&O, Cyber. Fragen Sie explizit nach KI-Ausschlüssen. Viele Standardpolicen decken Schäden durch automatisierte Entscheidungen nicht ab. Wenn die Lücke vorhanden ist, verhandeln Sie eine Erweiterung oder schließen Sie eine spezielle AI-Haftpflicht ab. Für Vermögensverwalter, Finanzberater und Steuerberater empfehle ich eine Vermögensschaden-Haftpflicht mit KI-Klausel. Die Prämien sind derzeit noch moderat, weil der Markt jung ist. In zwölf Monaten sieht das anders aus.

3. Menschliche Aufsicht und Protokollierung sicherstellen. Auch wenn der Agent autonom handelt, brauchen Sie ein Überwachungssystem. Richten Sie ein stichprobenartiges Review ein, mindestens wöchentlich, bei kritischen Prozessen täglich. Speichern Sie alle Entscheidungen und Begründungen. Wenn ein Schaden eintritt, müssen Sie nachweisen können, dass Sie die Aufsichtspflicht nicht verletzt haben. Wer keine Protokolle hat, verliert vor Gericht fast immer.

Die Meldung von The Decoder ist ein Warnsignal. KI-Agenten sind keine Experimente mehr. Sie treffen Entscheidungen mit echtem Geld. Wer jetzt nicht handelt, haftet später persönlich. Ich erwarte, dass die ersten Gerichtsurteile in den nächsten Monaten Klarheit bringen. Bis dahin gilt: Vorsicht ist besser als Nachsicht.