Was diese Woche passiert ist
Das Oberlandesgericht Hamm hat einen Klinikbetreiber verurteilt, weil dessen KI-Chatbot falsche Informationen an Patienten ausgegeben hat. Die Begründung ist für jeden interessant, der einen Chatbot betreibt: Der Betreiber haftet für die Aussagen seines Bots. Punkt.
Das Urteil betrifft formal Deutschland. Aber die zugrundeliegende Logik ist in Österreich genauso anwendbar. Wer ein automatisiertes System auf seiner Website laufen lässt, das mit Kunden kommuniziert, ist für dessen Output verantwortlich. Das ist keine Überraschung im juristischen Sinn, sondern die konsequente Anwendung bestehender Haftungsregeln auf ein neues Werkzeug.
Der interessante Punkt ist nicht das Ob, sondern das Wie. Bisher konnten viele Betreiber argumentieren: „Das System hat halt halluziniert, das ist ein bekanntes Problem von LLMs.” Das OLG Hamm sagt jetzt sinngemäß: Wenn Sie wissen, dass Ihr Werkzeug halluziniert, und Sie setzen es trotzdem ungesichert ein, dann ist das Ihr Problem.
Warum es jetzt für KMU zählt
In den letzten zwölf Monaten haben viele österreichische KMU einen Chatbot auf ihre Website gestellt. Oft ein OpenAI- oder Anthropic-API-Aufruf mit ein paar Prompts drumherum, manchmal ein fertiges Widget von einem deutschen oder österreichischen Anbieter. Die Implementierungen, die ich in Beratungen sehe, haben fast immer dasselbe Problem: Niemand hat sich überlegt, was passiert, wenn der Bot etwas Falsches sagt.
Typisches Beispiel aus meiner Praxis: Ein Handelsunternehmen lässt den Chatbot Produktverfügbarkeit beantworten. Der Bot zieht sich die Antworten aus dem RAG-Index, der einmal pro Nacht aktualisiert wird. Wenn ein Produkt mittags ausverkauft ist, sagt der Bot bis Mitternacht trotzdem „verfügbar”. Bei einem Privatkunden ist das ärgerlich. Bei einem B2B-Kunden, der darauf eine Bestellung auslöst und Lieferzusagen weitergibt, wird es teuer.
Aus meiner Sicht macht das OLG-Urteil zwei Dinge sichtbar, die viele KMU bisher verdrängt haben:
-
Disclaimer reichen nicht. Ein Hinweis „Dieser Chatbot kann Fehler machen” ist keine Haftungsbeschränkung. Wenn ein durchschnittlicher Nutzer die Antwort als verbindliche Auskunft des Unternehmens versteht, gilt sie als solche.
-
Der KI-Anbieter haftet nicht für Sie. OpenAI, Anthropic oder Mistral haben in ihren Terms klar geregelt, dass Sie als Betreiber die Verantwortung tragen. Niemand wird Ihre Schadenersatzklage übernehmen.
Die Konsequenz: Ein Chatbot ist kein Marketing-Gimmick, das man nebenbei laufen lässt. Er ist ein Kommunikationskanal Ihres Unternehmens, mit der gleichen rechtlichen Tragweite wie ein Brief mit Firmenstempel.
Was Sie jetzt konkret tun sollten
Wenn Sie einen Chatbot betreiben oder einen planen, empfehle ich drei Schritte. In dieser Reihenfolge.
Schritt 1: Scope-Audit innerhalb von zwei Wochen
Lassen Sie aufschreiben, was Ihr Chatbot eigentlich darf. Nicht was er kann, sondern was er soll. Drei Kategorien:
- Grün: Informationen, deren Falschauskunft kein Schaden verursacht. Öffnungszeiten, Anfahrt, allgemeine Produktbeschreibungen.
- Gelb: Informationen, die zu Frust oder Reputationsschaden führen, wenn sie falsch sind. Preise, Verfügbarkeiten, Lieferzeiten.
- Rot: Informationen, deren Falschauskunft direkten finanziellen, gesundheitlichen oder rechtlichen Schaden verursacht. Medizinische Hinweise, Rechtsauskünfte, verbindliche Zusagen, Vertragsdetails.
Für Rot-Bereiche gilt: Der Bot antwortet nicht. Er leitet weiter an einen Menschen. Keine Ausnahme, kein „der Bot ist eh meistens richtig”.
Schritt 2: Technische Absicherung
Für die Gelb-Bereiche brauchen Sie technische Guardrails. Was in der Praxis funktioniert:
- Strikte System-Prompts, die dem Modell verbieten, über bestimmte Themen zu sprechen. Inklusive Test mit Adversarial-Prompts, die versuchen, die Grenzen zu umgehen.
- RAG mit Quellenangabe. Der Bot zitiert die Quelle seiner Aussage. Wenn keine Quelle existiert, sagt er das.
- Echtzeit-Daten statt nächtliche Snapshots für alles, was sich schnell ändert. Lager, Preise, Termine.
- Logging aller Konversationen mit regelmäßigem Stichproben-Review. Sie müssen wissen, was Ihr Bot sagt. Wenn Sie das nicht wissen, betreiben Sie ihn blind.
Mein Rat: Lassen Sie einen externen Auditor (oder zumindest jemanden, der nicht am Aufbau beteiligt war) gezielt versuchen, dem Bot Falschauskünfte zu entlocken. Eine halbe Stunde reicht meistens, um die offensichtlichen Lücken zu finden.
Schritt 3: Rechtliche Klarstellung im Interface
Der Disclaimer rettet Sie nicht vor Haftung. Aber er kann den Schaden begrenzen, wenn klar ist, dass der Nutzer eine Auskunft nicht als verbindlich verstehen durfte.
Konkret:
- Vor der ersten Nachricht sichtbarer Hinweis, dass es sich um einen KI-Assistenten handelt. Nicht versteckt im Footer, sondern im Chat-Fenster selbst.
- Bei sensiblen Themen automatischer Hinweis am Ende der Antwort, dass die Information unverbindlich ist und welche verbindliche Quelle (Telefon, E-Mail an konkrete Person) zur Verfügung steht.
- Kein „Ich” beim Bot, das Verwechslungen mit einem menschlichen Mitarbeiter erzeugt. Lassen Sie ihn deutlich als Assistent auftreten.
Das alles ersetzt keine juristische Beratung für Ihren konkreten Anwendungsfall. Aber es zeigt im Streitfall, dass Sie sich Gedanken gemacht haben. Das macht juristisch einen Unterschied.
Was das OLG-Urteil nicht bedeutet
Es gibt zwei Fehlschlüsse, die ich aus solchen Urteilen oft höre.
Fehlschluss eins: „Dann lassen wir den Chatbot gleich weg.” Das ist überzogen. Ein gut gebauter Chatbot in einem definierten Scope ist nützlich und rechtlich beherrschbar. Das Urteil sagt nicht „Chatbots sind verboten”, sondern „Betreiber müssen Verantwortung übernehmen”. Das ist eine andere Aussage.
Fehlschluss zwei: „Wir warten ab, bis sich die Rechtslage geklärt hat.” Die Rechtslage wird sich nicht klären in dem Sinn, dass irgendwann jemand sagt, was erlaubt ist und was nicht. Sie wird sich entwickeln, fallweise, über Jahre. Wer wartet, betreibt seinen Chatbot in der Zwischenzeit trotzdem haftungsbewehrt. Nur ohne die Anpassungen vorzunehmen, die jetzt offensichtlich nötig sind.
Fazit
Das Hammer-Urteil ist kein Schock, sondern eine Erinnerung. Wer ein Werkzeug einsetzt, das bekanntermaßen halluziniert, muss damit umgehen. Für österreichische KMU heißt das: Scope einschränken, technisch absichern, transparent kommunizieren. Wer diese drei Dinge gemacht hat, schläft ruhig. Wer sie nicht gemacht hat, sollte diese Woche damit anfangen.