BB-Kommentar

Wettbewerbsrechtliche Haftung für Falschinformationen eines Chatbots

Problem

Der Einsatz eines KI-Chatbots zur Kundenkommunikation auf einer Webseite stellt eine dem Betreiber zuzurechnende geschäftliche Handlung dar; für autonom generierte, unzutreffende Aussagen (“Halluzinationen”) des Chatbots kann der Betreiber wegen Irreführung nach dem UWG haften.

Zunehmend werden in der Unternehmenskommunikation KI-Chatbots eingesetzt, welche gegenüber den (potentiellen) Kunden Fragen in Echtzeit beantworten, bei der Vereinbarung von Terminen unterstützen etc. Diese Systeme agieren auf Basis statistischer Wahrscheinlichkeitsberechnungen weitgehend autonom und ohne direkte menschliche Steuerung im Einzelfall. Angesichts der Funktionsweise von Chatbots ist nicht auszuschließen, dass entsprechende Antworten fehlerhaft sind. In der hier vorab gedruckten Entscheidung hatte das Gericht die Frage zu entscheiden, inwieweit die unzutreffende Aussage des Chatbots, zwei Ärzte des Unternehmens verfügten über bestimmte Facharztqualifikationen, dem Unternehmen zuzurechnen und wettbewerbswidrig sind.

Zusammenfassung

Die Beklagte bietet minimal invasive Beautybehandlungen an und implementierte auf ihrer Webseite einen KI-Chatbot zur Kundenkommunikation und Terminbuchung. Die als Ärzte tätigen Geschäftsführer verfügen über keine Facharztausbildung. Auf Nutzeranfragen zur Facharztqualifikation der beiden Geschäftsführer hatte der Chatbot das Vorliegen solcher Qualifikationen bejaht. Der Kläger, ein Verbraucherverband, mahnte die Beklagte ab und forderte die Abgabe einer strafbewehrten Unterlassungserklärung. Die Beklagte lehnte dies ab, deaktivierte aber den Chatbot vorübergehend und überarbeitete ihn durch Prompt-Anweisung und Keyword-Filter so, dass der Begriff “Facharzt” unterdrückt wird. Der Verband erhob Unterlassungsklage wegen irreführender Angaben zur Befähigung des Unternehmers (§ 5 Abs. 1, Abs. 2 Nr. 3 UWG, Rn. 14 f., alle nachfolgenden Rn. beziehen sich auf den juris-Abdruck). Die Beklagte verteidigte sich im Wesentlichen damit, dass die Antworten des Chatbots mangels menschlicher Willensentschließung nicht als eigene geschäftliche Handlung zugerechnet werden könnten. Weiterhin fehle es an der geschäftlichen Relevanz für den Verbraucher, da das angesprochene Publikum um die Fehleranfälligkeit KI-generierter Antworten wisse (Rn. 27). Die Klage hatte vor dem OLG Hamm uneingeschränkten Erfolg. Das Gericht sah in den Antworten des Chatbots unzulässige geschäftliche Handlungen gem. § 5 Abs. 1, Abs. 2 Nr. 3 UWG wegen zur Täuschung geeigneter Angaben zur Befähigung (Rn. 41).