Dr. ChristianPisani, LL.M. (London), RA

KI-Compliance: Zur Wechselwirkung von Sorgfaltsmaßstab und Vertrauensschutz beim Einsatz von ChatGPT – Vertrauen schützen, Sorgfalt wahren

Unternehmen nutzen immer häufiger Künstliche Intelligenz (KI). Die Nutzung von ChatGPT stellt sich dabei als Innovationstreiber dar, ist aber gleichzeitig mit Risiken und Limitationen verbunden. Die KI-VO (VO (EU) 2024/1689) gibt insoweit den Regulierungsrahmen vor, ohne selbst ein (abschließendes) Haftungsregime zu schaffen. Vor diesem Hintergrund sollen im folgenden Beitrag Kriterien für die Bestimmung des anwendbaren Sorgfaltsmaßstabes entwickelt werden. Es wird sich zeigen, dass dieser nicht allgemein gültig ist, sondern abhängig vom schutzwürdigen Vertrauen der betroffenen Verkehrskreise. Vertrauen bildet so Grund und Grenze des Sorgfaltsmaßstabs. Diese Erkenntnis kann zur Haftungsminimierung bei der Ausgestaltung interner Prozesse und der Vertragsgestaltung genutzt werden.

I. Einleitung

Sam Altman von Open AI bewirbt ChatGPT-5, das Anfang August 2025 der Öffentlichkeit vorgestellt wurde, als Experten mit Doktortitel auf jedem Gebiet. Insbesondere soll laut Open AI diese jüngste Version von ChatGPT weniger zum Halluzinieren neigen. Im März 2025 waren hingegen noch Bedenken an der Sicherheit von ChatGPT bekannt geworden. Um das volle Potential von ChatGPT auszuschöpfen, bedarf es in dieser Spannungslage also das Wissen und das Verständnis der Nutzer um die technischen Möglichkeiten und die sich daraus ergebenden Innovationschancen, aber auch um die mit der Nutzung verbundenen Risiken und Limitationen. Fehlt es aber an entsprechender KI-Kompetenz im Unternehmen, kann dies mit der Bundesnetzagentur als designierter Marktaufsichtsbehörde eine haftungsbegründende Sorgfaltspflichtverletzung darstellen.