Dr. Gerhard Wiebe, RA

Produktsicherheitsrechtliche Betrachtung des Vorschlags für eine KI-Verordnung

Die KI-Verordnung ist ein Prestigeprojekt der EU, das den Rechtsrahmen für eine vertrauenswürdige künstliche Intelligenz (KI) bilden und die EU im Kampf um die Wettbewerbsfähigkeit in der digitalen Welt stärken soll. Bei genauer Betrachtung entpuppt sich das Regelungsvorhaben jedoch als allgemeine Software-Regulierung mit den Mitteln des Produktsicherheitsrechts. Um die Regelungsstruktur und -logik des Entwurfs verstehen zu können, erweist sich eine produktsicherheitsrechtliche Analyse als unabdingbar.

I. Einführung

Die EU-Kommission möchte mit dem am 21.4.2021 veröffentlichten Vorschlag für eine KI-Verordnung (KI-VO-E) den Herausforderungen der zunehmend digitaler werdenden Welt und den damit verbundenen Gefahren begegnen. Dementsprechend soll der Entwurf, der auf der EU KI-Strategie der Kommission aus 2018 bzw. dem Weißbuch für künstliche Intelligenz aus 2020 fußt und einem risikobasierten Ansatz folgt, einen Ausgleich zwischen Schutzbelangen einerseits und digitalem Fortschritt sowie (digital-)wirtschaftlichen Interessen andererseits schaffen. Um dieses Ziel zu erreichen, hat die EU dem Entwurf, ungeachtet datenschutz- und IT-rechtlicher Elemente, in erster Linie ein altbewährtes produktsicherheitsrechtliches Regelungskonzept zugrunde gelegt, namentlich den sog. New Legislative Framework (NLF). Dies wirft nicht nur die Frage nach der Übertragbarkeit einer Hardware-rechtlichen Regelungsarchitektur auf Software auf, sondern gebietet gleichsam eine produktsicherheitsrechtliche Lesart des Entwurfs, die zwangsläufig Friktionen hervorbringt. Schließlich ist der Regelungsgegenstand des KI-VO-E – Software – für das Koordinatensystem des NLF artfremd, da es auf körperliche Produkte zugeschnitten ist. Vor dem konzeptionellen Hintergrund des Entwurfs gilt es, eine produktsicherheitsrechtliche Analyse vorzunehmen, um den Regelungsgegenstand in das Regelungskonzept einzugliedern sowie Lösungen für (vorprogrammierte) strukturelle Ungereimtheiten anzubieten. Dabei lässt der Beitrag Best Practices und Erkenntnisse aus der produktsicherheitsrechtlichen Praxis und Dogmatik einfließen. Zugleich versucht der Beitrag, die produktsicherheitsrechtliche Stoßrichtung des KI-VO-E zu systematisieren.