Im April 2021 veröffentlichte die EU-Kommission ihren Vorschlag zur Nutzung von Künstlicher Intelligenz (KI). Ein risikobasierter Ansatz soll dabei Innovation und hohe ethische Standards künftig miteinander vereinbaren.
Mit ihrem Vorhaben unterstreicht die EU-Kommission ihre Absichten, weltweit Maßstäbe in digitalen Zukunftsfragen zu setzen. Der Vorschlag stellt zwei Vorhaben in den Mittelpunkt: Einerseits die Förderung von Innovationsdynamik und andererseits den Schutz von Grundrechten. Beides soll durch einen sog. risikobasierten Ansatz sichergestellt werden. Der Vorschlag der EU-Kommission unterteilt KI-Systeme dabei in verschiedene Kategorien. Je nach Einstufung unterliegen diese besonderen Standards und Auflagen. Anwendungen die z.B. ein „unannehmbares Risiko“ darstellen, werden dann verboten. Hierzu zählen etwa Technologien, die es erlauben, Sozialverhalten von Bürgerinnen und Bürgern auszuwerten (social scoring).
Für die beratenden und prüfenden Berufe sind Anwendungen mit einem „hohen Risiko“ von besonderem Interesse. Hierzu zählen unter anderem private und öffentliche Dienstleistungen, die beispielsweise die Bewertung einer Kreditwürdigkeit ermöglichen. Diese KI-Systeme werden vor ihrer Einführung und während ihres gesamten Lebenszyklus eingehend von Menschen geprüft.
Ende letzten Jahres hat die EU-Kommission einen Konsultationsprozess zur zivilrechtlichen Haftung gestartet. Hierbei soll besonders die Frage geklärt werden, ob die aktuelle Produkthaftungsrichtlinie noch zeitgemäß ist und wer für fehlerhafte KI-Systeme haftbar gemacht werden kann. Außerdem soll die Nutzung von KI-Systemen für die prüfenden und beratenden Berufe an bestimmte Bedingungen geknüpft werden. So soll für die Nutzerinnen und Nutzer erkennbar sein, auf welcher Datenbasis das verwendete KI-System seine Entscheidungen trifft. Zudem soll die finale Entscheidung über die Bewertung eines Sachverhalts beim Menschen liegen. Dies ist unabdingbar, damit die beratenden und prüfenden Berufe ihrer Sorgfaltspflicht nachkommen können. Es ist zugleich zu begrüßen, weil dadurch der hohe Qualitätsstandard des Berufsstands nicht durch neue Technologien gefährdet wird. Deshalb können KI-Systeme für den Berufsstand von Nutzen sein und in der täglichen Arbeit unterstützen. KI-Systeme können aber nicht das Fachwissen der beratenden und prüfenden Berufsmitglieder ersetzen.
Nun können das EU-Parlament und der Ministerrat das Gesetzgebungsverfahren vorantreiben. Auch die französische Ratspräsidentschaft hebt in ihrem Programm hervor, dass sie in den nächsten sechs Monaten die Entwicklung von vertrauenswürdiger KI in der EU weiter vorantreiben möchte.
(dstv.de vom 17.1.2022)