Der Rechtsausschuss hat insbesondere die Regelungen zur Sicherheit von KI-Systemen durch menschliche Kontrolle präzisiert. Der Schutz von Privatsphäre und Daten sowie der Werte der Union hat einen besonderen Stellenwert. So sollen die Anbieter von KI-Systemen u. a. sicherstellen, dass die Nutzer über die Interaktion mit einem KI-System informiert werden und dass eine menschliche Aufsicht des Systems stattfindet. Insbesondere KI-Systeme mit einem hohen Risiko, wie solche zum Betrieb kritischer Infrastrukturen und zur biometrischen Identifizierung, sollen so konzipiert werden, dass sie wirksam von Menschen beaufsichtigt werden können und im Notfall die Möglichkeit besteht, in den Betrieb des KI-Systems einzugreifen und diesen zu stoppen, solange durch den menschlichen Eingriff kein erhöhtes Risiko entsteht. Zudem soll jede natürliche und juristische Person die Möglichkeit haben, bei einer Aufsichtsbehörde Beschwerde einzulegen, wenn sie der Ansicht ist, dass ihre Gesundheit, Sicherheit oder ihre Rechte verletzt wurden.
(BRAK – Nachrichten aus Brüssel – Ausgabe 16/2022 vom 15.9.2022)