Tim Wybitul, RA/FAArbR/CIPP/E

Welche Pflichten haben Betreiber von Hochrisiko-KI-Systemen nach der EU-KI-Verordnung?

Überblick, Handlungsempfehlungen und Checkliste

Die neue EU-KI-Verordnung (KI-VO) regelt die Entwicklung und den Einsatz von KI-Systemen risikobasiert. Hochrisiko-KI-Systeme, z. B. zur Beobachtung und Bewertung von Beschäftigten, sind besonders geregelt. Dieser Beitrag soll Unternehmen helfen, ihre Pflichten beim Einsatz solcher Systeme zu identifizieren und umzusetzen. Er erläutert die Kriterien zur Einordnung als Betreiber eines Hochrisiko-KI-Systems, beschreibt deren Pflichten, gibt Handlungsempfehlungen und enthält eine Checkliste, die die wichtigsten Pflichten zusammenfasst.

I. Einleitung

Die Leistungsfähigkeit von KI-Systemen hat in den letzten Jahren sprunghaft zugenommen. Unternehmen setzen KI immer öfter und immer gezielter ein. Die EU hat mit der KI-VO am 12.7.2024 das weltweit erste umfassende Gesetzeswerk zur Regelung von KI veröffentlicht.