Mona Zimmer, M.A., LL.B.

Fairness im Fokus: Balanceakt zwischen KI-Effizienz und Gleichbehandlung in der Finanzverwaltung

Ziel des folgenden Beitrags ist es, die Diskriminierungsforschung im Bereich Risikomanagementsysteme (RMS) um den zukünftigen Einsatz von Künstlicher Intelligenz (KI) zu erweitern, denn in der Finanzverwaltung ist dieser als äußerst wahrscheinlich einzustufen. Für die bisherige Funktionsweise von RMS wurde die Gefahr der Diskriminierung bereits bemängelt und eine stärkere Kontrolle gefordert. Mit dem Einsatz von KI ergeben sich weitere Potentiale der Diskriminierung wie beispielsweise Stellvertreterdiskriminierung. Besonders kritisch ist dies zu betrachten, da in der Finanzverwaltung relevante Daten wie Geschlecht, Herkunft, Religion und Behinderung verfügbar sind, obwohl diese nicht in die Besteuerung einfließen sollten. Der Beitrag zeigt zudem Handlungsmöglichkeiten zur Vermeidung der geschilderten Diskriminierung.

I. Einleitung

“Um die Gleichmäßigkeit und Gesetzmäßigkeit der Besteuerung kontrollierbar aufrechterhalten zu können, gelten besondere Anforderungen hinsichtlich der Objektivität, Nachvollziehbarkeit und Transparenz des RMS, um Willkürentscheidungen zu verhindern, und die Gerechtigkeit des Systems zu gewährleisten.”