KI in der Verwaltung: Spannungsfelder zwischen Innovation und Transparenz
Künstliche Intelligenz (KI), insbesondere die Unterform des Machine Learning (ML), findet zunehmend in der Verwaltung Einsatz. Trotz der damit verbundenen Vorteile wie Effizienz und Schnelligkeit weisen ML-Systeme aber aus rechtlichen oder technischen Gründen teilweise eine Black-Box-Eigenschaft auf: Ihr Entscheidungsprozess und die Gründe hinter einer Entscheidung bleiben intransparent. Damit ergibt sich ein Spannungsverhältnis mit dem rechtsstaatlichen Prinzip, der Begründungspflicht oder Auskunftsrechten.
Die damit verbundenen Rechtsfragen zum Einsatz von ML in der Verwaltung werden in dieser Arbeit umfassend beleuchtet. Aufbauend auf einem rechtsinformatischen Ansatz werden das Datenschutzrecht, das Verfassungs- und Verwaltungsrecht und die Problematik algorithmischer Diskriminierung untersucht. Auch die Rolle des Artificial Intelligence Acts für die Verwaltung wird skizziert. Das Ziel der Arbeit ist, konstruktive Ansätze zur Auflösung dieses Spannungsverhältnisses aufzuzeigen, beispielsweise durch den Einsatz von explainable AI.