Open Access

Jonas Botta

• KI birgt das Potenzial, zum Eckpfeiler der digitalen Transformation in der öffentlichen Ver-waltung zu werden. Während der Einsatz von KI-Systemen effizientere Abläufe durch Auto-matisierung verspricht, birgt er auch erhebliche Risiken, insbesondere in Bezug auf Daten-schutz und die Gleichbehandlung von Individuen. Eine der drängendsten Herausforderungen ist der bestehende Mangel an Transparenz – sowohl für Bürger als auch für die Verwaltung selbst. Außerhalb der zuständigen Regierungsbehörden ist oft unklar, wo und zu welchen Zwecken KI-Systeme eingesetzt werden. Das Bewusstsein für die verwendeten Systeme und deren Funktionsweise ist jedoch entscheidend, um die öffentliche Akzeptanz zu fördern, eine effektive Aufsicht zu gewährleisten, Grundrechte zu schützen und den ressortübergreifenden Wissensaustausch zu erleichtern. Um die Transparenz bezüglich des staatlichen Einsatzes von KI zu erhöhen, ist die Einführung eines öffentlichen Registers ratsam – ähnlich dem System, das bereits in den Niederlanden existiert. Im niederländischen „Algoritmeregister“ sind Regierungsbehörden verpflichtet, die von ihnen verwendeten KI-Systeme zu erfassen. Das Register liefert wichtige Details wie den Verwendungszweck des Systems, seinen Anwendungsbereich und die potenziellen Auswir-kungen auf Bürger und Unternehmen. Anfang 2025 unternahm das Bundesministerium des Innern und für Heimat mit dem „Marktplatz der KI-Möglichkeiten“ erste vorsichtige Schritte in diese Richtung. Die Einrichtung eines nationalen KI-Transparenzregisters für die öffentliche Verwaltung wirft jedoch erhebliche rechtliche Bedenken auf. Der KI-Act der EU etabliert einen eigenen Rah-men für die KI-Transparenz, der Vorrang vor nationalen Gesetzen hat. Gemäß dem KI-Act müssen öffentliche Behörden die Nutzung spezifischer Hochrisiko-KI-Systeme in einer zen-tralen Datenbank offenlegen (Artikel 71 KI-Act) und insbesondere eine Zusammenfassung der Folgenabschätzung für Grundrechte bereitstellen (Artikel 27 KI-Act). Wenn der KI-Act die KI-Transparenz innerhalb der öffentlichen Verwaltung umfassend regelt, könnte die Schaf-fung eines nationalen Registers im Widerspruch zum EU-Recht stehen. Selbst wenn das EU-Recht die Schaffung eines solchen Registers nicht vollständig ausschließt, muss die Heran-gehensweise an seine Umsetzung im Einklang mit dem deutschen Verfassungsrecht stehen. Insbesondere müssen der Grundsatz des „Vorbehalts des Gesetzes“ und Deutschlands fö-derales Kompetenzsystem berücksichtigt werden. Dieser Artikel untersucht diese Fragen und skizziert, wie das Konzept eines nationalen KI-Transparenzregisters im europäischen Mehr-ebenensystem rechtlich umgesetzt werden kann.