Das Bundesdigitalministerium will die EU-KI-Verordnung umsetzen. Es macht die Bundesnetzagentur in einem Referentenentwurf zur zentralen Aufsichts- und Förderbehörde.

 

Das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) hat einen Referentenentwurf zur Umsetzung der europäischen KI-Verordnung vorgelegt. Nach Angaben aus dem Entwurf, der dieser Redaktion vorliegt, bekommt die Bundesnetzagentur eine zentrale Rolle. Die Behörde soll für die Marktüberwachung von Anwendungen künstlicher Intelligenz (KI) zuständig sein und zusätzlich Förderaufgaben wahrnehmen.

Die EU-Verordnung 2024/1689, auch als AI Act oder KI-Verordnung bezeichnet, war am 1. August 2024 in Kraft getreten. Sie schafft einen einheitlichen Rechtsrahmen für die Entwicklung und Nutzung von KI-Systemen im europäischen Binnenmarkt. Der Rechtsrahmen soll laut EU Innovationen fördern und gleichzeitig hohe Standards beim Schutz von Gesundheit, Sicherheit, Grundrechten und Umwelt gewährleisten. Zentrale Elemente sind Verbote bestimmter Praktiken, Anforderungen an Hochrisiko-Systeme sowie Transparenzpflichten. Die Vorgaben gelten von August 2026 an unionsweit verbindlich.

Damit Deutschland die Vorgaben fristgerecht umsetzt, sieht das BMDS vor, die Bundesnetzagentur als zentrale Marktüberwachungsbehörde einzusetzen. Darüber hinaus soll sie ein oder mehrere Reallabore betreiben, in denen Unternehmen KI-Anwendungen testen können. Laut Entwurf sollen vor allem kleine und mittlere Unternehmen (KMU) sowie Start-ups mit Sitz in der EU Zugang zu diesen Einrichtungen erhalten.

Zur Kontrolle wird eine Unabhängige KI-Marktüberwachungskammer (UKIM) geschaffen, die der Bundesnetzagentur organisatorisch unterstellt ist, jedoch eine eigene Geschäftsstelle bekommt. Sie soll dem Bundestag jährlich über Entwicklungen und Risiken im Bereich KI berichten.

129 neue Stellen

Für die Umsetzung plant das BMDS zusätzliche personelle und finanzielle Ressourcen. Konkret soll die Bundesnetzagentur 129 neue Stellen erhalten. Dafür veranschlagt das Ministerium laufende Personalkosten von 9,8 Millionen Euro pro Jahr sowie weitere Sach- und Gemeinkosten.

Hinzu kommen einmalige Investitionen von etwa 3 Millionen Euro für IT-Systeme sowie laufende Ausgaben von 6,3 Millionen Euro jährlich, unter anderem für den Betrieb eines Reallabors und den Aufbau einer digitalen Registratur.

Ein Teil der Ausgaben könnte über Gebühren oder Bußgelder refinanziert werden, heißt es im Entwurf. Diese Einnahmen fließen jedoch direkt in den Bundeshaushalt und stehen der Bundesnetzagentur nicht unmittelbar zur Verfügung. Die zusätzlichen Stellen sollen daher über den Gesamthaushalt finanziert werden.

Innerhalb der EU-Frist

Das Gesetzgebungsverfahren ist notwendig, weil die EU-Verordnung von den Mitgliedstaaten verlangt, bis spätestens August 2025 nationale KI-Behörden zu benennen. Neben der Bundesnetzagentur sind weitere Abstimmungen mit Institutionen wie der Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) und dem Bundesamt für Sicherheit in der Informationstechnik (BSI) vorgesehen.

Durch praxisnahe Reallabore sollen Unternehmen Möglichkeiten und Risiken von KI-Anwendungen frühzeitig erkennen können. Damit sollen Markteintrittsbarrieren gesenkt und Innovationen unterstützt werden.

Verband wünscht weniger Bürokratie

Der Bundesverband der Energie- und Wasserwirtschaft (BDEW) begrüßt die fristgemäße Umsetzung der EU-Vorgaben. Die Digitalisierung sei ein zentraler Treiber für die Energiewende, beispielsweise mit dem Einsatz intelligenter Messsysteme über KI-Anwendungen, Smart Grids, digitale Zwillinge und virtuelle Kraftwerke bis hin zu Prozessautomatisierung und vernetzten Datenökosystemen.

BDEW-Hauptgeschäftsführerin Kerstin Andreae mahnte allgemein: „Regulierungen, die digitale Innovationen auf nationaler oder europäischer Ebene ausbremsen, sollten kritisch überprüft werden.“ Nur wenn bürokratische Hürden abgebaut würden bei zugleich hohen Sicherheitsstandards, ließen sich Innovation, Wirtschaftlichkeit und Versorgungssicherheit in Einklang bringen. 

Die Bundesregierung solle auf EU-Ebene die Digitalgesetzgebung vorantreiben, forderte sie. So sollten im „Omnibus IV Simplification Package“ Potenziale zur Vereinfachung und Vereinheitlichung gehoben werden. Dabei gelte es, Kosten und Nutzen sorgfältig abzuwägen. Der Grundsatz „Wer bestellt, bezahlt“ sei beizubehalten, und digitale Plattformen oder Prozesse seien in enger Abstimmung mit der Branche zu entwickeln, so Andreae.