Eine zentrale Rolle soll dabei die Bundesnetzagentur übernehmen. Sie soll künftig als Marktüberwachungsbehörde für die Einhaltung der KI-Verordnung zuständig sein, soweit keine anderen Fachbehörden verantwortlich sind. Zudem ist bei ihr ein Koordinierungs- und Kompetenzzentrum vorgesehen, das die Zusammenarbeit der zuständigen Stellen bündeln, Fachwissen aufbauen und als Schnittstelle zu europäischen Institutionen fungieren soll. Darüber hinaus soll eine unabhängige KI-Marktüberwachungskammer eingerichtet werden, die bestimmte Hochrisiko-KI-Systeme überwacht.
Vorgesehen ist außerdem, die Bundesnetzagentur als zentrale Anlauf- und Beschwerdestelle auszugestalten. Bürgerinnen und Bürger sollen dort mögliche Verstöße gegen die KI-Vorgaben melden können. Die Beschwerden würden anschließend an die jeweils zuständige Behörde weitergeleitet.
Neben Aufsicht und Kontrolle setzt der Gesetzentwurf auch auf Innovationsförderung. Geplant sind Informations- und Beratungsangebote sowie mindestens ein KI-Reallabor, in dem neue Anwendungen unter staatlicher Aufsicht erprobt werden können. Insbesondere kleine und mittlere Unternehmen sowie Start-ups sollen dadurch einen erleichterten Zugang zu KI-Innovationen erhalten.
Der Gesetzentwurf für ein KI-Marktüberwachungs-und-Innovationsförderungs-Gesetz (21/4594), mit dem die Durchführung der EU-Verordnung 2024/1689 geregelt werden soll, enthält zudem Bußgeldvorschriften. Verstöße gegen bestimmte Mitwirkungs- und Auskunftspflichten gegenüber Behörden oder notifizierenden Stellen sollen mit Geldbußen von bis zu 50.000 Euro geahndet werden können.
Mit dem Umsetzungsgesetz schafft die Bundesregierung damit die nationale Verwaltungs- und Aufsichtsstruktur für die europäische KI-Regulierung. Zugleich wird deutlich, dass die Einführung der KI-Verordnung nicht nur mit neuen Pflichten, sondern auch mit erheblichem organisatorischem und finanziellem Aufwand für Bund und Länder verbunden ist.
