KI-Regeln im Umbau : Europäische KI-Regulierung steht erneut zur Debatte

Die Stimmen aus Politik und Wirtschaft, wonach zu enge Zügel Innovationen lahmen lassen und Europa im internationalen KI-Wettlauf weiter ins Hintertreffen gerät, werden lauter. Während der Bundestag am Freitag in erster Lesung über das Umsetzungsgesetz der europäischen KI-Verordnung debattierte, beginnt in Brüssel mit der Überarbeitung besagter Verordnung schon die nächste Schleife.

Grund ist der sogenannte KI-Omnibus der EU-Kommission, der eine Entschlackung bestehender Regeln sowie eine Aufschiebung bestimmter Teile der Verordnung, etwa Hochrisiko-KI-Systeme betreffend, vorsieht. Denn: Viele Vorschriften sehen noch wie Baupläne ohne Maß aus - Standards fehlen, Praxis-Anleitungen ebenso.

Doch die Pläne gehen manchen nicht weit genug, auch in der Bundesregierung gibt es Sympathien für eine weitere Entschlackung. Bei dem EU-Gipfel forderten die Staats- und Regierungschefs die Kommission auf, die KI-Verordnung erneut zu überarbeiten, wie Kanzler Friedrich Merz (CDU) am Donnerstag in Brüssel berichtete. Auch Digitalminister Karsten Wildberger (CDU) hatte die Pläne als "ambitionslos" kritisiert und gemahnt, nicht weiter von der Seitenlinie zuzuschauen: "Wir müssen selbst bauen, selbst gestalten", betonte Wildberger dann auch am Freitag im Bundestagsplenum.

Innovationspolitischer Auftrag für die Bundesnetzagentur

Das weltweit erste staatenübergreifende Gesetzeswerk zum Einsatz von KI ist seit August 2024 schrittweise in Kraft gesetzt worden. Mit dem nun im Bundestag debattierten Gesetzentwurf der Bundesregierung für ein KI-Marktüberwachungs-und-Innovationsförderungsgesetz soll ein erster Schritt für die nationale Umsetzung der KI-Verordnung in Deutschland gemacht werden: Der Gesetzentwurf regelt Zuständigkeiten der Behörden, etwa für Marktüberwachung und Notifizierung von KI-Systemen, sowie Aufsichts- und Bußgeldregelungen. 

Eine zentrale Rolle fällt dabei abermals der Bundesnetzagentur (BNetzA) zu. Sie soll als Marktüberwachungsbehörde für die Einhaltung der KI-Verordnung benannt werden, sofern diese Aufgabe nicht anderen Fachbehörden zugewiesen ist. 

---

„Wir müssen selbst bauen, selbst gestalten.“

---

Bei der BNetzA soll ein Koordinierungs- und Kompetenzzentrum eingerichtet werden, das die Zusammenarbeit mit anderen zuständigen Behörden und Expertise bündeln soll und als Ansprechpartner fungieren soll. Auch soll dort eine unabhängige KI-Marktüberwachungskammer in Bezug auf bestimmte Hochrisiko-KI-Systeme eingerichtet werden, und die Behörde soll als zentrale Anlauf- und Beschwerdestelle dienen.

Netzagentur soll mindestens ein Reallabor betreiben

Zugleich müsse sie auch bei der Innovationsförderung mit anschieben, erläuterte der Minister. So soll die BNetzA Informationsangebote bereitstellen, Beratungsleistungen organisieren und mindestens ein sogenanntes KI-Reallabor einrichten und betreiben. In diesem können neue Anwendungen unter Aufsicht getestet werden. Das Ziel: insbesondere kleinen und mittleren Unternehmen sowie Start-ups den Zugang zu KI-Innovationen zu erleichtern.

In der Debatte prallten die unterschiedlichen Linien zwischen Schutz und Geschwindigkeit aufeinander. Die Linke hatte zwei Anträge (21/4758 und 21/4759) vorgelegt, in denen die Abgeordneten vor einem Aufweichen der Regelungen warnten und sich für eine Verschärfung aussprachen. Auch wenden sie sich gegen den Einsatz automatisierter biometrischer Fernidentifikations- und Kategorisierungssysteme sowie algorithmengesteuerter Emotionserkennungssysteme im öffentlichen Raum, wie Sonja Lemke (Linke) betonte.

Die Verschiebung bestimmter Teile der Verordnung, etwa Hochrisiko-KI-Systeme betreffend, bezeichnete sie als falsch. Zudem bleibe die Verordnung "zahnlos", wenn sie nicht durchgesetzt werden könne, monierte Lemke. Dafür brauche es Transparenz über die Algorithmen und Trainingsdaten.

Fraktionen ringen um Kurs zwischen Kontrolle und Tempo

Marvin Schulz (CDU) betonte hingegen, dass KI nur eine große Gefahr berge: sie anderen zu überlassen. KI dürfe nicht für "kein Interesse" stehen, sondern müsse für "konsequente Innovation" stehen. Die BNetzA müsse sich daher als Möglichmacher verstehen.

Scharfe Kritik kam von Robin Jünger (AfD), der der Bundesregierung "verpasste Chancen" und "leere Versprechen" vorwarf und von "Planlosigkeit in Gesetzesform" sprach. Unter anderem habe die Bundesregierung es verpasst, schlanke und unternehmensfreundliche Strukturen zu schaffen, sagte Jünger und verwies auf das Sprinttempo der USA und Chinas beim Thema KI. Er kritisierte den steigenden Bürokratieaufwand und forderte, den Entwurf an die EU-Kommission zurückzuüberweisen.

Künstliche Intelligenz als Machtfrage unserer Zeit

SPD-Digitalpolitikerin Carolin Wagner sagte, nötig sei ein KI-Einsatz, der Werte, Datenschutz, Transparenz und Ethik respektiere, und das sei eben "keine Entscheidung zwischen Innovation und Regulierung", betonte sie. Mit Blick auf den digitalen Omnibus sagte Wagner, dieser gehe in einigen Bereichen, etwa in Bezug auf die Regulierung pornografischer KI-Tools, in die richtige Richtung. Hier seien klare Regeln, Verbote und harte Strafen für das Ausüben digitaler Gewalt notwendig.

Franziska Brantner (Grüne) sprach in Bezug auf die nationale Umsetzung von "einem Flickenteppich" und warnte vor einer Architektur, die zu Verlangsamung und Komplizierung führe. Es gebe "tausend Stoßrichtungen in der Bundesregierung, aber keine gemeinsame Mission", kritisierte Brantner. Letztendlich gehe es um Macht und darum, nach welchen Werten KI programmiert werde. Im Machtkampf mit Kräften wie Peter Thiel, Elon Musk oder Sam Altman müsse Europa seine eigene Antwort finden: eine KI, die auf Menschenwürde fuße.