In diesen Tagen wird im EU-Parlament heftig gerungen und eine Einigung unter den Parlamentariern rückt näher. Es geht um die KI-Verordnung. Dabei handelt es sich um ein Verbotsgesetz, das den Einsatz von Künstlicher Intelligenz in der EU weitgehend erschweren oder gar unmöglich machen könnte. Wer die KI-Verordnung nun schönredet, hat die Tragweite der geplanten KI-Überregulierung nicht verstanden: Es droht eine Situation, in der die EU von den USA und China endgültig technologisch abgehängt wird. Die KI-Verordnung droht zum Eigentor für Innovation, Wirtschaft und Zivilgesellschaft zu werden.
Die Tragödie beginnt bereits mit dem handwerklich schlecht gemachten Anwendungsbereich der geplanten KI-Verordnung: dieser erstreckt sich aktuell auf nahezu jede wirtschaftlich relevante Software, ist also sehr breit und im Detail auch noch unscharf. Bemerkenswert ist, dass ziemlich viele automatisierte Anwendungen von der KI-Verordnung als „Hochrisiko-KI“ erfasst werden könnten. Selbst Anwendungen wie ChatGPT oder neuronale Netze im Allgemeinen würden nach den aktuellen Vorschlägen des Europäischen Parlaments als „General Purpose KI“ in die Hochrisikokategorie fallen, da sie von Dritten in Verbindung mit deren persönlichen Daten zum Nachteil Anderer eingesetzt werden könnten. Verbunden mit der parallel geplanten KI-Haftungsrichtlinie drohen unüberschaubare Haftungsfragen, selbst für die Open Source Community.
Anforderungen der KI-Verordnung sind bislang praxisfern
Die KI-Verordnung setzt die Messlatte für KI-Anbieter und -Nutzer sehr hoch und bleibt dabei im Detail diffus. Beispielsweise dürfen zahlreiche Hochrisiko-KI-Systeme nur noch eingesetzt werden, wenn sie bestimmte Anforderungen, unter anderem an Datenqualität und Transparenz, erfüllen und eine menschliche Kontrolle ermöglichen.
Was das im Einzelnen bedeutet, ist völlig unklar. Die geplante KI-Verordnung verfolgt den Ansatz, allgemeine Regeln für KI-Systeme in allen Sektoren aufstellen zu wollen. Ein schier unmögliches Vorhaben, bei einer fast unendlichen Zahl an Anwendungsfällen. Im Ergebnis droht eine massive Überregulierung durch die KI-Verordnung, denn die Anforderungen an Hochrisiko-KI-Systeme sind meist sehr teuer oder technisch teils gar nicht erfüllbar. Für die Rechtsanwender bedeutet dies zudem eine hohe Rechtsunsicherheit darüber, was getan werden muss und was verboten ist.
Besonders hervorzuheben ist, dass die KI-Verordnung zusätzlich zur DSGVO gelten soll, wobei die beiden Rechtsakte kaum aufeinander abgestimmt sind. Wer im Dschungel der sich anbahnenden EU-Regulierung den Überblick behalten will, braucht enorme personelle und finanzielle Ressourcen oder gar eine eigene KI-Compliance-Abteilung. Und das ist der eigentliche Skandal: Gerade für KMU oder Start-ups ist dies kaum zu bewältigen. Die KI-Verordnung droht wie die Datenschutzgrundverordnung zum Eigentor für die europäische Wirtschaft zu werden. Und das, obwohl die Stärkung von mittelständischen Unternehmen eines der politischen Leitmotive der EU ist.
Europarecht: Kompetenzen werden überschritten
Darf die EU überhaupt KI verbieten? Offiziell stützt man sich auf Artikel 114 des Vertrag über die Arbeitsweise der Europäischen Union (AEUV) als Ermächtigungsgrundlage. Das Problem ist jedoch, dass die Norm das Funktionieren des EU-Binnenmarkts fördern will. Es lässt sich sehr gut argumentieren, dass sie nun zweckentfremdet wird für ein Vorhaben, das dem Binnenmarkt massiv schaden dürfte, aber auch für Dinge, die gar nicht EU-Kompetenz sind. Beispielsweise Zustimmung beim KI-Einsatz am Arbeitsplatz, vorgeschlagen vom Europäischen Parlament: während Art. 114(2) AEUV solche Regelungen explizit ausschließt, erlaubt die nicht verwendete Rechtsgrundlage Art. 153(1b) entsprechende Vorgaben nur in EU-Richtlinien, nicht aber in Verordnungen wie der KI-Verordnung.
Hierdurch vergaloppiert sich der EU-Gesetzgeber, indem er seinen Kompetenzbereich verlässt. Dass dies schon seit knapp 20 Jahren bei einer Vielzahl an Gesetzgebungsverfahren der Fall ist, wird in Deutschland kaum noch thematisiert. Öffentlichkeitswirksam warnte zuletzt 2011 der ehemalige Bundespräsident Roman Herzog davor, dass Deutschland durch zu viel Abgabe von Kompetenzen das Subsidiaritätsprinzip unterlaufe.
Dysfunktionalität der EU
Wie können trotz Einbeziehung vieler Experten solche handwerklichen Schnitzer passieren? Ein Blick in den EU-Maschinenraum liefert eine Erklärung: Innerhalb, aber auch zwischen Kommission, Parlament und Rat herrschen immer mehr byzantinische Verhältnisse. Ungeklärte Zuständigkeiten, fehlende Koordinierung und zu viele involvierte Akteure, oft getrieben von einem Mix aus Ideologie und karrieristischem Ehrgeiz. Garantierte die Agenda zur besseren Rechtsetzung gepaart mit einer straffen Hierarchie unter der Kommissionsleitung von Jean-Claude Juncker noch in den meisten Fällen eine evidenzbasierte EU-Gesetzgebung, ist dies im Jahr 2023 immer seltener der Fall.
Insbesondere im Rat und im Europäischen Parlament verdrängen beim Thema KI Protektionismus und Technologiefeindlichkeit die Realität. Gefährdet wird dadurch nicht nur unsere Wirtschaftskraft, sondern auch die Freiheits- und Bürgerrechte der Zivilgesellschaft. Anstatt reale Gefahren durch biased datasets oder deep fakes effektiv zu adressieren, fokussieren sich viele in Brüssel lieber auf Science-Fiction-Schreckgespenste. Die KI-Verbotsliste in den aktuellen Änderungsanträgen der Europaparlamentarier unterstreicht dies nur zu deutlich.
Irreparabler Schaden für die EU-Wirtschaft
Die KI-Verordnung könnte dieses Jahr – zumindest informell – verabschiedet werden. Die Zeit drängt und es droht ein irreparabler Schaden für die ganze EU-Wirtschaft, insbesondere für die heimischen KMU. Konkret besteht die Gefahr, dass unabkömmliche Technologien nicht mehr rechtssicher in der EU eingesetzt werden können und die Potentiale von KI nur noch im EU-Ausland abgeschöpft werden. Daher sollte die KI-Verordnung gestoppt oder erheblich entschärft werden.
Der aktuelle Entwurf der KI-Verordnung schafft es nicht, der Anwenderseite präzise und belastbare Vorgaben an die Hand zu geben. Anstatt branchenübergreifend zu regulieren, sollten sektorale Anwendungsfälle stärker in den Fokus rücken. Ein solcher vertikaler Regelungsansatz hätte das Potential, praktikable Lösungen zu ermöglichen.
David Bomhard ist Physiker und Rechtsanwalt in München und ist auf alle rechtlichen Themen rund um Künstliche Intelligenz spezialisiert.
Kai Zenner ist als Büroleiter und Digitalreferent für MdEP Axel Voss (EVP-Fraktion) im Europäischen Parlament tätig und ist unter anderem an den politischen Verhandlungen zur KI-Verordnung und der KI-Haftungsrichtlinie involviert.
Patrick Glauner ist Professor für KI an der TH Deggendorf und hat als Sachverständiger die Parlamente von Deutschland, Frankreich und Luxemburg zu den sich aus KI ergebenden politischen und rechtlichen Fragestellungen beraten.
