AI Act : Berlin braucht ein Brüssel, das seine KI-Hausaufgaben macht

Der August war in Brüssel früher bekanntlich eine ruhige Zeit. Die diesjährige Pause muss jedoch verkürzt werden. Am 2. August 2026 (ja, einem Sonntag) erhält das KI-Büro der Europäischen Kommission die Durchsetzungsbefugnisse gemäß den Artikeln 91, 92, 93 und 101 der KI-Verordnung. Ab dann kann die Kommission von Anbietern von Allzweck-KI‑Modellen Unterlagen und technische Details anfordern, eigene Modellbewertungen durchführen, Abhilfemaßnahmen verlangen und Geldbußen in Höhe von bis zu 3 Prozent des weltweiten Umsatzes bzw. 15 Millionen Euro verhängen. Dieser Meilenstein markiert das Ende der Übergangsfrist und den Beginn der eigentlichen Arbeit für das KI-Büro.

Washington ist schon vorgeprescht und improvisierte eine Exportkontrollmaßnahme, die als Sperre für gefährliche Pioniermodelle dienen sollte. Im Juni schränkte die US-Regierung den Zugang zu Fable 5 und Mythos 5, den fortschrittlichsten Modellen von Anthropic, ein und stützte sich dabei auf Exportkontrollen, die eigentlich für Hardware und Handelsbeschränkungen gedacht waren. Dieser Vorfall verdeutlicht den Wandel der US-Regierung von einem Laissez-faire-Ansatz hin zur Entwicklung eines Mechanismus, mit dem Pioniermodelle vor ihrer Veröffentlichung gestoppt werden können.

KI-Büro muss Mandat umfassend nutzen

In Europa sprechen starke Argumente dafür, das Mandat des KI-Büros umfassend und frühzeitig zu nutzen. Belege für das Schadenspotenzial lieferte kürzlich der Europäische Ausschuss für Systemrisiken, der die aktuelle Cyber-Gefährdung im Juni dieses Jahres als „schwerwiegend“ einstufte – eine Verschärfung gegenüber der Einstufung als „erhöht“ im März.

Jüngste Untersuchungen der britischen KI-Sicherheitsinstituts zeigen, dass sich die Länge der Aufgaben, die Pionier-KI-Modelle bewältigen können, alle acht Monate verdoppelt. Weitere Studien zu Open-Source-Trends deuten darauf hin, dass KI-gestützte Cyberangriffe in den kommenden Monaten einfacher und für mehr Menschen zugänglich werden könnten. Dieser Anstieg des groß angelegten Risikos ist einer der Hauptgründe, warum die Regulierung von „Frontier-KI“ von Bedeutung ist und warum sogar Google nun bei der US-Bundesregierung dafür eintritt, die Entwicklung von „Frontier-KI" zu überwachen.

Was die Öffentlichkeit erwartet

Fragt man die Menschen, was sie von der EU in Bezug auf KI erwarten, konzentrieren sich die Antworten auf die Verhinderung von Deepfakes, die Bekämpfung von Online-Manipulation, den Schutz von Minderjährigen und höhere Investitionen in die Entwicklung eines europäischen Tech-Stacks. Eine Eurobarometer-Umfrage zu Beginn dieses Jahres ergab, dass 87 Prozent der Europäer KI-generierte Inhalte als Bedrohung für demokratische Prozesse ansehen und 92 Prozent der Befragten sich einen stärkeren Schutz für Kinder im Internet wünschen. Vor dem Hintergrund, dass Deepfakes zur Manipulation von Wahlen seit 2023 für Schlagzeilen sorgen (mit Moldawien und der Slowakei als frühen Beispielen), müssen die vom Eurobarometer identifizierten Probleme angegangen werden. Dies sollte jedoch nicht der Ausgangspunkt für die Arbeit des KI-Büros sein.

So dringlich diese Themen auch sind, sie fallen nicht in den Zuständigkeitsbereich des KI-Büros. Sein Auftrag gemäß dem AI Act, das in den Praxisleitfäden für GPAI-Modelle weiter konkretisiert wird, besteht darin, den im Kapitel „Sicherheit und Gefahrenabwehr“ des Praxisleitfaden definierten systemischen Risiken Vorrang einzuräumen. Die vier Kategorien systemischer Risiken, die von mehr als 1000 internationalen Experten ermittelt wurden, sind Cyberangriffe, Kontrollverlust, schädliche Manipulation in großem Maßstab sowie die Verstärkung chemischer, biologischer, radiologischer und nuklearer Gefahren. Infolgedessen bleibt eine Kluft bestehen zwischen dem, was die Öffentlichkeit als die dringlichsten Probleme ansieht, und dem, was das KI-Büro laut Gesetz überwachen soll.

Warum Berlin das KI-Büro braucht

Die Europäische Kommission steht nun vor der Aufgabe, nicht nur zu erklären, sondern auch zu zeigen, was die Einhaltung der GPAI-Vorgaben in Brüssel in den nächsten Jahren bedeuten wird. In dieser Hinsicht sollte ihr Hauptaugenmerk darauf liegen, die vier Kategorien systemischer Risiken zum Leitfaden für Durchsetzungsmaßnahmen zu machen, beginnend mit der Durchführung von Modellbewertungen zu Fähigkeiten im Bereich Cyberangriffe. Dies wird zunehmend wichtiger (und schwieriger), da Lobbyarbeit und Druck seitens der KI-Anbieter mit der Hitze des Augusts zunehmen. Aber warum sollte sich jemand außerhalb der Kommission oder der „Brüsseler Blase“ dafür interessieren?

Die Gründe, warum Berlin und andere Hauptstädte sich dafür interessieren sollten, liegen zunächst in ihrer Rolle bei der Überwachung der KI-Lieferkette. Nationale Behörden sind für die Überwachung der KI-Systeme zuständig, die auf den vom KI-Büro bewerteten GPAI-Modellen aufbauen. Systemische Risiken, die auf der Ebene der Basismodelle unentdeckt bleiben, treten nachgelagert auf dem Hoheitsgebiet der Mitgliedstaaten zutage. Zweitens legt der am 7. Juli veröffentlichte Aktionsplan der Kommission zu Cybersicherheit und KI eine Kapazitätsvision fest, an deren Aufbau die Mitgliedstaaten ein Interesse haben: ein Ökosystem unabhängiger Gutachter, das die im GPAI-Praxisleitfaden geforderte Rolle eines externen Gutachters übernehmen kann und die technische Grundlage für die Aufsichts- und Durchsetzungsentscheidungen des KI-Büros bildet. Mitgliedstaaten, die die Kapazitäten zum Aufbau und zur personellen Besetzung dieses Ökosystems schaffen, gewinnen neben ihrer Compliance-Verpflichtung auch eine neue Branche.

KI-Sicherheitsinstitut vor unlösbarer Aufgabe?

Deutschlands Vorstoß zur Gründung eines eigenen KI-Sicherheitsinstituts ist ein zeitgemäßer Schritt. Es kündigte an, den Schwerpunkt darauf zu legen, zu verstehen, wie fortschrittliche Modelle die nationale Sicherheit und die Cybersicherheit beeinflussen können. Mit diesem Schwerpunkt wird es mindestens drei Lücken schließen. Erstens eine Wissenslücke, angesichts der begrenzten Anzahl nationaler Behörden, die bahnbrechende KI unabhängig bewerten können. Zweitens eine Lücke im Anwendungsbereich, da nationale Sicherheitsrisiken – die durch offensive Cyberfähigkeiten verstärkt werden können – aus dem Geltungsbereich des AI Acts und dem Mandat des KI-Büros zur Überwachung und Durchsetzung herausfallen. Drittens schließt es eine Führungslücke, da es eine der ersten Einrichtungen dieser Art in einem EU-Mitgliedstaat ist.

Keine dieser drei Lücken lässt sich jedoch ohne eine ordnungsgemäße Durchsetzung in Brüssel schließen, da nationale Behörden keine Durchsetzungsbefugnisse gegenüber Modellanbietern haben. Der Wert des Instituts hängt davon ab, dass es auf systemische Risikoberichte zurückgreifen kann und über ein KI-Büro mit einer soliden Erfolgsbilanz verfügt.

Wenn die Europäische Kommission ihre Hausaufgaben macht, wird sie die kommenden Prüfungen wahrscheinlich bestehen. Dazu muss die Durchsetzung frühzeitig, zielgerichtet und konsequent erfolgen. Sollte die Kommission ihrem Auftrag jedoch nicht gerecht werden, wird sie keine zweite Chance erhalten. Und ohne Berichte über systemische Risiken, eine Erfolgsbilanz bei der Durchsetzung, auf die man sich stützen kann, und einen starken Partner in Brüssel wird Deutschlands neues Institut vor einer unlösbaren Aufgabe stehen.

Toni Lorente ist Direktor für europäische KI-Governance bei The Future Society. Er ist Mitglied der OECD-Expertengruppe für KI-Risiken und -Verantwortlichkeit und wirkt im OECD.AI-Expertennetzwerk (ONE AI) mit. Außerdem ist er Mitglied des Ethik-Prüfungsausschusses am Bellvitge Biomedical Research Institute. Bevor er zu TFS kam, war er Gastwissenschaftler am Center for Human-Compatible AI (CHAI) der UC Berkeley.