Wer sichert das Fundament? : Warum KI-Souveränität bei Open-Source-Maintainern beginnt

Sieben Meldungen in 16 Stunden, jede klang nach einer Sicherheitslücke, keine war eine. So sah im Januar eine Woche für Daniel Stenberg aus. Er ist Gründer und wichtigster Maintainer von cURL, einem Open-Source-Programm, das Daten durchs Netz überträgt und in über 20 Milliarden Installationen steckt, vom Smartphone bis zum Rechenzentrum. Ende Januar zog das Projekt die Konsequenz und beendete nach knapp sieben Jahren sein Bug-Bounty-Programm, das Prämien für gemeldete Sicherheitslücken zahlte. Die Flut KI-generierter Meldungen hatte die echten Funde unter sich begraben. Kaum jemand außerhalb der Fachwelt kennt cURL, und doch gehört es zu dem Fundament, auf dem Europas KI-Zukunft gebaut wird.

Chips und Rechenzentren sind nur die Spitze des Eisbergs

Wenn über KI-Souveränität gesprochen wird, geht es meist um Chips, Rechenzentren und Sprachmodelle. Das ist allerdings nur die Spitze des Eisbergs. Laut Linux Foundation setzen 89 Prozent der Organisationen, die KI nutzen, auf Open-Source-Komponenten: Betriebssysteme, Programmiersprachen, Paketverzeichnisse und Bibliotheken.

Dieses Fundament hängt an erstaunlich wenigen Menschen. Laut einer Studie der Harvard Business School gehen 96 Prozent des wirtschaftlichen Werts von Open Source auf nur fünf Prozent der Entwickler:innen zurück, wenige tausend Personen weltweit. Die Nutzung dagegen explodiert: Das Python-Paketverzeichnis PyPI verzeichnete 2025 rund 805 Milliarden Downloads, die Hälfte mehr als im Vorjahr, getrieben durch KI. Python ist eine zentrale Sprache der KI-Entwicklung; über PyPI beziehen Forschung, Unternehmen und zunehmend KI-Agenten selbst die Bausteine, mit denen Modelle trainiert und betrieben werden.

Weitreichende Verschiebungen

Dieses ohnehin prekäre Fundament bröckelt im Zeitraffer, ausgerechnet unter dem Druck der KI, die darauf aufbaut. Das zeigt sich in drei Verschiebungen.

1. Finden ist einfacher geworden, beheben nicht. KI spürt Sicherheitslücken in einem Tempo auf, mit dem kaum jemand gerechnet hat. Projekte wie cURL ertrinken deshalb in automatisch erzeugten Meldungen, in denen echte Funde untergehen. Bezahlt wurde bisher das Finden, nicht das Patchen von Sicherheitslücken. Gleichzeitig können Angreifer mittels KI Sicherheitslücken schneller und einfacher ausnutzen.
2. Sicherheit entsteht nicht mehr allein im Modell, sondern in seiner Umgebung, zum Beispiel durch begrenzte Rechte, Protokollierung und Kontrolle. Bei Open-Source-Technologien ist der Code-Review ein wesentlicher Sicherheitsmechanismus, meist von Ehrenamtlichen getragen. Maintainer:innen geraten massiv unter Druck, müssen sie doch die von Agenten eingereichten massenhaften Beiträge weiterhin von Hand prüfen. Die Verantwortung nimmt ihnen aber kein KI-Agent ab. Cyber Resilience Act und KI-Verordnung binden Pflichten an Menschen und Organisationen. Je autonomer Agenten werden, desto wichtiger werden die Menschen, die sie kontrollieren.
3. Maintainer:innen werden sichtbar und damit zur Zielscheibe von Angriffen. Lange arbeiteten sie im Verborgenen, heute gilt ihre Arbeit endlich als kritische Ressource. Doch Sichtbarkeit macht angreifbar. Wo Attacken fast nichts mehr kosten, gibt es kein Projekt mehr, das zu klein dafür ist. Das setzt auch den Nachwuchs unter Druck, den das Open-Source-Ökosystem so dringend braucht.

Was KI-Souveränität wirklich stärkt

Die Last für die Sicherheit von KI-Modellen und aller digitalen Dienste, auf denen die globale Wirtschaft und moderne Gesellschaften aufbauen, tragen die Open-Source-Komponenten ihres Fundaments. Dieses Fundament zu stärken, ist der Auftrag der Sovereign Tech Agency, die heute fünf Jahre Engagement für offene digitale Infrastrukturen feiert. Aus den vielen Investitionen ins Open-Source-Ökosystem haben wir einiges gelernt, auch für die kommenden Herausforderungen durch KI.

Etwa bei Sicherheitslücken den Fokus zu verschieben: weg vom Finden, hin zum Beheben und Vorbeugen. Das Sovereign Tech Resilience Programm setzt dies bereits mit Sicherheitsaudits und Bug-and-Fix-Bounties um.

Auch die Kontrollschicht ist zu stärken. Maintainer:innen brauchen bessere Hilfswerkzeuge: Paketverzeichnisse wie PyPI, Build- und Prüfinfrastruktur sowie Reproducible Builds, die belegen, dass im fertigen Programm genau der geprüfte Code steckt. Diese müssen als kritische Infrastruktur betrachtet und entsprechend langfristig finanziert werden. Der Sovereign Tech Fund ist hier aktiv, doch weitere Investitionen sind dringend notwendig.

Letztlich müssen wir die Menschen bezahlen, die Code überprüfen, Sicherheits-Triage leisten und ihr Wissen weitergeben. Sie leisten Care-Arbeit für unsere digitale Infrastruktur. Das Sovereign Tech Fellowship tut genau das, doch solche Programme sind noch die Ausnahme.

Die Macht von KI-Systemen ist keine Naturgewalt, sondern eine Entscheidung, die wir als Gesellschaft treffen. Souveränität bedeutet auch, Alternativen zu haben, wenn Frontier-Modelle auf einmal abgeschaltet werden, wie letzten Juni, als die neusten Modelle von Anthropic von einer US-Exportkontrolle zurückgehalten wurden. Mit offener Software lassen sich solche Alternativen bauen. Ihr Code darf genutzt, verändert und weitergegeben werden. Wir können ihn prüfen, selbst betreiben und abspalten. Doch diese Freiheiten sind nur so viel wert wie die Menschen, die sie nutzbar halten.

Die eigentliche Infrastrukturfrage unserer Zeit ist also nicht, wer das beste Modell hat, sondern wer das Fundament darunter pflegt und finanziert. Nur wer Open-Source-Projekte langfristig unterstützt, die prekäre Lage von Maintainer:innen versteht und ihren Bedürfnissen gerecht wird, sichert auch Europas KI-Souveränität.

Marcel Lotz leitet den Sovereign Tech Fund der Sovereign Tech Agency, Deutschlands Investitionsprogramm für kritische Open-Source-Infrastruktur.