Schwachstellen : Die KI findet die Lücken – offen lassen wir sie selbst.

Die Inszenierung von „Claude Mythos“, dem neuesten KI-Modell des Softwarehauses Anthropic, war atemberaubend. Das Werkzeug soll voll automatisiert kritische Schwachstellen in Tausenden IT-Systemen finden. Der Hersteller hält seine Entwicklung für so gefährlich, dass er sie streng unter Verschluss hält; nur wenige Organisationen haben Zugriff. So soll massenhafter Missbrauch verhindert werden. Im Falle einer Veröffentlichung, heißt es, schrumpfe das Zeitfenster zur Schadensabwehr: Statt Tagen blieben Administratoren nur wenige Stunden, um Systeme zu patchen. Ein Exportverbot der US-Regierung, das Anthropic Auslandsangebote untersagt, unterstreicht die Tragweite. Was wie Schadensabwehr wirkt, ist jedoch auch Signal und Machtdemonstration gegenüber Anthropic, der Tech-Szene und dem Ausland. Souveränitätsdebatten folgten.

So plausibel diese Szenarien klingen, so dringend braucht es Nüchternheit. Die Debatte wirkt stärker von Hysterie geprägt als von Analyse. Sie steht in der Gefahr, die öffentliche Diskussion auf eine falsche Fährte zu bringen, und birgt das Risiko, dass dringend benötigte (finanzielle) Ressourcen für die Cyberverteidigung fehlgeleitet werden. Wir müssen nüchtern analysieren, was künstliche Intelligenz in der IT-Sicherheit strukturell verändert – und was eben nicht. Die akute Bedrohung ist real. Staatlich gelenkte Akteure aus Russland und China bauen hybride Angriffe kontinuierlich aus. Doch wer glaubt, feindliche Dienste seien dafür auf hypothetische Werkzeuge wie „Claude Mythos“ angewiesen, verkennt die Lage.

Das Problem unserer digitalen Infrastruktur ist derzeit nicht die massenhafte Entdeckung neuer Schwachstellen durch generative KI. Mythos und die entschärfte Version Fable 5 zeigen deutliche Verbesserungen über viele Aufgaben hinweg, aber keine Sprünge um Größenordnungen. Das Modell liefert, was zu erwarten ist, wenn bestehende Ansätze mit größeren Datensätzen und Parametermengen trainiert werden. Dennoch ist der Fähigkeitszuwachs aktueller Modelle beeindruckend, wird sich fortsetzen und den Druck auf die Cybersicherheit erhöhen.

Cybersicherheit kaum verankert

Viele Systeme beruhen auf historisch gewachsenen Codebasen aus einer Zeit, in der neue Funktionen und schnelle Distribution wichtiger waren, als Verifikation und Codequalität. Diese Priorisierung zeigt sich auch daran, dass verpflichtende Grundausbildung in Cybersicherheit in deutschen Informatikstudiengängen kaum verankert ist. Dieser Ansatz funktionierte, solange menschliche Entwickler Programmcode nicht in großem Maßstab untersuchen und Fehler aufdecken. Das hat sich nun geändert: KI beginnt, genau diese Fähigkeit bereitzustellen und komplexe Zusammenhänge im Code zu erkennen, die nur wenige Experten entdeckt hätten.

Das Kernproblem ist daher weniger die KI als ein historisch nachlässiger Umgang mit Cybersicherheit und ein gravierendes Umsetzungsdefizit bei bekannten Risiken. Patch-Management, also das Einspielen von Sicherheitsupdates, dauert quälend lange. Empirische Daten zeigen ein alarmierendes Bild: Nach 30 Tagen haben Unternehmen erst 15 Prozent der gefundenen Sicherheitslücken geschlossen, obwohl bereits eine Lösung bereitsteht. Nach 55 Tagen, fast zwei Monaten, hat erst die Hälfte der betroffenen Institutionen das notwendige Update implementiert.

Für Angreifergruppen ist diese Trägheit ein Scheunentor. Sie brauchen für Angriffe auf sensible Netze meist keine Spezial-KI. Auch setzen sie meist keine Zero-Days ein, also unbekannte, auf dem Schwarzmarkt wertvolle Schwachstellen – ein Wert, den jeder Einsatz gefährdet. Oft genügen öffentlich bekannte Lücken, für die seit langer Zeit Updates existieren, aber ignoriert wurden. Forensische Auswertungen prominenter Hacks zeigen das regelmäßig. Ein exklusives KI-Modell ändert an der akuten Verwundbarkeit solcher Organisationen nichts. Wer die digitale Haustür unverschlossen lässt, wird nicht Opfer futuristischer Hightech-Angriffe, sondern vermeidbarer Fahrlässigkeit.

Schnelle Governance nötig

KI sollte deshalb Auslöser sein, Softwareentwicklung und Sicherheitsprozesse neu zu ordnen. Weil die Zeit zwischen Schwachstellenentdeckung und Ausnutzung immer weiter schrumpft – schon vor Mythos, getrieben durch den professionalisierten cyberkriminellen Untergrund –, müssen wir auch regulatorisch andere Wege gehen. Bestehende Prüf- und Zertifizierungsmodelle kosten Zeit, die wir nicht mehr haben. Wie so oft in der Cybersicherheit ist weniger die Technik als die Governance der Flaschenhals; sie hinkt dem Status quo gefährlich hinterher.

Das zeigt sich auch bei KI-Agenten, die Dokumente, Präsentationen oder Programmcode bearbeiten. OpenClaw und die Fehlgriffe eines durch Online-Bibliotheken erweiterbaren Werkzeugs zeigten, dass bösartige, von außen gesteuerte KI erheblichen Schaden anrichten kann. Doch auch ohne Angreifer bergen solche Tools Risiken: vom Abfluss interner Daten an US-Anbieter bis zu Vorfällen, in denen ein fehlgeleiteter Agent binnen Sekunden eine Produktionsdatenbank samt Backups löschte. Auch im Normalbetrieb entstehen Fehler. Eine Microsoft-Studie zeigte: Alle 19 untersuchten Modelle bauten bei der Bearbeitung unbeabsichtigt teils drastische Datenfehler ein. Die Dokumente wirkten korrekt; doch Zeilen fehlten, Spalten wurden umbenannt, nach längerer Bearbeitung waren im Schnitt 25 Prozent korrupt. KI-Agenten sind in vielen Unternehmen schon im Einsatz. Die Governance – Bewusstsein, Risikomanagement und verbindliche Regeln – fehlt oft, ist aber entscheidend für verantwortungsvolle Nutzung.

Wirtschaftlich orientierte Mystifizierung

Dass Anthropic Mythos als Geheimnis inszeniert, dürfte auch ökonomischen Interessen dienen: Das Unternehmen forciert seinen wohl im Herbst 2026 anstehenden Börsengang. Die Aura einer digitalen Waffe treibt im derzeitigen Tech-Klima den Marktwert. Das Muster ist bekannt: Schon 2019 erklärte Open AI, GPT-2 sei zu gefährlich für eine Veröffentlichung. Sieben Jahre später, bei GPT-5.5 und einem 1000x größerem Modell, wirkt das befremdlich. Auch Anthropics Forderung nach einem Moratorium verkennt die Lage; international ist sie wenig aussichtsreich und andernorts gescheitert. Bald dürften anderswo Modelle mit ähnlichen Fähigkeiten existieren, aber ohne vergleichbare Aufmerksamkeit. Der Geist ist aus der Flasche.

Statt Gefahren einer ohnehin nicht frei verfügbaren Software zu beschwören, müssen wir die Debatte auf das Wesentliche lenken: Wie stellen wir Systeme, Prozesse und Personal so auf, dass die organisatorische und technische Pflichtarbeit flächendeckend geleistet wird? Erst wenn digitale Hygiene in der Breite verankert ist, Updates binnen Stunden statt Monaten eingespielt werden und Cybersicherheit von Anfang an in Dienstleistungen und Produkten mitgedacht wird, haben wir das Fundament, um feindliche Staaten und Akteure in Schach zu halten. Alles andere ist fahrlässige Ablenkung.

Christian Dörr ist Professor und Leiter des Fachgebiets Cybersecurity – Enterprise Security am Hasso-Plattner-Institut (HPI). Außerdem ist er Vorsitzender der Potsdamer Konferenz für Nationale Cybersicherheit, die das nächste Mal am 24. und 25. Juni 2026 am HPI stattfindet.