Claude Mythos Preview : Mensch, Maschine – und das deutsche Computerstrafrecht

Anthropics KI-Modell „Mythos“ sorgt für Schlagzeilen. Es soll so gut darin sein, Sicherheitslücken in Software zu entdecken, dass es – wegen Sicherheitsbedenken – nur ausgewählten Organisationen zugänglich gemacht wird. Wie dem Firefox-Team von Mozilla, das anschließend von der beeindruckenden Effektivität des KI-Systems beim Suchen und Finden von Softwarefehlern berichtete: 271 Bugs, darunter 180 als kritisch eingestufte Schwachstellen, identifizierte Mythos. Demgegenüber standen 41 externe Meldungen aus dem Mozilla-Bug-Bounty-Programm, das Sicherheitsforschende mit bis zu 20.000 US-Dollar pro gemeldeter Sicherheitslücke belohnt.

Insgesamt wurden im April 423 Sicherheitslücken, die durch einen nicht ganz absichtlich symbiotischen Einsatz von Mensch und Maschine identifiziert worden waren, gepatcht, teilte Mozilla mit. Zum Vergleich: Im Vormonat waren es 76. Eine Steigerung um fast 460 %.

Natürlich sind solche Zahlen eine hervorragende Werbung für Anthropic. Zugleich aber zeichnen sie ein weniger schmeichelhaftes Bild der Sicherheit in der Softwareentwicklung von Mozilla et al.. „Diese Entwicklung macht die über Jahrzehnte angehäuften technischen Schulden deutlich, die von einer Softwarebranche verursacht wurden, die eine schnelle Bereitstellung über Secure-by-Design-Entwicklungspraktiken gestellt hat“, kommentierte der US-Sicherheitsguru Bruce Schneier. Sollten die betroffenen Unternehmen dennoch eine Lehre aus Sicherheitstests wie diesen ziehen (ja, Applikationssicherheit beziehungsweise Qualität und Sicherheit im Software Engineering gehören zum ISMS), so darf es bei einmaligen exorbitanten Ergebnissen der KI-Such-und-Find-Aktion bleiben. Auf viele Schwachstellen folgt Patchen, auf bessere Sicherheit folgen weniger Schwachstellen.

Behörden reagieren verhalten

Von sicheren IT-Systemen profitieren alle – auch die Prüferinnen und Prüfer, die Testerinnen und Tester profitieren von neuen Methoden und Werkzeugen -, und die KI ist aus den Freigabeprozessen nun kaum noch wegzudenken.

Eigentlich.

Denn die Reaktionen der Behörden fielen wenig euphorisch aus: Das US-amerikanische National Institute of Standards and Technology (NIST) gab nahezu zeitgleich mit dem Mythos-Medienrummel bekannt, die Bewertung von IT-Sicherheitslücken mit den sogenannten CVSS-Schweregraden (Common Vulnerability Scoring System) weitgehend einzustellen. Sofort. Als einer der Gründe wurde die steigende Anzahl unbearbeiteter Meldungen in der National Vulnerability Database (NVD) genannt: 263 % mehr zwischen 2020 und 2025.

Auch das Bundesamt für Sicherheit in der Informationstechnik (BSI), das in Deutschland die zentrale Meldestelle für IT-Sicherheitsvorfälle und Schwachstellen, das Melde- und Informationsportal (MIP), betreibt, reagierte verhalten. Man erwarte „Umwälzungen im Umgang mit Sicherheitslücken und in der Schwachstellenlandschaft insgesamt“, sagte BSI-Präsidentin Claudia Plattner. Dies würde eine Verschiebung der Angriffsvektoren und einen Paradigmenwechsel mit Blick auf die Cyberbedrohungslage zur Folge haben.“

Auch wenn man den unglaublich effektiven KI-Systemen die Schuld dafür geben möchte, dass die Behörden der Lawine KI-generierter Meldungen zu Sicherheitslücken und Schwachstellen nicht mehr nachkommen können (oder werden), liegen die Ursachen für ihre eher verhaltenen Reaktionen vermutlich anderswo.

Bei der NIST nennt man das Problem beim Namen: Die Organisation „bekommt nicht genügend Budget für den Betrieb der NVD“. Die Zahl der Meldungen stieg – auch schon ohne Mythos – kontinuierlich an, während die Personalressourcen für die Prüfung und Bewertung der gemeldeten Schwachstellen offenbar nicht gewachsen sind. Hinzu kommt die Kritik des US-Bundesrechnungshofs: Die Berechnung der CVSS-Werte sei häufig unnötig, da die Herausgeber der jeweiligen Software bereits selbst einen CVSS-Wert angeben. Es heißt, dass die NIST durch die Einstellung der eigenen CVSS-Bewertungen innerhalb von zwei Jahren rund 800.000 US-Dollar einsparen könnte.

Meldewege mit Hürden

Ob die Ressourcenlage beim BSI ähnlich aussieht – und ob sie bei der vorsichtigen Reaktion der Präsidentin auf die drohende Überflutung mit KI-generierten Meldungen eine Rolle gespielt hat –, lässt sich von außen nur schwer einschätzen. Tatsächlich betreibt das BSI seit der Umsetzung der NIS-2-Richtlinie seine zentrale Meldestelle für IT-Sicherheitsvorfälle als „gemeinsame“ Meldestelle des BSI und des Bundesamtes für Bevölkerungsschutz und Katastrophenhilfe (BBK). Gemeldet werden sollen dort eigentlich ausschließlich „erhebliche“ Sicherheitsvorfälle. Wie diese von gewöhnlichen Vorfällen zu unterscheiden sind? Hierzu bereitet das BSI nach eigenen Angaben eine Verordnung vor.

Erstaunlich bleibt zudem, mit welcher Beharrlichkeit die Bundesregierung Anregungen zur Vereinheitlichung und Vereinfachung der Meldepflichten für Sicherheitsvorfälle, IKT-Vorfälle und Datenpannen ignoriert hat – und das quer durch die Beratungen zur NIS-2-Umsetzung hindurch. Obwohl entsprechende Vorschläge aus der Zivilgesellschaft und aus dem Bundesrat vorlagen.

Bei all den Bekundungen und Begründungen, weshalb diese Meldungen für die nationale Sicherheit und die Bewertung der Gesamtsicherheitslage notwendig sind – die nicht oder verspätet abgegebene Meldungen als Ordnungswidrigkeit sind bußgeldbewehrt– erstaunt es doch ein wenig, welche zusätzlichen Hürden für die Meldung von Sicherheitsvorfällen im Meldeportal geschaffen wurden: Die meldende Organisation muss nicht nur unverzüglich, spätestens binnen 24 Stunden, melden, sondern sich hierfür mittels Elster-Zertifikat identifizieren (zuvor genügte die Benennung eines Single Point of Contact, SPOC). Die geschätzte Wartezeit für die Ausstellung eines Zertifikats beträgt schon mal rund zwei Wochen.

BSI soll Daten automatisch beziehen

Doch damit nicht genug. Das Bundesinnenministerium möchte die Daten künftig möglichst direkt bei den Betreibern abgreifen – etwa aus den Systemen zur Angriffserkennung (SzA). Der Entwurf des Gesetzes zur Stärkung der Cybersicherheit sieht vor, dass diese Systeme, zu deren Einrichtung Betreiber kritischer Anlagen verpflichtet sind und in denen eine Vielzahl von Daten anfällt, „deren Auswertung für die Erkennung und Abwehr von Cyberangriffen sehr wertvoll“ ist und „die Betreiber selbst verarbeiten, um Angriffe frühzeitig und in großem Umfang zu erkennen“, an das BSI angebunden werden. „Durch eine betreiberübergreifende Auswertung durch das BSI wird die Sicht auf die aktuelle Bedrohungslage und der Schutz der Bundesverwaltung sowie von besonders wichtigen und wichtigen Einrichtungen erheblich verbessert“, heißt es in der Begründung (S. 63).

Einerseits werden immer mehr sicherheitsrelevante Daten automatisch „angezapft“. Andererseits erhöht der Staat die Komplexität der Meldeverfahren und baut zusätzliche Hürden für das selbstinitiierte Melden durch Unternehmen auf. Sicherheitsforschende müssen darüber hinaus auch noch damit rechnen, dass man sich für ihre Hinweise und Schwachstellenmeldungen nicht mit einem Dank, sondern mit Sanktionen, Strafanzeigen oder gar Hausdurchsuchungen revanchiert.

Wasch mich, aber mach mich nicht nass?

Das wird eher nicht funktionieren. Falls die Bundesregierung an einem möglichst vollständigen Bild der Sicherheitslage interessiert ist – was in verschiedenen Sicherheitsgesetzen stets betont wird –, dann sollte sie diejenigen, die Sicherheitsvorfälle und Schwachstellen melden, zur Meldung motivieren statt sie abzuschrecken. Dazu gehört zunächst, die Meldeverfahren für Organisationen zu vereinfachen und zu entbürokratisieren. Dazu gehört aber auch, die seit Jahren kritisierten „Hackerparagraphen“ – gemeint ist vor allem § 202c StGB (Vorbereiten des Ausspähens und Abfangens von Daten), aber auch § 202a StGB (Ausspähen von Daten) und § 202b StGB (Abfangen von Daten) – zumindest so zu reformieren, dass legitime Sicherheitsforschung nicht länger in einer rechtlichen Grauzone stattfindet.

Die Meldung von Schwachstellen über das MIP ist zwar weiterhin anonym möglich. Allerdings schützt dies die Sicherheitsforschenden in der Praxis nur selten vor Repressionen oder rechtlichen Schritten seitens der betroffenen Hersteller oder Anbieter. So etwa geschehen, als Lilith Wittmann im Mai 2021 auf Sicherheitslücken in der Wahlkampf-App „CDU connect“ hinwies. Daraufhin erstattete die CDU Strafanzeige gegen Wittmann. Der Strafverteidiger der Sicherheitsforscherin, Carsten R. Hoenig, hat den Vorfall in seinem Beitrag „Shooting the Messenger“ aufgegriffen.

Mit zweierlei Maß

Das eigentliche Problem besteht offenbar nicht darin, dass die durch Mythos identifizierten Sicherheitslücken unbekannt waren oder bislang „übersehen“ wurden, wie es „Der Spiegel“ formulierte, sondern darin, dass ihre Meldung durch Menschen anders behandelt wird als ihre Entdeckung durch KI-Systeme. Wenn eine KI Schwachstellen identifiziert, bleibt Herstellern kaum etwas anderes übrig, als zu patchen. Wenn hingegen Sicherheitsforschende dieselben Lücken melden, folgt erfahrungsgemäß – zumindest in Deutschland – nicht etwa mehr oder bessere Sicherheit, sondern zunächst eine Strafanzeige. Ermöglicht wird dies unter anderem durch die genannten „Hackerparagraphen“.

So gesehen dürften die politischen Folgen des Mythos-Hypes interessant werden. Denkbar sind zwei Wege: Entweder man reduziert die rechtlichen Risiken für Menschen, die Sicherheitslücken verantwortungsvoll melden, und etabliert ein Responsible-Disclosure-Verfahren, wie es in anderen Ländern bereits praktiziert wird. Oder man beginnt darüber nachzudenken, wie sich das deutsche Strafrecht perspektivisch auf autonome Systeme, Maschinen und LLMs ausweiten ließe.

Für die zweite Option liefert Asimovs „Der zweihundertjährige Mensch“ ein passendes Szenario. Bis zur juristischen Anerkennung von Robotern als Personen – und damit auch ihrer Strafbarkeit – dürften allerdings noch einige Präzedenzfälle und eine Anwaltsdynastie erforderlich sein. Von einem zweihundertjährigen Zeithorizont auszugehen, scheint dabei ebenfalls realistisch.

Aleksandra Sowa ist zertifizierte Datenschutzbeauftragte. Sie leitete das Horst-Görtz-Institut für Sicherheit in der Informationstechnik, ist Sachverständige für IT-Sicherheit im Innenausschuss des Bundestages und Mitglied der Grundwertekommission der SPD.

In unserer Kolumnenreihe „Perspektiven“ kommentieren unsere Autor:innen regelmäßig aktuelle Entwicklungen, Trends und Innovationen im Bereich Cybersicherheit. Zuletzt von Sowa erschienen: Zugriffskontrollen als neues Allheilmittel der Datenschutzaufsicht?