Kolumne : Vercybert zur KI-Nation
Auf dem Digitalgipfel 2026 haben Friedrich Merz und Karsten Wildberger das Zielbild „Deutschland als KI-Nation 2030“ vorgestellt. KI-Sicherheit kommt darin auf knapp zwei Seiten vor. Aleksandra Sowa zu den genauen Inhalten.
Lernen Sie den Tagesspiegel Background kennen
Sie lesen einen kostenfreien Artikel vom Tagesspiegel Background. Testen Sie jetzt unser werktägliches Entscheider-Briefing und erhalten Sie exklusive und aktuelle Hintergrundinformationen für 30 Tage kostenfrei.
Mit bestehendem Konto anmelden
In einem der ersten Versuche, auf die aktuellen Bedrohungen durch KI-Systeme zu reagieren und „in der ganzen Gesellschaft eine sichere, selbstbestimmte Nutzung ermöglichen“ zu wollen, hat die Bundesregierung im Sommer eine KI-Taskforce mit der Entwicklung eines Zielbildes beauftragt. Auf dem Digitalgipfel 2026 war es dann so weit: Bundeskanzler Friedrich Merz (CDU) und Digitalminister Karsten Wildberger (CDU) haben den Bericht „Deutschland als KI-Nation 2030“ vorgestellt.
Auf etwas weniger als 40 Seiten liefert der Bericht „den Weg“ zu einer starken und souveränen KI-Nation, die Deutschland schon 2030 werden soll. Hugging Face in den USA, ein Regierungsportal in Australien – das war erst der Anfang der Machtdemonstration von KI-Systemen, die in private und öffentliche Systeme unbeobachtet und unkontrolliert eindringen.
Kaum ein Tag ohne neue Warnungen
Das Thema KI-Sicherheit nimmt – und jetzt halten Sie sich fest – ganze zwei Seiten im Bericht „Deutschland als KI-Nation 2030“ ein. Drei, wenn man die Kennzahlen hinzurechnet. KI-Sicherheit beziehungsweise die sichere Nutzung von KI ist, das ist offensichtlich, nicht der primäre Fokus. Vorrangig geht es um den „Einsatz von Künstlicher Intelligenz in Wirtschaft und Verwaltung“ sowie um die Stärkung eigener technologischer Fähigkeiten.
Auf diesen Seiten geht es konkret darum, KI zur Unterstützung der Arbeit der Sicherheitsbehörden einzusetzen. Außerdem soll sichere, vertrauenswürdige und robuste KI im Jahr 2030 ein Markenzeichen des Innovations- und Technologiestandorts Deutschland sein. Was allerdings nicht heißt, dass es eine in Deutschland oder Europa entwickelte KI sein müsste. Zudem wird auf Organisationen wie das AI Safety and Security Institute Deutschland (AISI) oder Zitis gesetzt. Im Jahr 2030 ist AISI dann international eine der führenden Organisationen für Forschung und Evaluierung im Bereich KI-Sicherheit.
Das „Wimmelbild“ der deutschen IT-Sicherheitsarchitektur wird dadurch zwar nicht entwimmelt. Man möchte aber wenigstens, um „Doppelentwicklungen zu vermeiden“, auf eine „gemeinsame technische Fähigkeitsbasis“ zwischen den Sicherheitsbehörden setzen.
Große Pläne für das AISI
Darauf zielen gleich mehrere Kennzahlen. So soll der „Anteil von neuen Frontier AI Modellen, die das AISI auf sicherheitspolitische Auswirkungen innerhalb von vier Monaten untersucht und bewertet“, mindestens 75 Prozent betragen. Weitere Kennzahlen, für die es noch keine definierten Zielwerte gibt, scheinen ebenfalls auf die sicherheitspolitischen Ambitionen einzuzahlen: der Anteil der international relevanten Organisationen der KI-Sicherheitsforschung, mit denen das AISI bei der Modellbewertung vernetzt ist, sowie der Anteil der Beschäftigten in Sicherheitsbehörden, die KI-Systemen einen maßgeblichen Beitrag zu ihrer Analyse-, Entscheidungs- und Einsatzfähigkeit zuschreiben.
Die beiden zuletzt genannten Kennzahlen sowie eine weitere, auch ohne Zielwert, die den Anteil der Sicherheitsexpert:innen erfassen will, die Deutschland als technologisch führend bei KI in der Verteidigung einschätzen, adressieren einen weiteren Aspekt: die Verteidigung. Im Jahr 2030 ist Deutschland „ein technologisch führender Akteur im Bereich KI in Sicherheit und Verteidigung sowie in Dual-Use-Anwendungen“.
Auch ein „Management von KI-Risiken für die nationale Sicherheit“ soll etabliert sein. Klingt nach einer gewissenhaften Umsetzung der KI-Verordnung. Ist es aber nicht. Denn KI-Systeme, die ausschließlich für Zwecke im Bereich des Militärs, der Verteidigung oder der nationalen Sicherheit entwickelt oder eingesetzt werden, fallen nicht in den Anwendungsbereich des AI Act.
Bürokratiearm und gefühlt ausreichend
Auch wenn die Regulierung des Einsatzes von KI im Militär- und Verteidigungsbereich im Ermessen der Mitgliedstaaten bleibt, wirkt die KI-Nation vom AI Act nicht ganz überzeugt. Zwar soll Deutschland über „einen klaren, europäisch eingebetteten Rechts- und Ordnungsrahmen zur Gewährleistung von KI-Sicherheit“ verfügen, doch die Umsetzung der KI-Verordnung soll „bürokratiearm“ erfolgen: Mindestens 65 Prozent der Bevölkerung und Unternehmen sollen den bestehenden Rechtsrahmen für einen sicheren KI-Einsatz als ausreichend einschätzen. Und mindestens 80 Prozent der „KI-nutzenden Unternehmen“ sollen über eine „systematische KI-Risikobewertung und -klassifizierung“ verfügen.
Bemerkenswert ist daher die Kennzahl, bei der es um die „mittlere Dauer zwischen Feststellung eines schweren KI-Vorfalls und dessen Meldung an die zuständige nationale Meldestelle“ geht. Diese soll höchstens 72 Stunden betragen.
Warum? Weil die Fristen für die Meldung von Sicherheitsvorfällen im AI Act festgelegt und Verstöße dagegen strafbewehrt sind. Für schwerwiegende Vorfälle mit Hochrisiko-KI-Systemen gelten unterschiedliche Meldefristen. Außerdem existiert in Deutschland eine Reihe paralleler Meldepflichten für schwerwiegende oder erhebliche Sicherheitsvorfälle, die teilweise eine Erstmeldung innerhalb von 24 Stunden oder „unverzüglich“ vorschreiben.
Das wirft Fragen auf: Impliziert die Kennzahl, dass es eine Reihe von Einrichtungen geben wird, für die diese Vorgaben nicht gelten? Oder dass man eine durchschnittliche Meldezeit von bis zu 72 Stunden für ausreichend hält? Wie das der nationalen Sicherheit zuträglich sein soll, ist fraglich.
Der Staat als Großkunde
Und schließlich die Kennzahl, in der der „Anteil KI-nutzender Unternehmen mit vorhandenen Testaten, Zertifikaten oder anderen technischen Sicherheitsprüfungen ihrer KI-Systeme“ auf mindestens 80 Prozent gesetzt wird. Bleibt zu hoffen, dass die Bundesregierung nicht auf die Idee kommt, selbst die KI-Systeme zu zertifizieren und damit etwa einen dritten Weltkrieg auszulösen, wenn eine mit einem BRD-Stempel versehene KI Amok läuft oder in die Regierungssysteme anderer Länder einbricht.
Klingt wie eine Einkaufsliste für die KI-Firmen, die nun fest mit Aufträgen von deutschen Sicherheitsbehörden, Militär oder Unternehmen rechnen dürfen? Wenn das so ist, dann auch dank einer Zieldefinition, die den Staat und seine Verwaltung als Großbeschaffer der KI positioniert. Mit ihr soll Innovations- und Technologiestärke demonstriert werden. Bürger:innen wird lediglich die Rolle der Nutzer:innen von KI-Tools zugestanden: Sie sollen mit KI-Kompetenzen ausgestattet werden. Nicht zuletzt, um einen Teil der Verantwortung zu tragen. „Die Bevölkerung leistet einen wesentlichen Beitrag zur KI-Sicherheit“, die „nicht ausschließlich Aufgabe spezialisierter Institutionen“ sei.
Sicherheit nach Gefühl
Zahlen und Kennzahlen wirken seriös, aber nur, wenn sie das Ziel wirklich abbilden. Gute Ziele sind SMART: spezifisch, messbar, akzeptiert, realistisch und terminiert. Ziele ohne Messgröße oder mit reiner Stimmungsabfrage taugen selten. Genau diese Kritik hat der Bundesrechnungshof an der Cybersicherheit der Bundesregierung geübt. Die Evaluierung der Cybersicherheitsstrategie 2021 ließ die Bundesregierung unberücksichtigt und kündigte nur an, die Erkenntnisse bei der Fortschreibung zu berücksichtigen. Hat die Bundesregierung die Kritik und ihre eigene Absichtserklärung, es künftig besser zu machen, vergessen?
Laut ihren FAQs sieht die Bundesregierung einen Zusammenhang zwischen KI und Cybersicherheit. Das Thema soll aber auf europäischer Ebene geregelt werden. Zur KI-Sicherheit soll nun zunächst die Stimmung erhoben werden. Doch es geht um Meinungsfragen, nicht um Ziele mit messbaren Ergebnissen.
Sicherheit nach Gefühl? Das sagt nicht nur über das deutsche Verhältnis zu Zahlen einiges aus, sondern auch über das Verständnis der Bundesregierung von KI-Sicherheit. Bisweilen sieht es danach aus, dass die KI-Nation eine Technologie, die sie nicht kontrollieren kann, nutzen soll. Und im Falle einer KI-Apokalypse wird nach diesen Kennzahlen niemand schuld sein – nicht die Politiker, nicht die KI-Firmen –, bis auf den Hans-Jürgen vielleicht, der sein Passwort für Bund ID nicht aktualisiert hat.
Lernen Sie den Tagesspiegel Background kennen
Sie lesen einen kostenfreien Artikel vom Tagesspiegel Background. Testen Sie jetzt unser werktägliches Entscheider-Briefing und erhalten Sie exklusive und aktuelle Hintergrundinformationen für 30 Tage kostenfrei.
Mit bestehendem Konto anmelden