Die Diskussion um Künstliche Intelligenz (KI) und Verteidigung drehte sich bisher meist um die Frage nach der Bewaffnung von Drohnen. Nachdem die Bewaffnung der Aufklärungsdrohne Heron TP beschlossen wurde, wird sich Deutschland nun vielmehr die Frage stellen müssen, wie viel Autonomie in Waffensystemen zulässig sein soll. Insbesondere dann, wenn eine Maschine autonom ist, das heißt, ohne menschliche Intervention über die Identifizierung und Bekämpfung militärischer Ziele entscheiden kann, stellen sich zahlreiche rechtliche, aber auch ethische Fragen.
Doch das ist nur eine Seite der Medaille. KI im militärischen Bereich muss nicht zwangsläufig zur Zielidentifizierung eingesetzt werden. So trägt sie beispielsweise zur erweiterten Lagebildplanung bei oder unterstützt bei der militärischen Logistik. Die Rolle des Menschen in der Kriegsführung von morgen muss folglich neu definiert werden – dafür braucht es einen von der Politik gesteckten Rahmen.
Politik wird zum Handeln aufgefordert
Solche politischen Richtlinien fordert jetzt auch der „Arbeitskreis KI & Verteidigung“, der vom Bundesverband der Deutschen Sicherheits- und Verteidigungsindustrie (BDSV) ins Leben gerufen wurde und sich zusammen mit dem Bundesverband der Deutschen Industrie (BDI), dem Bundesverband der Deutschen Luft- und Raumfahrtindustrie (BDLI) und Bitkom für die verstärkte Integration von KI im Verteidigungskontext einsetzt.
Mit einem kürzlich vorgestellten Impulspapier möchte die Gruppe Bewusstsein für das Thema der KI im militärischen Kontext in der Bevölkerung stärken. Die Autoren um den Hauptgeschäftsführer des BDSV, Hans Christoph Atzpodien, fordern beispielsweise, dass KI im militärischen Bereich zum Schutz von Soldaten eingesetzt werden sollte. Dies könne auch Waffensysteme mit autonomen Funktionen umfassen, vor allem dann, wenn schnelles Handeln erforderlich ist. Eine kontextspezifische Betrachtung einer verantwortungsbewussten KI soll folglich keine autonomen Tötungsroboter fördern, sondern vielmehr den Schutz der Truppe erhöhen und militärische Einsätze effizienter gestalten.
Bislang hat Deutschland jedoch kein Dokument verabschiedet, das den Umgang mit KI im militärischen Kontext regelt. Dabei hat die Enquete-Kommission Künstliche Intelligenz aus der vergangenen Legislaturperiode in Bezug auf Autonome Waffensysteme (AWS) bereits festgestellt, dass die Politik „ein sicherheitspolitisches Leitliniendokument zum militärischen Einsatz von KI“ erarbeiten müsse.
Nationale Strategie fehlt
Partnerstaaten, wie die USA, Frankreich, Großbritannien oder Luxemburg sind bereits tätig geworden. Sie verfügen entweder über entsprechende Strategien oder nationale Gesetze, die den Umgang mit KI im militärischen Kontext regeln. Seit fast zehn Jahren wird zudem auf Ebene der Vereinten Nationen in Genf über eine potenzielle Regulierung von AWS diskutiert.
Zentrale Frage ist hierbei, wie viel Kontrolle der Mensch über eine Maschine haben muss, damit diese in Einklang mit rechtlichen und ethischen Bestimmungen eingesetzt werden kann. Deutschland hat sich in diesen Debatten aktiv eingebracht, doch an einer nationalen Strategie zu AWS oder KI fehlt es bislang. Auch die Vereinten Nationen und das Internationale Komitee des Roten Kreuzes riefen dazu auf, sich auf eine Regulierung von AWS – am besten im Wege eines verbindlichen Vertrags – zu einigen.
Die Frage, wie mit AWS umgegangen werden soll, wird derzeit auch im Ersten Ausschuss der Generalversammlung in New York diskutiert. Österreich hat mit der Unterstützung einiger anderer Staaten, darunter auch Deutschland, eine Resolution vorgelegt, welche den verantwortungsvollen Umgang mit AWS zum Inhalt hat.
Elemente einer künftigen KI-Strategie für die Bundeswehr
Den positiven Aspekten der KI im militärischen Kontext, die eine ebenso wichtige Rolle spielen, widmete sich dieses Jahr der von den Niederlanden organisierte REAIM-Summit (Responsible Use of Artificial Intelligence in the Military). Dieser soll 2025 auf Einladung des südkoreanischen Außenministeriums abermals stattfinden.
Politiker, die Industrie sowie zivilgesellschaftliche Akteure sollen gemeinsam über den verantwortungsvollen Umgang mit KI im militärischen Kontext diskutieren. IEEE – der weltweit größte Berufsverband von Technikern beziehungsweise Ingenieuren – verfügt über eine eigene Forschungsgruppe, die sich mit Fragen zu Autonomie und KI im militärischen Bereich befasst.
In Anbetracht der hier skizzierten internationalen Entwicklungen sollte Deutschland daher dringend an einer Strategie zu KI im militärischen Kontext arbeiten, die drei Zwecke erfüllt. Zum einen könnte Deutschland so die internationalen Bemühungen über eine Regulierung Autonomer Waffensysteme beeinflussen und Bereitschaft signalisieren, sowohl die Gefahren von AWS, als auch die sinnvollen Anwendungen von KI im militärischen Kontext zu berücksichtigen.
Zweitens, wäre eine derartige Strategie auch für die heimische Industrie unerlässlich, um den Anschluss im internationalen Wettbewerb nicht zu verlieren und damit die europäische Souveränität zu stärken. Zuletzt ist es unerlässlich, einen gesellschaftlichen Diskurs über einen verantwortungsvollen Umgang mit KI im Verteidigungskontext proaktiv zu begleiten und so die Zeitenwende nachhaltig mitzugestalten.
Die Pfeiler einer KI-Strategie
Eine künftige KI-Strategie für die Bundeswehr sollte sich an folgenden Punkten orientieren. Zunächst muss der Mensch im Zentrum der Entscheidungsfindung stehen und zwar unabhängig davon, welche Technologie zum Einsatz gelangt. Hierbei müssen sowohl der Schutz der eigenen Kräfte als auch jener der Zivilisten Vorrang genießen.
Eine nationale KI-Strategie sollte sich auf einige wenige Prinzipien fokussieren, die den Handlungsrahmen menschlicher Entscheidungsträger abstecken. Zurückführbarkeit, Administrierbarkeit und Vorhersehbarkeit gehören zu den wichtigsten Prinzipien. Diese allgemeinen, von der Politik vorgegebenen Rahmenbedingungen für militärische KI müssen dann in den Streitkräften umgesetzt werden und sollten in den entsprechenden Einsatzregeln niedergeschrieben sein.
Wichtig ist auch, dass beim Einsatz von KI im militärischen Kontext immer der gesamte Lebenszyklus eines entsprechenden Systems berücksichtigt werden muss. Dies beginnt bereits bei der Industrie beziehungsweise bei den Ingenieuren. Eine enge Abstimmung mit Partnern in der Industrie trägt signifikant dazu bei, dass KI im militärischen Kontext sinnvoll und verantwortungsbewusst eingesetzt werden kann.
Bereits in einer frühen Phase sollte feststehen, für welche Zwecke ein System in Zukunft eingesetzt werden soll. Sobald eine Maschine in Bereichen zum Einsatz gelangt, im Rahmen derer über Leben und Tod entschieden wird, muss das Ausmaß menschlicher Kontrolle besonders hoch sein. Das militärische Personal muss entsprechend geschult werden und es sollte dahin gehend sensibilisiert werden, dass auch automatisierte Entscheidungen fehlerhaft, falsch oder irreführend sein können.
Ziel einer KI-Strategie für die Bundeswehr sollte daher sein, neben einer Diskussion über die jeweiligen Risiken von Autonomen Waffensystemen auch den positiven Nutzen von KI im militärischen Bereich zu adressieren. Denn nur ein differenzierter Ansatz, der sich klar von stereotypischen „Killerrobotern“ unterscheidet, ist imstande, die Verteidigungsfähigkeit Deutschlands, aber auch entsprechende gesellschaftliche Werte zu garantieren beziehungsweise aufrechtzuerhalten.
Die Zeit ist reif für einen politischen Prozess zur Förderung verantwortungsvoller KI für die Bundeswehr, damit diese aktuellen Veränderungen auch Schritt halten kann und ihre künftigen Aufgaben vollumfänglich wahrnehmen wird.
Elisabeth Hoffberger-Pippan ist Senior Researcher am Peace Research Institute Frankfurt (PRIF), Vanessa Vohs ist Research Associate an der Universität der Bundeswehr München.
