Zum Inhalt springen

Innovation über Nacht : Kollateralschaden Human in the Loop

Robert Peters
Robert Peters
Marc Bovenschulte
Marc Bovenschulte
Robert Peters, Direktor des IIT, und Marc Bovenschulte, Bereichsleiter Industriepolitik und Foresight bei der VDI/VDE Innovation + Technik GmbH Foto: Annette Koroll, privat

Wenn Software die Welt verändert: Die Automatisierung militärischer Entscheidungsketten stellt nicht nur die Idee des „Human in the Loop“ grundsätzlich infrage, sondern auch das Prinzip, dass Nationalstaaten die Kontrolle über die Kriegsführung haben.

von Robert Peters, Institut für Innovation und Technik (IIT) & Marc Bovenschulte, VDI/VDE Innovation + Technik GmbH

veröffentlicht am

Lernen Sie den Tagesspiegel Background kennen

Sie lesen einen kostenfreien Artikel vom Tagesspiegel Background. Testen Sie jetzt unser werktägliches Entscheider-Briefing und erhalten Sie exklusive und aktuelle Hintergrundinformationen für 30 Tage kostenfrei.

Jetzt kostenfrei testen

Mit bestehendem Konto anmelden

Was eine Drohne können muss, zeigt sich an der Front. Ukrainische Drohnenoperatoren melden deutschen Herstellern, was im Einsatz gegen russische Streitkräfte fehlt oder nicht funktioniert. Entwickler beider Länder passen daraufhin Software, Sensoren und Hardware an.

Software-Updates lassen sich „over the air“ einspielen, ohne Rückkehr ins Werk. So wird Innovation buchstäblich über Nacht möglich: Am nächsten Morgen hat dieselbe Drohne neue Fähigkeiten. Moderne Fertigungsverfahren, modulare Designs und offene Standards beschleunigen auch die Neuentwicklung von Hardware. Von der technischen Idee zum Prototyp braucht es oft nur noch Wochen oder wenige Monate statt Jahren.

Neben Entwicklung, Produktion und Inbetriebnahme beschleunigt sich zudem das Einsatzgeschehen moderner Wehrtechnik. Software verbindet das Aufklären eines Ziels immer enger mit seiner Bekämpfung. Bei in der Ukraine erprobten Abfangdrohnen folgen auf menschliche Zielauswahl und Freigabe bereits autonome Identifikation, Verfolgung und Bekämpfung. Je schneller diese Abläufe werden, desto weniger Zeit bleibt für die menschliche Einflussnahme. Die Logik der militärischen Überlegenheit schafft deshalb einen Anreiz, dem System mehr Entscheidungen zu überlassen. Damit wird das Prinzip „Human in the Loop“ grundlegend infrage gestellt.

Der Human in the Loop ist tot

Zumindest als selbstverständliches Gestaltungsprinzip. „Human in the Loop“ heißt, dass der Mensch jede kritische Entscheidung trifft oder bestätigt. Dieses Prinzip wird zum Kollateralschaden der modernen Kriegsführung. Die unmittelbare Einflussnahme weicht zunehmend der Überwachung: Das System handelt selbstständig, der Mensch kann eingreifen. Er wird zum „Human on the Loop“.

Auch bei bloßer Überwachung braucht das Eingreifen Zeit. Werden Abläufe schneller, als ein Mensch sie beurteilen und stoppen kann, werden Kontrolle und Letztentscheidung im konkreten Vorgang unmöglich. Der Mensch legt vorab Ziele, Regeln und Grenzen fest, das System wiederum handelt im konkreten Vorgang ohne unmittelbaren menschlichen Eingriff.

Der „Human out of the Loop“ wird damit zunehmend zu einem prägenden Gestaltungsprinzip. Diese Logik beschrieben Ende der 1970er-Jahre Thomas B. Sheridan und William L. Verplank vom Massachusetts Institute of Technology (MIT) für Unterwasserroboter. Sie unterschieden Automatisierungsstufen: vom Computer ohne Unterstützung für den Menschen bis zum selbst entscheidenden Computer, der ihn nur informiert, wenn er es für notwendig hält.

Da der „Human out of the Loop“ zunehmend militärische Realität wird, verlagert sich die menschliche Einflussnahme von einzelnen Entscheidungen zur Systemgestaltung. Das Riskante daran: Im Krieg sind Fehlentscheidungen und Fehlfunktionen häufig tödlich. Sie lassen sich durch kein Update rückgängig machen.

Wer die Technik beherrscht

Der Einsatz autonomer Systeme unterliegt dem humanitären Völkerrecht. Einhaltung und Grenzziehung kann der Staat nur wirksam gewährleisten, wenn er die Technologie beherrscht und kontrolliert. Digitale und KI-basierte Kriegsführung erhöht jedoch den Einfluss von Privatunternehmen darauf, wie Krieg geführt wird.

Palantirs Maven-Plattform kann militärische Entscheidungsabläufe nach Angaben des US-Militärs von Stunden auf Minuten verkürzen. Sie unterstützt den OODA-Entscheidungsablauf (Observe, Orient, Decide, Act). Maven identifiziert automatisch potenzielle Ziele wie Fahrzeuge oder Personen und schlägt Maßnahmen oder Waffenzuweisungen vor. Wer Sensoren, Daten und Waffen durch Software verbindet, prägt die Handlungsmöglichkeiten des Militärs grundlegend. Private Unternehmen gewinnen damit immer größeren Einfluss.

Damit steht die Souveränität demokratischer Staaten zunehmend infrage: Der wachsende private Einfluss berührt ihren Kern, die Kontrolle über die Kriegsführung. Der Westfälische Frieden von 1648 steht als historischer Bezugspunkt für diese Ordnung souveräner Staaten. Aktuelle technische Entwicklungen weichen diese Kontrolle zumindest auf.

Verteidigungsfähigkeit braucht kontinuierliche Innovation

Verteidigungsfähigkeit lässt sich nicht allein an heutigen Software- und Plattformfähigkeiten messen. Jeder Entwicklungsstand kann im Einsatz rasch überholt sein, jedes Update Fähigkeiten und Kontrollmöglichkeiten verschieben. Kontinuierliche Erprobung und Anpassung können einen Zustand des „Permanent Beta“ schaffen, der eine verbindliche Grenzziehung zusätzlich erschwert.

Unter dem Stichwort „Software Defined Defence“ arbeitet die Bundeswehr bereits an schnelleren Updates und besserer Vernetzung. Das Verteidigungsministerium will Qualifizierung, Truppeneinführung und Nachsteuerung schon heute parallel durchführen. Das spart Zeit gegenüber strikt aufeinanderfolgenden Schritten.

Dazu müssen Verteidigungsministerium und Beschaffungsamt Entwicklung und Erprobung dauerhaft finanzieren. Teams aus Truppe, Unternehmen und Forschung brauchen Einsatzrückmeldungen und realistische Testumgebungen. Die zivile Innovationsförderung muss Systemintegration und Transfer in militärische Anwendungen unterstützen. Ein neuer Bedarf darf nicht erst auf das nächste große Beschaffungsprojekt warten.

Technische Kontrolle sichern

Ebenso wichtig sind offene Schnittstellen, Datenzugänge und Nutzungsrechte. Auftraggeber müssen sie vertraglich sichern, damit im Zweifel nicht allein der Lieferant über mögliche Anpassungen entscheidet. Der „Modular Open Systems Approach“ verbindet als Design- und Beschaffungsstrategie standardisierte, lose gekoppelte und modulare Systemstrukturen mit einem offenen Geschäftsmodell.

Jede relevante Änderung erfordert erneut den Nachweis, dass die Kontrolle wirksam bleibt. Einsatzgrenzen, nachvollziehbare Entscheidungen und Abbruchmöglichkeiten gehören deshalb in Entwicklung und Erprobung. Der Zeitdruck macht diesen Nachweis schwieriger, aber nicht entbehrlich.

Deutschland kann die Rolle des Menschen nur selbst bestimmen, wenn es militärische Entscheidungsketten auch technisch gestalten und verändern kann.

Marc Bovenschulte ist Bereichsleiter Industriepolitik und Foresight bei der VDI/VDE Innovation + Technik GmbH. Robert Peters ist Direktor des Instituts für Innovation und Technik (IIT). Gemeinsam beraten sie politische Entscheider, wie sich militärische und zivile Innovation stärken und in industrielle Wertschöpfung übersetzen lassen.

Lernen Sie den Tagesspiegel Background kennen

Sie lesen einen kostenfreien Artikel vom Tagesspiegel Background. Testen Sie jetzt unser werktägliches Entscheider-Briefing und erhalten Sie exklusive und aktuelle Hintergrundinformationen für 30 Tage kostenfrei.

Jetzt kostenfrei testen

Mit bestehendem Konto anmelden

Das könnte Sie auch interessieren