Digitale Ermittlungsbefugnisse : Trainingsermächtigung, KI-Verordnung und digitale Souveränität

Das Kabinett Merz hat mit dem Gesetzespaket zur Stärkung digitaler Ermittlungsbefugnisse eine überfällige Weichenstellung vorgenommen. Erstmals wird eine Befugnis zum Testen und Trainieren von KI-Systemen für das Bundeskriminalamt und die Bundespolizei geschaffen. Das Ziel ist richtig, der Weg ist es in Teilen nicht. Die Gesellschaft für Freiheitsrechte (GFF) hat in ihrer Stellungnahme Einwände dargelegt, die der Gesetzgeber nicht ignorieren sollte. Denn das Argument für eine Trainingsermächtigung wird nicht schwächer, wenn man die Schwächen des Entwurfs benennt. Es wird stärker.

Das Paradox der KI-Verordnung

Wer KI-Systeme im Bereich Gefahrenabwehr oder Strafverfolgung einsetzt, bewegt sich partiell im Hochrisiko-Bereich der KI-Verordnung. Für Anbieter und Betreiber gelten hochkomplexe Anforderungen. Fest steht, dass die noch unscharfen Anforderungen nur dann erfüllt werden können, wenn ein System mit realistischen Daten trainiert und getestet worden ist. Andernfalls sind Transparenz, Genauigkeit und die Vermeidung von Bias nicht zu gewährleisten. Die von der KI-Verordnung vorgeschriebene Qualitätssicherung erfordert Training mit repräsentativen Daten. Training mit realen personenbezogenen Daten setzt wiederum eine Rechtsgrundlage voraus. Berlin hat bereits eine Trainingsermächtigung geschaffen und Baden-Württemberg eine Experimentierklausel eingeführt.

Wer trainiert, der entscheidet

Hinter der Frage nach der Rechtsgrundlage verbirgt sich eine strategische Entscheidung von erheblicher Tragweite, denn wer die Trainingsdaten kontrolliert, kontrolliert das System. Wer keine eigene Fähigkeit zum Training aufbaut, ist dauerhaft darauf angewiesen, fertige Systeme anderer zu lizenzieren. Auf Bundesebene ist die Frage, welche Softwarelösungen für BKA und Bundespolizei beschafft werden, noch nicht entschieden.

Der entscheidende Grund für die Abhängigkeit von externen Anbietern liegt nicht allein im fehlenden Rechtsrahmen, sondern in einem Kapazitätsproblem. Ohne Fachpersonal, ohne leistungsfähige Recheninfrastruktur und ohne eigene Datenpipelines bleibt auch eine gut ausgestaltete Trainingsermächtigung ein Instrument ohne Werkzeugkasten.

Digitale Souveränität im Sicherheitsbereich bedeutet nicht, dass Software stets von Behörden selbst programmiert werden muss. Es bedeutet, dass der Staat die Kontrolle über die wesentlichen Parameter seiner Systeme behalten muss. Das bedeutet Kontrolle über die Daten, auf denen sie basieren, über die Algorithmen, die sie antreiben, und über die Infrastruktur, auf der sie laufen. Wer ein KI-System einschließlich seiner Trainingsdaten Dritten überlässt, verliert diese Kontrolle.

Die Trainingsermächtigung ist nicht nur ein Rechtsinstrument. Sie ist eine Voraussetzung für technologische Handlungsfähigkeit Deutschlands. Wer europäischen Anbietern ermöglichen will, konkurrenzfähige KI für den sicherheitsbehördlichen Einsatz zu entwickeln, muss ihnen, unter strengen Bedingungen, den Zugang zu den Daten geben, die für belastbare Systeme notwendig sind. Ohne diesen Zugang können auch europäische Unternehmen keine Systeme trainieren, die amerikanischer Konkurrenz das Wasser reichen.

Der Entwurf: Grundsatz richtig, Ausgestaltung mangelhaft

Die Stellungnahme der GFF liest sich nicht als grundsätzliche Ablehnung. Anzumerken ist zudem, dass das BKAG bereits Schutzmechanismen enthält, die zeigen, dass der Gesetzgeber die Sensibilität erkannt hat. So sieht das Gesetz für personenbezogene Daten aus eingriffsintensiven verdeckten Ermittlungsmaßnahmen bereits besondere Verarbeitungs- und Verwendungsbeschränkungen vor. Der neue Entwurf greift diesen Gedanken auf.

Allerdings kommt eine technische Realität hinzu, die im Entwurf keine ausreichende Berücksichtigung findet. Eine nachträgliche Löschung aus einem KI-Modell ist nach dem aktuellen Stand der Technik kaum möglich. Löschungsrechte und Berichtigungsansprüche laufen ins Leere, wenn die zugrundeliegenden Daten bereits in ein Modell eingeflossen sind. Ein Grundrechtseingriff, der sich durch spätere technische Maßnahmen kaum rückgängig machen lässt, verdient höhere Schutzanforderungen.

Das Problem der privaten Anbieter und des Souveränitätsversagens

Der Entwurf erlaubt die Übermittlung personenbezogener Echtdaten an private Dritte für den Zweck des KI-Trainings. Das ist, solange es Sicherheitsbehörden an eigenen Trainingskapazitäten mangelt, in Teilen unvermeidlich. Die GFF kritisiert diese Regelung, weil nach der Datenweitergabe an private Dritte nicht gewährleistet werden könne, dass die Verwendung rechtmäßig und zweckmäßig erfolgt. Schließlich fehle es an konkreten gesetzlichen Vorkehrungen gegen Diskriminierung, an Protokollierungspflichten, an Transparenzanforderungen für den Trainingsprozess und an einem ausdrücklichen Verbot der Rückidentifizierung von Personen aus trainierten Modellen.

Die eigentliche Antwort auf das Drittübermittlungsproblem ist die Schaffung der Voraussetzungen unter denen eine Weitergabe gar nicht erst erforderlich ist. Sicherheitsbehörden, die mit ausreichend qualifiziertem Fachpersonal, leistungsfähiger IT-Infrastruktur und sicherer, souveräner Rechenkapazität ausgestattet sind, können KI-Systeme im eigenen Haus trainieren. Sie bleiben Herr ihrer Daten und erfüllen die Dokumentationspflichten der KI-Verordnung aus eigener Hand. Die Norm des § 22 Abs. 4 BKAG-E würde dann seltener gebraucht, weil die Behörde die Kapazität hat, selbst zu handeln. Eine Ermächtigungsnorm wie § 22 Abs. 3 BKAG-E, verbunden mit einer echten Investitionsoffensive in behördliche KI-Kompetenz und KI-Infrastruktur, ist der Weg aus der Abhängigkeit Dritter.

Souveränität durch Recht, nicht trotz Recht

Die Debatte über KI in Sicherheitsbehörden wird oft als Abwägung zwischen Sicherheit und Freiheit geführt. Das ist unvollständig. Es muss die dritte Dimension, die staatliche Handlungsfähigkeit im digitalen Raum, Berücksichtigung finden. Die Trainingsermächtigung ist der erste, notwendige Schritt. Die verfassungskonforme Ausgestaltung der Drittübermittlung ist der zweite und vorübergehend unvermeidliche Schritt.

Wer die Trainingsermächtigung ablehnt, tut so, als ob es besser wäre, KI-Systeme ohne Qualitätsprüfung einzusetzen oder sie von externen, schwer kontrollierbaren Anbietern zu beziehen. Das wäre für Grundrechte, Rechtssicherheit und die strategische Unabhängigkeit Deutschlands gleichermaßen schädlich. Es braucht eine zweckgebundene und differenzierte, auf europäische Souveränität ausgerichtete Ermächtigung, die den Sicherheitsbehörden gestattet, die Werkzeuge zu entwickeln, auf die die Gesellschaft angewiesen ist und garantiert, dass diese Werkzeuge kontrolliert, prüfbar und verantwortlich eingesetzt werden.

Wer Sicherheitsbehörden in die digitale Souveränität führen will, muss sie dazu in die Lage versetzen. Eine Investitionsoffensive in behördliche KI-Kompetenz und KI-Infrastruktur ist der dritte und entscheidende Schritt.

Dr. Sophie Tschorr ist Leiterin der KI-Koordinierung in der Zitis. Der Beitrag gibt ausschließlich die persönliche Ansicht der Verfasserin wieder.