Automatisierte Migrationsverwaltung : Mit KI über Flüchtlinge entscheiden?

Als 2015 Geflüchtete nach Europa kamen, stellte sich für die Gesellschaft und speziell für die Migrationsverwaltung die Herausforderung, rechtsstaatliche Verfahren und Menschenrechte zu wahren und gleichzeitig rechten Populismus zurückzuweisen. Antworten auf diese Herausforderung sucht die Politik auch in technischen Lösungen.

Künstliche Intelligenz (KI) ist für die einen Verheißung, für andere eine Gefahr. Viele fürchten, dass KI unmenschlich, fehlerhaft und diskriminierend wirkt. In der Wirtschaft und Verwaltung besteht die Hoffnung, dass damit vieles produktiver, preiswerter und effektiver wird. Die EU versucht mit einer KI-Verordnung, die Risiken von KI zu begrenzen. Zugleich wollen Politik und Verwaltung sie für sich nutzbar machen. Ein Testfeld hierfür ist die Migrationsverwaltung, wo Funktionstüchtigkeit und gesellschaftliche Akzeptanz erprobt werden. Die Bundesregierung hat deshalb ein „Gesetz zum Einsatz künstlicher Intelligenz in der Migrationsverwaltung (KIMVG)“ in den Bundestag eingebracht.

Automatisierung der Verwaltung

Mit dem KIMVG sollen asyl- und aufenthaltsrechtliche Verwaltungsverfahren effizienter, einheitlicher, qualitativ hochwertiger und sicherer gestaltet werden. Das KIMVG soll eine gesetzliche Grundlage dafür schaffen, dass mit Daten von Flüchtlingen und sonstigen ausländischen Staatsangehörigen KI-Modelle trainiert, validiert und getestet werden, um dann diese Modelle in den konkreten Verwaltungsverfahren einzusetzen. Außerdem sieht der Entwurf vor, dass die Migrationsverwaltung Daten aus dem öffentlich zugänglichen Internet, etwa aus Social Media, nutzen darf, um die Richtigkeit von Angaben zu überprüfen.

Auch heute schon setzt die Migrationsverwaltung automatisierte Anwendungen ein: Mit dem Ausländerzentralregister (AZR) besteht eine gewaltige zentrale Datenbank, in der sämtliche Nichtdeutschen mit nicht nur vorübergehendem Aufenthalt in Deutschland registriert sind. Darin finden sich Angaben zu Identität und Aufenthalt, sowie zu Straftaten, Bildung, Gesundheit, sozialen Hilfen und vieles mehr. Auf die Daten des AZR können alle Behörden in Deutschland zugreifen, von Schulen über Sozialämter bis hin zu den Nachrichtendiensten.

Das Bundesamt für die Migration und Flüchtlinge (Bamf) setzt darüber hinausgehend digitale Werkzeuge ein, etwa bei der Auswertung von Handydaten zur Überprüfung von Angaben von Flüchtlingen, zur automatisierten Dialekterkennung oder zur Inhaltsanalyse von Asylanträgen. Im Rahmen des Bundesaufnahmeprogramms Afghanistan wurde erstmals ein Scoring-Verfahren angewendet, um die Schutzbedürftigkeit von Antragstellenden einzustufen.

Mangelhafter Gesetzentwurf

Ein Blick ins Ausland: In Großbritannien nutzt die Migrationsverwaltung schon seit Jahren KI und automatisierte Entscheidungsprozesse. Diese wurden 2020 vorläufig gerichtlich gestoppt, weil sie offensichtlich – insbesondere aufgrund der Nationalität – diskriminierten. Dies hindert die Verwaltung nicht, weiter solche Systeme zu nutzen, die für die Betroffenen absolut intransparent sind.

Solche Verfahren sollen auch in Deutschland künftig generell erlaubt sein. Zwar verbietet der KIMVG-Entwurf Diskriminierungen und Eingriffe in den Kernbereich persönlicher Lebensgestaltung. Das hört sich zunächst gut an. Und es ist unbestreitbar, dass die Migrationsverwaltung ohne digitale Technik den praktischen Anforderungen nicht mehr genügen kann. Dennoch gibt es harsche Kritik von Datenschutz- und migrantischen Organisationen.

Ein Blick in den Gesetzentwurf zeigt, dass deren Verfasser die Tragweite ihres Vorschlags nicht erkannt haben: So behauptet der Entwurf, das Gesetz verursache keine Kosten und könne mit wenigem Personal umgesetzt werden. Tatsächlich aber ist der Einsatz von KI voraussetzungsvoll und setzt Expertise, technischen Aufwand, dauerndes Monitoring, Transparenz und öffentliche Kontrolle voraus. Die Vorgaben der KI-Verordnung und der Datenschutzgrundverordnung sind zu beachten. Diesen Anforderungen genügt der Entwurf bisher nicht im Ansatz: So ist nicht ausgeschlossen, dass Sachbearbeiter KI Entscheidungsvorschläge einfach abnicken. Dies birgt aber die Gefahr, dass all die Vorurteile, mit denen die KI-Blackbox trainiert wurde, sich auf die Betroffenen auswirken, ohne dass diese die Entscheidung wirksam überprüfen und anfechten können.

Nachbesserung ist nötig

Hier muss rechtsstaatlich nachgebessert werden. Der Europäische Gerichtshof hat in anderen Zusammenhängen klargestellt, dass Entscheidungsgrundlagen frühzeitig den Betroffenen offengelegt werden müssen und einer gerichtliche Kontrolle zugänglich sein müssen. Das ist in dem Gesetzentwurf nicht gewährleistet. Das Netzwerk Datenschutzexpertise hat schriftlich ausführlich zum Entwurf Stellung genommen.

Der Bundestag muss am Gesetz zum Einsatz künstlicher Intelligenz in der Migrationsverwaltung nun notwendige Nachbesserungen vornehmen. Die KI-Regeln die heute im Einsatz mit Geflüchteten gelten, könnten morgen alle betreffen.

Thilo Weichert war von 2004 bis 2015 Landesbeauftragter für Datenschutz in Schleswig-Holstein und ist heute für das Netzwerk Datenschutzexpertise und die Deutsche Vereinigung für Datenschutz e.V. (DVD) tätig.