Digitale Verwaltung : Wie Behörden der Spagat zwischen KI-Einsatz und digitaler Souveränität gelingt

Die deutschen Verwaltungen und Behörden stehen vor Herausforderungen. Das neue Onlinezugangsgesetz und die Digitalisierungsziele der Regierung fördern digitale Angebote. Und auch die Bürger_innen fordern zunehmend digitale Services und Onlineangebote. Künstliche Intelligenz (KI) könnte hierbei helfen – sie kann viele Prozesse auf Basis der reichlich vorhandenen digitalen Behördendaten automatisieren und digitalisieren.

Der Weg dahin ist jedoch nicht einfach. Viele Behörden leiden bereits unter Fachkräftemangel, der durch das Ausscheiden von 1,3 Millionen öffentlich Bediensteter aus dem Erwerbsleben bis 2030 weiter verschärft wird. Leere öffentliche Kassen steigern zudem den Kostendruck – KI-Systeme für das E-Government versprechen hier Abhilfe. Eine Herausforderung dabei: Viele bekannte KI-Plattformen arbeiten cloudbasiert. Die datenschutzrechtlichen Hürden für den Einsatz von Cloud-Lösungen im Behördenumfeld liegen sehr hoch, manchmal zu hoch.

Einige Behörden und Verwaltungen holen sich daher die KI einfach „ins Haus“ und betreiben ihre KI-Lösungen nicht in der Cloud, sondern rechtskonform im eigenen Rechenzentrum. Sie kommen mit diesem Ansatz auch der lauter werdenden politischen Forderung nach einer weitgehenden digitalen Souveränität der EU-Staaten nach.

Was die Cloud-Nutzung für Behörden erschwert

Viele Cloud- und KI-Angebote sind leistungsfähig und weltweit nutzbar. Der Preis dafür ist allerdings, dass Daten in die Cloud hochgeladen werden müssen, genaue Speicherorte oft unklar sind und viele Anbieter den Wechsel zur Konkurrenz erschweren. Das ist das Gegenteil von digitaler Souveränität, also der Forderung, dass Individuen und Institutionen ihre Rollen in der digitalen Welt selbstständig, selbstbestimmt und sicher ausüben können. Bürger, Unternehmen und staatliche Institutionen sollen unter anderem die Möglichkeit haben:

1. den IT- oder Serviceanbieter zu wechseln,
2. eigene Gestaltungsideen umzusetzen und
3. Einfluss auf die Anbieter nehmen zu können.

Das ist bei vielen Anbietern nicht der Fall. Hinzu käme, dass Behörden und Provider bisher eine Vielzahl von Vertragsdetails beachten müssten, um im Behördenumfeld gesetzeskonform zu bleiben. Dazu gehören beispielsweise notwendige Zertifizierungen der Anbieter in Sachen Datenschutz und IT-Sicherheit sowie zu Zugriffsregelungen. Diese Anforderungen sind oft mit so viel Klärungsaufwand verbunden, dass die meisten Behörden diesen Schritt scheuen. Sie behalten Daten und Anwendungen lieber im eigenen Rechenzentrum.

Anforderungen an souveräne KI-Systeme

Das wirft Fragen danach auf, wie die KI ins Rechenzentrum kommt. Eine Möglichkeit ist der Einsatz von (quell)offenen IT-Architekturen, die die IT-Abteilung an die eigenen Bedürfnisse anpassen kann. Zudem ist durch die offene Codebasis jederzeit nachvollziehbar, was genau mit Daten und Informationen geschieht und wie die KI auf Basis ihrer Algorithmen zu ihren Ergebnissen kommt. Für Behörden, die ihre Entscheidungen jederzeit rechtssicher begründen müssen, ist dies ein wesentliches Funktionsmerkmal.

Die KI-Systeme sollten zudem mandantenfähig sein. So können in einer Kreisverwaltung beispielsweise das Bauamt, das Sozialamt und das Ordnungsamt als eigene Mandanten innerhalb einer KI-Plattform angelegt werden. Die einzelnen Datenbestände sind dann datenschutzrechtlich sauber voneinander getrennt. Gleichzeitig können die Behörden die nötigen KI-Werkzeuge und IT-Experten für die zentrale KI-Plattform gemeinsam nutzen und so Kosten reduzieren.

Eine souveräne Lösung im eigenen Rechenzentrum bedeutet aber auch mehr Aufwand für Beschaffung und Betrieb. Das lässt sich jedoch durch den Einsatz einer dedizierten KI-Appliance mit vorintegrierter Hard- und Software kompensieren. Eine solche „KI-Box“ können Behörden ähnlich wie einen klassischen Server installieren und in Betrieb nehmen – die Daten müssen dann nicht mehr das eigene Rechenzentrum verlassen. Sie ist eine Alternative zu cloudbasierten KI-Lösungen, bis neue gesetzliche Regelungen und Angebote den Schritt in die Cloud für Behörden vereinfachen.

Mehr Rechtssicherheit durch Governance-Plattformen

Die KI physisch in die eigene Behörde zu holen, schafft jedoch noch keine vollständige Rechtssicherheit. Zusätzlich müssen die eingesetzten KI-Lösungen deutsche und europäische Datenschutz- und KI-Richtlinien erfüllen, beispielsweise den neuen EU AI Act.

Dabei hilft eine integrierte Governance-Plattform, die alle KI-Aktivitäten innerhalb der Behörde steuert, verwaltet und überwacht. Diese Plattform kann dann KI-Modelle bereitstellen und umfassend überwachen – auch solche von Drittanbietern wie Amazon, Microsoft, Aleph Alpha, Open AI oder aus der Open-Source-Community. Sie prüft fortlaufend die Einhaltung der vordefinierten Richtlinien, weist auf Abweichungen hin, macht Lösungsvorschläge und unterstützt so die Governance-Verantwortlichen in der Behörde bei ihrer täglichen Arbeit.

Viele wichtige Fragen rund um den KI-Einsatz in Behörden sind mittlerweile also lösbar. Was sind somit Szenarien für den Einsatz von KI, um die vorhandene Personalbasis von Routineaufgaben zu entlasten und das Funktionieren der öffentlichen Verwaltung sicherzustellen?

Behörden können KI

Das Amtsgericht Frankfurt, das Oberlandesgericht Stuttgart und das Jugendamt des Landratsamts Augsburg nutzen bereits heute KI, um ihre Arbeitsprozesse zu beschleunigen und zu verbessern. Das Amtsgericht Frankfurt hat mit Frauke ein KI-System entwickelt, das die dort zahlreich anfallenden Fluggastklagen analysiert und Textbausteine für Urteilsdokumente vorschlägt. Das Oberlandesgericht Stuttgart setzt auf die KI Olga, um Berufungsverfahren im Dieselskandal zu kategorisieren und effizienter zu bearbeiten. In Augsburg testet das Jugendamt des Landratsamtes einen KI-Prototypen, der rechtliche und finanzielle Fragen im Zusammenhang mit Jugendhilfe, Integrationshilfen und Kinderbetreuungskosten klärt. Dieser Prototyp reduziert die Zeit, Fallinformationen zusammenzustellen, um bis zu 91 Prozent und verbessert die Qualität der Zusammenfassungen.

Der Erfolg von KI-Projekten hängt nicht nur von technischen Aspekten ab, sondern auch von der frühzeitigen und engen Einbindung der Belegschaft. Proaktives Change-Management und Kommunikation der Vorteile erhöhen die Bereitschaft zur aktiven Mitarbeit und damit die Erfolgschancen des Projekts.

Souveräne KI ist möglich

Deutsche Behörden stehen unter großem Modernisierungsdruck. KI-Systeme bieten aber schon heute viele Lösungsmöglichkeiten hierfür und genügen zunehmend den hohen Anforderungen an Datenschutz, Transparenz und Ethik. Zahlreiche Pilotprojekte zeigen zudem, dass KI im Behördenumfeld funktioniert und echte Entlastung bringt. Davon werden langfristig alle profitieren: die Bürger_innen durch bessere, digitalisierte Behördenangebote und die Beschäftigten in den Verwaltungen durch KI-Lösungen, die sie in ihrem Arbeitsalltag spürbar entlasten – auch dann, wenn aufgrund der demografischen Veränderungen künftig deutlich weniger Menschen in den Behörden arbeiten werden.

Marc Schlingheider ist Director of IBM Technology Sales, Public Sector im deutschsprachigem Raum bei IBM Deutschland