Drei Jahre nach ChatGPT : Warum die große KI-Revolution in der Verwaltung noch auf sich warten lässt

Drei Jahre sind seit dem ChatGPT-Start im November 2022 vergangen. Höchste Zeit für eine Zwischenbilanz zum Einsatz großer KI-Sprachmodelle in der Verwaltung. Kurz zusammengefasst: Es ist der Verwaltung in weiten Teilen gelungen, Chatbots und damit einhergehende Technologien für die Mitarbeitenden zugänglich zu machen. Erfreulicherweise stehen so viele, aus dem Privaten bekannte KI-Möglichkeiten auch im beruflichen Kontext zur Verfügung. Auf fachlicher Ebene sieht es indes anders aus: Leuchtturmprojekte wie das bereits im Jahr 2021 ins Leben gerufene KI-Projekt „OLGA“ zur Bewältigung der Diesel-Massenverfahren überstrahlen fachlich weiterhin alles, was im ChatGPT-Zeitalter ersonnen wurde. Woran liegt das und wie können wir es ändern?

Ein Blick aufs Gestern

Leider muss man es heutzutage betonen, doch schon lange vor dem großen Hype um ChatGPT gab es Technologien, die man als KI bezeichnete. Ein Fakt, der inzwischen im Sprachgebrauch zu verschwimmen droht, wird KI dort leider oft gleichgesetzt mit großen Sprachmodellen.

Erste Bemühungen um den Einsatz von KI im öffentlichen Sektor bestanden darin, aus Unmengen an Fließtexten Parameter zu extrahieren, um diese einer maschinellen Verarbeitung zugänglich zu machen. Einen Höhepunkt erlebte dieser Ansatz im Jahr 2022, als die Diesel-Klagewelle in Baden-Württemberg gebrochen wurde, indem KI für die Klassifikation dieser Klagen eingesetzt wurde. Die Methodik erlaubte es einer KI, Verfahren nach richterlichen Vorgaben zu sortieren, um die anschließende Bearbeitung effizienter zu gestalten.

Zuvor wurden profanere Einsatzgebiete etabliert, etwa die maschinelle Übersetzung mit KI-Methoden, wodurch deutliche qualitative Verbesserungen im Vergleich zu statistischen und regelbasierten Ansätzen erzielt wurden. Ein hierzu im Jahr 2018 eingesetztes Projekt sollte insbesondere der wenig erträglichen Situation begegnen, dass im Privaten solche Übersetzungsdienste längst etabliert waren, im beruflichen Kontext aber – selbst für die Ersteinschätzung eines eiligen Sachverhaltes – auf Übersetzungsbüros zurückgegriffen werden musste. Ein unschönes Gefälle zwischen beruflichen und privaten Möglichkeiten, das sich bei KI-Sprachmodellen nicht wiederholen sollte.

Ein Blick aufs Heute

Jedenfalls in weiten Teilen konnte der Anspruch erfüllt werden, am Markt etablierte und privat genutzte KI-Möglichkeiten auch im beruflichen Umfeld zeitnah bereitzustellen. In Baden-Württemberg wurde dies durch die Einführung der KI-Anwendung F13 erreicht, die in einer wachsenden Open-Source-Community arbeitsteilig weiterentwickelt wird. Der Betrieb über die IT Baden-Württemberg (BITBW) erlaubt es, die Technologie landesweit sicher und skalierbar bereitzustellen, ohne auf außereuropäische Cloud-Systeme angewiesen zu sein.

Freilich sind, insbesondere aus Gründen des Datenschutzes und der Informationssicherheit, einige KI-Möglichkeiten nicht für den dienstlichen Einsatz umgesetzt. Besonders die nicht bestehende Verknüpfung der KI zu einem Internet-Suchindex lässt manche Beschäftigte, die im Umgang mit KI nicht geübt sind, ratlos zurück. Noch nicht in allen Köpfen ist die Kenntnis fest verankert, dass KI-Sprachmodelle kein eigenes Wissen beinhalten, sondern immer in Kombination mit Wissensquellen – seien es hochgeladene Dokumente, eigene Wissensdatenbanken oder eben das Internet – verwendet werden sollten.

KI-Sprachmodelle haben zwar unsere Sprache erlernt, verfügen aber über kein eigenes Wissen, das über die statistischen Gewichte im Modell hinausgeht. Beim Einsatz von KI-Sprachmodellen in Baden-Württemberg gibt es daher unterschiedliche Möglichkeiten, um der KI das nötige Wissen hinzuzufügen: Der Upload von Dokumenten, die Aktivierung vorgefertigter Wissensräume (etwa Landtagsdrucksachen) oder das Erstellen eigener Wissensräume. Die Anbindung eines Internetsuchindexes für aktuelles Weltwissen könnten wir vornehmen, zögern allerdings, da sich ein europäischer Index erst im Aufbau befindet. Eine solche Anbindung würde also die Eingabe an das KI-Modell, den Prompt, an einen außereuropäischen Anbieter weitergeben – möglicherweise mitsamt internen, geheimen oder personenbezogenen Daten.

Ein Blick aufs Morgen

Zurecht stellt sich uns heute die Frage nach der fachlichen Beschleunigung im unmittelbaren Kontext von Verwaltungsprozessen. Also der echten KI-Revolution für die Verwaltung. Und das soll nicht bedeuten, dass die Einführung der bestehenden KI-Methoden nicht schon Mehrwerte biete. Vielmehr entstehen diese Mehrwerte aber nur mittelbar und nicht im unmittelbaren Bereich von Verwaltungsprozessen. Das bedeutet beispielsweise, dass ein KI-Chat den Mitarbeitenden die Arbeit zwar erleichtert, jedoch noch nicht direkt die Bearbeitung eines Bürgerantrags unterstützt. Wie also sieht die Zukunft der Einführung von KI bei fachspezifischen Aufgaben aus?

Meine Einschätzung fällt gemischt aus. Wie sollte es angesichts der heterogenen Handlungsstränge im Bereich der Einführung von KI für die Verwaltung auch anders sein? Bislang hat sich noch keine Zusammenarbeit im Bereich der nicht fachlichen, allgemeinen und somit nur mittelbar wirkenden KI-Assistenten etabliert. Obwohl diese Zusammenarbeit weitgehend problemlos möglich wäre.

Die Partnerinnen und Partner im F13-Ökosystem haben sich daher dafür entschieden, eine gemeinsame KI-Lösung Open Source zu stellen und arbeitsteilig weiterzuentwickeln. So wird verhindert, dass einzelne Funktionen jedes Mal aufs Neue von Dutzenden – wenn nicht Hunderten (man denke an die Kommunen) – verschiedenen Stellen entwickelt werden müssen. Dass dieser Ansatz funktioniert, zeigen arbeitsteilige Fortschritte, die derzeit in das Produkt einfließen, zum Beispiel im Bereich von Sprache zu Text, Bildgenerierung oder auch technischen Funktionalitäten wie Mandantenfähigkeit und User-Access-Management.

Bedingungslose Nachnutzung über alle Verwaltungsebenen hinweg, transparente Standards, eigene Anpassungen – das sind nur wenige der unzähligen Vorteile des eingeschlagenen Wegs einer gemeinsamen Open-Source-Lösung, der mehr auf einer rationalen Kalkulation der Vorteile, als auf ideellen Erwägungen fußt. Der Weg wird daher sicherlich und mit einer weiter wachsenden Community konsequent fortgeführt.

Ein Blick aufs Fachliche

Bleibt abschließend ein Blick auf die Einbindung von KI in fachliche Prozesse, die leidenschaftlich diskutiert wird. Vom „Agentischen Staat“ ist gar schon die Rede. Am besten sollen demnach KI-Agenten überall implementiert werden – eher gestern als morgen. Abgesehen davon, dass dies eine enorme Verschwendung von Energie wäre, wo bereits gut gestaltete Prozesse und einfache Automation helfen könnte, wird zudem gerne unterschlagen oder aus Unkenntnis nicht vorgebracht, dass die deutsche Verwaltung in weiten Teilen noch nicht bereit für das agentische KI-Zeitalter ist. Solche Hype-Diskussionen verstellen deshalb eher den Blick aufs Wesentliche, als dass sie echten Fortschritt bringen.

Dass diese Problemlage besteht, liegt auch am Festhalten an papierbehafteten verwaltungstechnischen Abläufen in der digitalen Welt. Dieses sorgt dafür, dass wesentliche Weichenstellungen in der IT-Landschaft unterbleiben, die eine effiziente Digitalisierung der Verwaltungsprozesse aber benötigen würde – ob mit oder ohne KI. Zwei der weiterhin bestehenden Blocker, vielleicht die wichtigsten, möchte ich kurz vorstellen:

Blocker 1: Der Mensch als Schnittstelle

Der Mensch ist weiterhin die Schnittstelle zum System. Anwendungen werden so entwickelt, dass (nur) der Mensch vor dem Bildschirm sie bedienen kann. Einen neuen Vorgang anlegen? Klick! Daten abrufen? Klick! Ein Schreiben erstellen? Tipp, Tipp, Klick.

Durch den tiefen fachlichen Anteil am Entwicklungsprozess werden Anwendungen oft so entwickelt, dass sich die fachlichen Prozesse (nur) über Bildschirm, Maus und Tastatur bearbeiten lassen. An dieser Stelle ist jedem schnell klar: Systeme, die so ausgelegt sind, lassen natürlich kaum eine Automatisierung zu. Wer soll den geschulten Blick des Verwaltungsmitarbeitenden auf den Bildschirm und die schwunghafte Eingabe auf der Tastatur nebst Mausklick denn ersetzen? Es fehlt also schon am Zugang für den KI-Agenten, um eine fachliche Arbeit zu erledigen – er steht schlicht vor einer (Software-)Wand.

Blocker 2: Daten und Software sind eins

Oft werden Anwendungs- und Datenebene nicht getrennt gedacht. Und dort, wo getrennt gedacht wird, stehen teilweise dysfunktionale, verbindliche „Standards“, die einen Datenaustausch per se schon nahezu unmöglich machen.

Verwaltungsobjekte müssen technisch eindeutig spezifiziert sein, sodass diese unabhängig von der konkreten Anwendung ihre Form behalten, sonst verschwimmt deren Kontur in Dateisystemen und in relationalen Datenbanken bis zur Unkenntlichkeit. Wie genau sieht eine E-Akte technisch aus? Welche Datenpunkte hängen an der Bürgerin oder dem Bürger und welche an bestimmten fachlichen Aufgaben? Oft ist es leider so, dass die Verwaltung (manchmal auch der Hersteller) keine Kenntnis davon hat. Wie soll also die KI arbeiten, wenn unklar ist, welche Daten existieren und wo diese abliegen?

Fazit

Bis wir diese und weitere Aufgaben der Vergangenheit gelöst haben, wird die fachliche KI-Revolution weiter auf sich warten lassen. Nicht umsonst strahlen die wenigen KI-Leuchttürme weiterhin übermächtig – waren diese doch auch als genau solche gedacht: Leuchttürme, die einen deutlichen Weg in die Zukunft aufzeigen, aber für sich nicht den Anspruch erheben, in einen Flächeneinsatz zu skalieren. Dafür bedarf es jetzt anstrengender und tief technischer Maßnahmen, die leider nicht so schön funkeln wie ein „Agentischer Staat“. Gehen wir es an.

Björn Beck leitet das Innovationslabor der Landesregierung im Staatsministerium Baden-Württemberg.