Standpunkte Sechs Thesen zu generativer KI in der Verwaltung

Generative Künstliche Intelligenz (Gen AI) verspricht für die deutsche Verwaltung Qualitäts- und Effizienzpotenziale sowie deutlich bessere öffentliche Dienstleistungen. Automatisiere Protokollierung, Dokumenterstellung oder teilautomatisierte Code-Entwicklung – die Anwendungsbeispiele sind vielfältig.

Die Verwaltung steht aber noch am Anfang der Transformation in Richtung Gen AI. Basierend auf unserer Projekterfahrung und einer Vielzahl von Gesprächen mit Führungskräften der Verwaltung haben wir sechs Thesen dazu entwickelt, wie die Gen AI-Umsetzung angegangen werden sollte.

Eine Reihe von Ministerien und Behörden in der Bundesverwaltung pilotieren Gen AI-Anwendungen (zum Beispiel das BMDV), allerdings häufig isoliert und ohne übergeordneten Ansatz. So können lediglich punktuelle Erfolge verzeichnet werden und es fehlt ein koordiniertes Vorgehen und ein systematischer Wissensaustausch. Es bedarf einheitlicher Rahmenbedingungen in Form einer Gen AI-Strategie und -Roadmap auf Bundesebene. Darin sollten die übergeordneten Ziele für den Einsatz von Gen AI festgelegt und Rahmenbedingungen gesetzt werden, etwa im Bereich der nutzbaren Plattformen und bezüglich des Zugangs zu großen Sprachmodellen (Large Language Models – LLM).

Obwohl einzelne Behörden Gen AI bereits im Arbeitsalltag nutzen, fehlt ein übergeordnetes Regelwerk für deren Einsatz. Dies birgt Risiken, etwa im Bereich des Datenschutzes oder bei der Verwendung gegebenenfalls vertraulicher Informationen. Gleichzeitig sind viele Mitarbeitende verunsichert, welche Tools auf welche Weise genutzt werden können. Ein behördenübergreifendes Regelwerk ist unerlässlich, um das Experimentieren mit GenAI zu fördern und sich gegenüber rechtlichen Risiken abzusichern und einen ethisch verantwortungsvollen Einsatz zu fördern. Darin sollten Regeln zur Qualitätssicherung, zum Schutz von Persönlichkeitsrechten, zu Datenschutz, Copyright und verantwortungsvoller Nutzung enthalten sein und den Mitarbeitenden entsprechende Richtlinien und Maßnahmen an die Hand gegeben werden.

Gen AI ist im Unterschied zu bisher verfügbaren KI-Technologien durch einfache, nutzerfreundliche Bedienung für den Großteil der Mitarbeitenden relevant und mit Mehrwert nutzbar. Da bedeutet aber auch, dass sich Aufgabenprofile ändern, zum Beispiel dadurch, dass weniger Zeit für die Erarbeitung und das Schreiben von Inhalten verwendet werden muss, man dem gegenüber aber mehr Zeit und Kompetenz für das Prompting von LLMs oder für die Qualitätssicherung benötigt. Aus unserer Erfahrung liegen nur 30 Prozent des Aufwands für eine GenAI-Transformation auf der technischen Ebene, 70 Prozent der Arbeit besteht in der Weiterentwicklung von Rollenprofilen, der Anpassung von Prozessen und Organisation sowie in der Qualifikation von Mitarbeitenden.

Gen AI kann in beinahe allen behördlichen Aufgaben unterstützen, die Breite der möglichen Anwendungen macht es sogar zu einer Herausforderung, zu entscheiden, wo man mit dem Einsatz beginnt. Tools wie ein „Bionic Workforce Assessment“ können hier helfen, datengestützt die Potenziale für den Gen AI Einsatz zu bewerten und die geeigneten Anwendungsfälle auszusuchen und zu priorisieren. Unserer Ansicht nach sollte Gen AI prioritär in zentralen Funktionen, also den klassischen „Z-Abteilungen“ von Behörden, eingesetzt werden. Die dort ablaufenden Prozesse im Personalwesen, bei Finanzen oder IT eignen sich besonders gut für eine Unterstützung durch Gen AI und bieten ein großes Potenzial für Effizienz- und Qualitätssteigerungen. Da sich außerdem die Prozesse in den Zentralabteilungen in vielen Behörden stark ähneln, kann durch Nutzung derselben Lösungen in verschiedenen Behörden besonders schnell Mehrwert in der Breite entstehen. Zentralabteilungen werden so zum Motor für die Gen AI-Transformation.

Am Anfang steht für Organisationen oft die Frage, ob die Entwicklung eigener Modelle dem Einsatz bestehender LLMs vorzuziehen ist. Unserer Erfahrung nach ist die Nutzung verfügbarer LLMs jedoch deutlich sinnvoller.

Neuere LLM-Versionen der führenden Anbieter bieten neben sofortiger Einsatzbereitschaft meist auch überlegene Leistungen und eine breitere Anwendungspalette bieten als teure, selbst-trainierte Modelle. Über Agenten-Technologien oder den Einsatz von Retrieval Augmented Generation (RAG) ist dann auch eine deutlich erhöhte Zuverlässigkeit von Gen AI-Lösungen und eine sichere Verwendung eigener Daten erzielbar.

Viele Behörden, insbesondere solche mit Sicherheitsaufgaben, arbeiten mit einer großen Menge vertraulicher, teilweise eingestufter Dokumente, die besonderen Schutzes bedürfen. Dafür ist die Nutzung von typischerweise in Cloudumgebung betriebenen Sprachmodellen zumindest in der Regel heute keine Option. In solchen Umfeldern bieten sich on premise Lösungen an, für die zum Beispiel für eine Vielzahl von Open Source-LLMs (sowie einzelne Closed Source-Modelle mit entsprechenden Angeboten der Hersteller) genutzt werden können.

Gen AI-Anwendungen haben also das Potenzial, die Prozesse der öffentlichen Verwaltung grundlegend zu verbessern. Die Implementierung von Gen AI in der Bundesverwaltung ist dabei mehr als ein technologisches Unterfangen. Es ist ein strategischer Schritt, mit dem eine Verwaltung beweist, dass sie für die Zukunft gewappnet ist.

Thilo Zelt ist Managing Director und Partner der Boston Consulting Group in Berlin. Er ist Experte für Digitalisierung, Künstliche Intelligenz, Smart City sowie die Transformation von Behörden.