Statt einem Vibe-Coding-Verbot : Drei Voraussetzung für KI-Coden in der Verwaltung

Selten habe ich so viel Resonanz auf einen Text erhalten wie auf meine letzte Background-Kolumne zum „Vibe Coding“ in der öffentlichen Verwaltung. Dass Verwaltungsbeschäftigte sich mit KI-Hilfe individuelle Software bauen lassen, um die Defizite der Verwaltungsdigitalisierung auf eigene Faust zu kompensieren, scheint ein Thema zu sein, das gerade überall unterschwellig präsent ist, über das aber bislang kaum gesprochen wird. Kein Wunder, denn es stellen sich dabei viele unbequeme Fragen. Und, frei nach einem ehemaligen Innenminister: Ein Teil der Antworten könnte Sie verunsichern.

Weil ich es trotzdem genauer wissen wollte, war ich neulich bei einer internen Veranstaltung, auf der Beschäftigte in einem geschützten Rahmen zeigen konnten, was sie sich mit ihren (zumeist aus privater Tasche bezahlten) KI-Agenten bereits an Arbeitserleichterungen geschaffen haben. Was dort zu sehen war, übertraf meine Erwartungen: Komplexe Datenverarbeitungs-Pipelines, Berichtsgeneratoren, Analyse-Dashboards, Softwarelösungen mit dem Funktionsumfang ganzer Fachverfahren im Gegenwert von Hunderttausenden Euro – mal eben selbst entwickelt. Und zwar vorbei an all den komplizierten Vorgehensmodellen, Projektplanungen, Stakeholder-Abstimmungen und Compliance-Vorgaben, an die wir uns in der Verwaltung gewöhnt haben.

Vibe Coding ist in der Verwaltung angekommen

Seitdem glaube ich nicht mehr, dass KI-Coding ein Thema ist, das „auf die Verwaltung zukommt“. Es ist schon da. Man muss davon ausgehen, dass in deutschen Behörden bereits heute Dutzende, wenn nicht Hunderte KI-generierter Anwendungen im Umlauf sind. Dieser Geist ist aus der Flasche. Und wir werden ihn nicht wieder hineinbekommen.

Für die Beschäftigten ist das ja zunächst auch ein spürbarer Fortschritt. Wer jahrelang unter der mangelhaften Usability und Performance vieler handelsüblicher IT-Fachverfahren gelitten hat und nun von heute auf morgen die Möglichkeiten erhält, es in Eigenregie besser zu machen, wird das erstmal als großen Gewinn betrachten. Das Problem ist nur: Wenn wir nichts unternehmen, wird uns der so entstehende Flickenteppich eher früher als später um die Ohren fliegen. Es ist nur eine Frage der Zeit, bis wir erste kritische Sicherheitsvorfälle, Datenverluste oder gravierende Datenschutzverstöße sehen werden, die auf ungeprüfte, KI-generierte Software zurückgehen.

Drei Dinge, die es jetzt braucht

Gleichzeitig dürfte ein Verbot solcher Software wenig aussichtsreich sein, zumindest wäre es sehr leicht zu umgehen. Da ohnehin keine Infrastrukturen für den Betrieb existieren, schickt man sich die Anwendungen einfach per Mail und betreibt sie lokal im Browser. Vor allem aber würde ein Verbot die Verwaltung einmal mehr von den zweifellos beeindruckenden Fortschritten im Bereich der Künstlichen Intelligenz abschneiden, statt sie produktiv und auf verantwortungsvolle Weise nutzbar zu machen. Wenn wir diese Zukunft gestalten wollen, statt uns an die Vergangenheit zu klammern, müssen wir jetzt mindestens drei Dinge tun.

Erstens brauchen wir dringend ein übergreifendes System aus Regeln und Spezifikationen, an dem sich KI-Agenten bei der Entwicklung orientieren können. Denn diese arbeiten ihrem Prinzip nach probabilistisch: Wer sich zehnmal ein Fachverfahren für eine Antragsbearbeitung erstellen lässt, wird zehn unterschiedliche Ergebnisse erhalten. Funktionierende Verwaltung braucht hingegen verlässliche Standards. Angefangen bei Dateiformaten und Datenstrukturen, über die Auswahl von sicheren Softwarekomponenten bis zu UX- und Gestaltungsrichtlinien. Auch für die Kompatibilität einzelner Anwendungen untereinander oder für ein übergreifendes Rechte- und Rollenmanagement ist es unerlässlich, dass die Entwicklung sich an übergeordneten Standards orientiert.

Zweitens müssen wir uns damit beschäftigen, wie wir die Einhaltung dieser Regeln zukünftig gewährleisten und dokumentieren wollen. Bislang ist es üblich, dass die zahlreichen Vorgaben, die von der Verwaltung einzuhalten sind, manuell an verschiedenen Stellen überprüft werden, bevor eine neue Software in Betrieb gehen darf. Das kann Wochen, manchmal Monate dauern. In einer Welt, in der Software von KI-Agenten in wenigen Minuten entwickelt wird, muss aber auch die Prüfung in wenigen Minuten erfolgen können – also vermutlich ebenfalls mit KI-Unterstützung.

Drittens und am wichtigsten müssen wir unsere menschlichen Kompetenzen im Umgang mit den Maschinen entwickeln. Denn die neuen Möglichkeiten des KI-Codings sind trügerisch. Nur weil man in kürzester Zeit Software bauen kann, heißt es nicht, dass man die richtige Software baut. Wenn Softwareentwicklung in naher Zukunft wirklich zu einem „gelösten Problem“ werden sollte, stellt sich auf höherer Ebene die Frage, welche Probleme wir mit Software überhaupt lösen wollen – und wo wir stattdessen neue Probleme produzieren. Denn wenn wir aus der Verwaltungsdigitalisierung der letzten zwanzig Jahre eines gelernt und immer wieder gepredigt haben, dann das: Wer einen schlechten Prozess digitalisiert, erhält einen schlechten digitalen Prozess. Im KI-Zeitalter gilt das mehr denn je.

Der promovierte Kultur- und Medienwissenschaftler Benjamin Seibel leitet das City Lab Berlin. Das 2019 gegründete Stadtlabor wird von der Berliner Senatskanzlei finanziert und von der Technologiestiftung Berlin betrieben. Im City Lab arbeiten Teams aus der öffentlichen Verwaltung gemeinsam mit der Stadtgesellschaft und der Forschung an der Stadt der Zukunft.

Zuletzt von ihm unter dieser Rubrik erschienen: „Die KI-Transformation ist ein Infrastrukturthema“.