Agentic Flooding : Mit KI gegen die KI-Flut?

Immer mehr Menschen nutzen generative KI, um Anträge, Beschwerden und Widersprüche zu formulieren. Sprachmodelle erklären Bescheide, übersetzen Behördendeutsch und helfen dabei, die eigenen Ansprüche in eine rechtlich plausibel klingende Form zu bringen. Was früher juristisches Wissen, professionelle Unterstützung oder zumindest viel Zeit erforderte, ist heute in wenigen Minuten möglich. Damit verändert KI gerade grundlegend, wie Bürger:innen mit Behörden und Gerichten interagieren.

Dass Menschen KI für den Kontakt mit dem Staat einsetzen, ist verständlich. Wer versteht schon auf Anhieb, was genau das Finanzamt verlangt, warum ein Antrag abgelehnt wurde oder wie man gegen einen Bescheid vorgehen kann? Generative KI kann Menschen dabei unterstützen, ihre Rechte wahrzunehmen. Für viele senkt sie sprachliche, bürokratische und finanzielle Hürden, die bislang dazu geführt haben, dass berechtigte Ansprüche gar nicht geltend gemacht wurden.

KI-Flut trifft auf bereits überlastete Verwaltung

Das Ausmaß dieser Entwicklung ist inzwischen so groß, dass Forschende der Hertie School von „Agentic Flooding“ sprechen. Gemeint ist eine wachsende Flut KI-gestützter Eingaben, die Behörden und Gerichte zusätzlich belastet.

Einige Sozialgerichte in Deutschland führen einen Anstieg dringlicher Verfahren um 55 Prozent innerhalb eines Jahres zu einem großen Teil auf KI-generierte Schriftsätze zurück. Einzelne Schreiben umfassen mittlerweile mehr als 4.000 Seiten. Der Einsatz generativer KI führt demnach nicht nur zu mehr Eingaben, sondern kann auch den Umfang einzelner Schreiben erheblich vergrößern. Die Forschenden unterscheiden deshalb zwischen quantitativem und qualitativem Flooding.

Doch Behörden und Gerichte arbeiten vielerorts ohnehin bereits an ihrer Belastungsgrenze. In der deutschen Strafjustiz waren zuletzt mehr als eine Million Verfahren offen. Dem öffentlichen Dienst fehlen nach Angaben des dbb rund 600.000 Beschäftigte, um die übertragenen Aufgaben angemessen zu erfüllen. Wenn in dieser Situation zusätzlich mehr und umfangreichere Eingaben eingehen, liegt der Gedanke nahe, auch ihre Bearbeitung mithilfe von KI zu beschleunigen.

Dieser Impuls ist ebenfalls nachvollziehbar. Beschäftigte brauchen Werkzeuge, die sie entlasten. Die Studie zeigt, dass staatliche Stellen KI bereits zur Sichtung und Einordnung von Eingaben, zur Standardkommunikation und zur Erkennung möglicher Täuschungen einsetzen. Solche klar begrenzten Anwendungen können sinnvoll sein, wenn Zuständigkeiten, Kontrolle und rechtliche Grundlagen geklärt sind.

Mehr generative KI löst das Problem nicht

Gefährlich wird es, wenn der Wunsch nach Entlastung den Reflex hervorruft, die Automatisierung seinerseits auf die Spitze zu treiben: KI-generierte Eingaben werden dann mit KI-generierten Entscheidungen beantwortet, um die Zahl produzierter Antworten zu erhöhen.

Für einen Rechtsstaat zählt, ob eine Entscheidung rechtlich korrekt, konsistent, begründet und überprüfbar ist. Genau diese Eigenschaften kann ein frei formulierendes Sprachmodell allein nicht garantieren, denn es erzeugt Antworten auf Basis statistischer Wahrscheinlichkeiten. Es berechnet, welche Formulierung im jeweiligen Kontext plausibel erscheint. Entscheidungen, die auf Regeln und Gesetzen beruhen, dürfen nicht nur wahrscheinlich richtig sein. Sie müssen aus den einschlägigen Regeln und den festgestellten Tatsachen hervorgehen.

Im Rechtsstaat zählt nicht nur das Ergebnis, sondern auch der Weg dorthin. Justiz und Verwaltung müssen jederzeit prüfen und dokumentieren können, welche Norm angewendet, welche Ausnahme berücksichtigt und welche Information als ausschlaggebend bewertet wurde.

Ein KI-System, das lediglich ein plausibel klingendes Ergebnis ausgibt, kann diesen verbindlichen Prüfweg nicht zuverlässig dokumentieren. Je komplexer ein Verfahren ist, desto größer wird dieses Risiko. Ein Bauantrag, eine Sozialleistung oder eine steuerliche Bewertung bestehen aus zahlreichen Teilprüfungen. Selbst eine hohe Trefferwahrscheinlichkeit bei einzelnen Fragen garantiert kein korrektes Gesamtergebnis, wenn sich Fehler entlang der Entscheidungskette fortsetzen.

Die Lösung liegt in Regeln – und KI an den richtigen Stellen

Doch wie sollen Behörden auf die Flut reagieren, wenn generative KI allein keine verlässliche Hilfe sein kann? Den Zugang zu staatlichen Leistungen und Verfahren einzuschränken, Gebühren zu erhöhen, formale Hürden zu verschärfen oder digitale Kanäle zu schließen, ist keine Lösung. Mit einer Verengung des Zugangs zu reagieren, ist der Anfang vom Ende des Rechtsstaats. Seine Funktionsfähigkeit darf nicht davon abhängen, dass möglichst wenige Menschen ihre Rechte wahrnehmen.

Stattdessen braucht es eine Kombination aus klar strukturierten Regeln und gezielt eingesetzter KI. Gesetze und Verwaltungsvorschriften müssen dafür in maschinenlesbare Entscheidungslogik übertragen, der Prüfprozess in nachvollziehbare Schritte zerlegt werden: Eindeutige Rechtsfolgen und vorhandene Daten können dadurch regelbasiert verarbeitet werden. KI unterstützt an den Stellen, an denen unstrukturierte Dokumente erschlossen oder Sachverhalte eingeordnet werden müssen. Strittige Wertungen und sensible Entscheidungen bleiben unter menschlicher Kontrolle.

Ein solches System beantwortet nicht einfach eine große, offene Frage. Es dokumentiert, welche Regel an welcher Stelle geprüft wurde, welche Information in die Entscheidung eingeflossen ist und wie das Ergebnis zustande kam. Dadurch werden Entscheidungen wiederholbar und überprüfbar. KI wird zum Werkzeug innerhalb eines rechtsstaatlich definierten Prozesses, anstatt selbst zur kaum kontrollierbaren Entscheidungsinstanz zu werden.

Ein Hoffnungsschimmer des Phänomens

Der wachsende Druck kann Verwaltungen dazu anspornen, sich ernsthaft mit KI und der eigenen Digitalisierung auseinanderzusetzen. KI kann dabei einen wichtigen Beitrag leisten – wenn sie richtig eingesetzt wird. Sie sollte den Zugang zum Recht erleichtern, Beschäftigte entlasten und klar definierte Aufgaben übernehmen. Rechtsstaatlichkeit, Nachvollziehbarkeit und die Gleichbehandlung vergleichbarer Fälle müssen dabei jedoch die Architektur bestimmen. Gelingt das, könnte Agentic Flooding zum Anstoß für eine Verwaltung werden, die auch im KI-Zeitalter handlungsfähig bleibt.

Till Behnke ist Mitgründer und CEO der Rulemapping Group.