Regieren mit KI : Warum Technologie allein die Probleme der Verwaltung nicht lösen kann

Künstliche Intelligenz entwickelt sich rasch zu einem zentralen Bestandteil der öffentlichen Verwaltung. Regierungen auf der ganzen Welt setzen KI ein, um die Erbringung öffentlicher Dienstleistungen zu verbessern, die Politikgestaltung zu unterstützen und die Verwaltungseffizienz zu steigern.

Diese Entwicklungen stehen im Mittelpunkt des aktuellen Policy Briefs „Mit KI regieren: Vier Maßnahmen zum Aufbau einer transformativen und resilienten öffentlichen Verwaltung“, das unter der Leitung des kanadischen Kompetenzzentrums für künstliche Intelligenz (KI) und Datenwissenschaft (IVADO) und der „AI + Society Initiative“ an der Universität Ottawa von acht Wissenschaftlern aus sieben Ländern erarbeitet wurde.–

Die zentrale Erkenntnis ist einfach: KI kann dysfunktionale Systeme nicht reparieren. Wenn Regierungen KI einsetzen, ohne die zugrunde liegenden Herausforderungen der Governance anzugehen, laufen sie Gefahr, Ineffizienz zu automatisieren, anstatt die öffentliche Verwaltung zu transformieren. Und eines ist klar: Rechenschaftspflicht ist die Grundvoraussetzung für den Einsatz von KI im öffentlichen Sektor.

Mit dem Problem beginnen, nicht mit der Technologie

Öffentliche Verwaltungen wurden geschaffen, um Einheitlichkeit, Fairness und Vorhersehbarkeit zu fördern. Im Laufe der Zeit sind viele jedoch durch fragmentierte Prozesse, komplexe Verfahren, isolierte Entscheidungsfindung und veraltete Systeme gekennzeichnet. Werden diese einfach in KI-Systeme übertragen, verstärkt die Technologie am Ende bestehende Schwächen – manchmal mit schwerwiegenden Folgen. In Michigan wurden fast 40.000 Menschen von einem KI-System fälschlicherweise beschuldigt, Arbeitslosengeld betrügerisch bezogen zu haben, weil die Technologie einen fehlerhaften Prozess automatisierte, anstatt ihn zu korrigieren.

Eine erfolgreiche Einführung von KI erfordert daher einen Wandel von technologiegetriebenen Initiativen hin zu problemorientierten Reformen. Regierungen sollten zunächst konkrete öffentliche Bedürfnisse ermitteln, Prozesse bei Bedarf neu gestalten und klare Erfolgskriterien definieren, bevor sie eine Automatisierung in Betracht ziehen. Beamte sollten als Mitgestalter einbezogen werden, und die Einführung sollte schrittweise erfolgen: pilotieren, messen, anpassen, dann skalieren.

Die Frage sollte nicht lauten: „Wo können wir KI einsetzen?“, sondern vielmehr: „Welches Problem versuchen wir zu lösen?“

Aufbau institutioneller Kapazitäten

Das größte Hindernis für die Einführung von KI sind oft nicht technische Fähigkeiten, sondern institutionelle Kapazitäten.

Regierungen sehen sich häufig mit fragmentierten Datensystemen, begrenzter digitaler Expertise und einem intensiven Wettbewerb mit der Privatwirtschaft um KI-Fachkräfte konfrontiert. Infolgedessen werden viele öffentliche Einrichtungen stark von externen Anbietern abhängig – was ihre Fähigkeit einschränkt, die Technologien, auf die sie sich stützen, zu verstehen, zu bewerten und zu überwachen.

Der Aufbau interner Kapazitäten muss daher zu einer strategischen Priorität werden. Beamte benötigen praktische Fähigkeiten, um zu verstehen, wie KI-Systeme funktionieren, deren Grenzen zu erkennen, Risiken zu identifizieren und einzugreifen, wenn Systeme versagen. Ebenso wichtig sind spezifisch menschliche Fähigkeiten – die Interpretation komplexer Einzelfälle, der Ausgleich konkurrierender Interessen und die Gewährleistung, dass algorithmische Entscheidungen fair bleiben.

Regierungen sollten zudem multidisziplinäre KI-Supportteams einrichten, die Fachwissen aus den Bereichen Technik, Recht, Politik, Service-Design und Change-Management vereinen, um sinnvolle Anwendungsfälle zu identifizieren, die Umsetzung zu steuern und sicherzustellen, dass KI im Einklang mit öffentlichen Werten steht. Dänemarks Einsatz von regulatorischen Sandboxes und einer schrittweisen Einführung bietet ein konkretes Modell.

Machtverhältnisse durch gemeinsames Handeln neu ausbalancieren

Das globale KI-Ökosystem konzentriert sich zunehmend in den Händen einer kleinen Zahl von Unternehmen – vor allem aus den USA und China –, die Schlüsseltechnologien, Infrastruktur und Fachwissen kontrollieren. Vielen öffentlichen Institutionen fehlt der Verhandlungsspielraum, um Prüfungsrechte auszuhandeln oder eine langfristige Bindung an einen Anbieter zu vermeiden. Wenn Regierungen die Systeme, die sie zur Entscheidungsfindung über die Rechte und Ansprüche der Menschen nutzen, nicht vollständig verstehen oder prüfen können, regieren sie faktisch im Dunkeln.

Um dieser Herausforderung zu begegnen, müssen Regierungen gemeinsam handeln. Gemeinsame Beschaffungsstrategien – nach dem Vorbild der Verhandlungen der Impfstoffallianz, bei denen die gebündelte Nachfrage Konditionen sichert, die keine einzelne Regierung allein erreichen könnte – würden es Ländern ermöglichen, Prüfungsrechte, Transparenz bei Trainingsdaten und Garantien für die Datenportabilität auszuhandeln. Öffentliche Institutionen sollten zudem in gemeinsame digitale Infrastruktur investieren: Estlands X-Road, eine offene Interoperabilitätsschicht, die mittlerweile von 20 Ländern genutzt wird, zeigt, wie öffentliche digitale Ressourcen die Abhängigkeit von proprietären Plattformen verringern können.

Das Ziel ist nicht Selbstversorgung, sondern Resilienz: sicherzustellen, dass kein einzelner Anbieter, keine einzelne Plattform und keine einzelne Technologie unverzichtbar wird.

Aufbau eines Vertrauensrahmens für den öffentlichen Sektor

Wie in der im Juni 2026 vorgestellten neuen kanadischen KI-Strategie betont wurde, ist das Vertrauen der Öffentlichkeit eine Voraussetzung für die Einführung von KI – doch wird dieses Vertrauen systematisch untergraben, wenn KI-Systeme als undurchsichtige „Black Boxes“ funktionieren. Nur 35 Länder verfügen über Rahmenwerke, die Rechtsbehelfs- und Entschädigungsmechanismen vorsehen, wenn Einzelpersonen durch ein staatlich geführtes KI-System benachteiligt werden. In Spanien orientierte sich die Polizei in 95 % der Fälle häuslicher Gewalt an einem algorithmischen Risikowert, anstatt diesen als einen von mehreren Faktoren zu betrachten – mit fatalen Folgen.

Die Experten des Policy Briefs empfehlen den Aufbau eines „Trust Stacks“ im öffentlichen Sektor, der sich auf drei Ebenen stützt. Die erste ist Transparenz: Regierungen sollten öffentlich zugängliche KI-Register führen – Kanada hat 2025 sein obligatorisches Bundes-KI-Register eingeführt –, vor der Einführung algorithmische Folgenabschätzungen durchführen und die Bürger informieren, wenn KI Entscheidungen über sie beeinflusst. Die zweite ist Anfechtbarkeit: Es müssen wirksame Rechtsbehelfsmechanismen vorhanden sein. Schleswig-Holstein hat einen formellen „KI-Widerspruchsmechanismus“ eingeführt, der es ermöglicht, automatisierte Entscheidungen von einem menschlichen Entscheidungsträger überprüfen zu lassen – ein Modell, das es wert ist, ausgeweitet zu werden. Die dritte Säule ist die unabhängige Aufsicht: Gremien mit mehreren Interessengruppen – Zivilgesellschaft, Wissenschaft, Industrie und Gewerkschaften – sollten KI-Systeme überwachen, wobei Whistleblower stark geschützt werden müssen.

Vertrauen darf nicht als zweitrangig betrachtet werden. Es ist eine Voraussetzung für den legitimen Einsatz von KI in der Regierung.

Regierungen aufbauen, die KI steuern können

Die Debatte über KI in der Verwaltung wird oft als Frage des technologischen Fortschritts dargestellt. In Wirklichkeit geht es um Regierungsführung und Resilienz. Technologische Ausfälle sind unvermeidbar: Ein fehlerhaftes Software-Update im Jahr 2024 legte weltweit 8,5 Millionen Systeme lahm und führte dazu, dass Krankenhäuser und Behörden tagelang handlungsunfähig waren. Regierungen müssen Resilienz als Kernkompetenz betrachten, Ausweichverfahren entwickeln und ihre Systeme regelmäßig Stresstests unterziehen, bevor eine Krise eintritt.

Die erfolgreichsten Verwaltungen werden nicht diejenigen sein, die KI am schnellsten einsetzen, sondern diejenigen, die sie am durchdachtesten einsetzen. Starke Institutionen, kompetente Beamte, transparente Regierungsführung und das Vertrauen der Öffentlichkeit bleiben die wesentlichen Grundlagen. Letztendlich müssen Regierungen zunächst die Fähigkeit aufbauen, KI zu steuern, bevor KI den Regierungen helfen kann, besser zu regieren.

Autor:innen des Policy Briefs sind Catherine Régis, Florian Martin-Bariteau, Rachel Adams, Brunessen Bertrand, Jake Okechukwu Effoduh, Peter Parycek, Carlos Affonso Pereira de Souza and Hyesun Yoon.

Catherine Régis ist Professorin an der Rechtswissenschaftlichen Fakultät der Université de Montréal (UdeM), Co-Direktorin der Forschungsprogramme des Canadian Institute on AI Safety und Direktorin für soziale Innovation und internationale Politik am Institute for Data Valorization (IVADO), einem führenden kanadischen Kompetenzzentrum für KI und Datenwissenschaft. Régis hat den Canada-CIFAR-Lehrstuhl für KI und Menschenrechte (Mila) sowie den Lehrstuhl für Wissenschaftsdiplomatie und globale KI-Governance (Fonds de recherche du Québec) inne.