Künstliche Intelligenz (KI) : Verdummen wir jetzt – oder waren wir nie smart?

„Sag mal, Philipp – wenn wir bei unserer Arbeit jetzt ständig nur noch KI verwenden … verdummen wir dann nicht?“ Diese Frage stellte mir vor zwei Jahren einer unserer Personalräte, nachdem wir dem Gremium unsere Strategie zur „KI-Kompetenz in der öffentlichen Verwaltung“ vorgestellt hatten. Es war der Übergang zum Diskussionsteil – und eine dieser Fragen, bei denen man einfach zugeben muss: Ich weiß es nicht. Hier hilft auch meine vermeintliche Expertise nicht weiter. Was die Zukunft bringt, vermag ich schlicht nicht vorherzusehen.

Gleichzeitig hat mich die Frage gefreut. Denn sie zeigt: Wir sprechen in unserer Organisation bereits über das „Wie“ – wie wir KI gestalten, wie wir uns wappnen, wie wir als öffentliche Verwaltung mit dem Thema umgehen. Das ist weit konstruktiver als über das „Ob“ zu diskutieren, denn diese Frage stellt sich aus meiner Sicht nicht mehr. KI wird – mit oder ohne uns – unsere Arbeits- und Lebenswelt tiefgreifend verändern. Wir können das nicht aussitzen, ebenso wenig wie Digitalisierung. Vielleicht freuen wir uns diesmal sogar auf die Veränderung. Und vielleicht kann uns die KI ja auch von mancher Aufgabe befreien.

Vorsorge vor KI-Abhängigkeit und kognitivem Abbau

Natürlich müssen wir uns – als Gesellschaft und Organisationen – Gedanken machen, welche Kompetenzen wir selbst weiterhin benötigen. Jede technologische Revolution bringt nicht nur neue, „gefragte“ Kompetenzen mit sich, sondern entwertet auch bestehende. Bis in die 1990er Jahre hinein kannten viele Taxifahrer:innen jede Straße ihrer Stadt auswendig – ein Skill, der mit dem Siegeszug der Navigationssysteme massiv an Bedeutung verloren hat. Und auch Hufschmiede sind mit dem Verbrennungsmotor seltener geworden. Es wird also schon in Ordnung sein, bestimmte Fähigkeiten zu verlieren, andere ziehen ja nach.

Die obige Frage hat mich aber auch schlucken lassen. Denn sie legt einen wunden Punkt offen: Was passiert, wenn wir kognitive Leistungen zunehmend an KI delegieren? Verlieren wir dadurch unsere Fähigkeit zu eben diesen Leistungen? Menschen sind bequem – und das Gehirn, unser „Denk-Muskel“, wird schlaff, wenn wir ihn nicht mehr trainieren. Wie soll ein Mensch ohne die Fähigkeit zur kritischen Reflexion noch die KI bedienen, kontrollieren oder deren Ergebnisse bewerten können?

Ob mein Kollege mit seiner Mahnung recht behalten wird, bleibt abzuwarten. Aber als Verwaltung sollten wir uns jetzt schon wappnen – gegen eine Überabhängigkeit von KI und die Gefahr des kognitiven Abbaus. Natürlich müssen wir KI einsetzen und breit integrieren. Die Mehrwerte liegen auf der Hand. Und im Gegensatz zu früheren technologischen Umbrüchen kann sich die deutsche Verwaltung diesmal nicht der Overperformance rühmen. Doch ebenso notwendig ist ein kritisches Bewusstsein für die Schwächen der KI. Es geht um einen achtsamen, reflektierten Umgang.

Und ja – wir können verdummen. Denn solange wir KI nicht strategisch klug nutzen, werden wir ihre Potenziale nicht heben. Sprachmodelle in die tägliche Verwaltungsarbeit zu integrieren, ist nur der Anfang. Der wahre Schatz liegt darin, unsere Verwaltungsdaten so aufzubereiten, zu pflegen und KI-kompatibel zu machen, dass sie unser Handeln wirklich unterstützen können. Diese Daten müssen jedoch auch verwertbar sein. Und hier, fürchte ich, ist die „Verdummung“ häufig schlichtweg Verwaltungsrealität.

Wir bestimmen, wozu wir KI befähigen

„Garbage in – Garbage out“, so das bekannte Prinzip. Wenn schlechte Daten die Grundlage für Empfehlungen und Entscheidungen bilden, kann das Ergebnis nicht gut sein. Nehmen wir ein Beispiel: Eine KI soll den Bedarf an Kita-Plätzen in einer Stadt prognostizieren – eine durchaus übliche Aufgabe, oft von Beratungsfirmen übernommen. Liegen der KI jedoch veraltete oder unvollständige Daten zugrunde, etwa aus einem alten Zensus, und fehlen aktuelle Informationen zur tatsächlichen Auslastung der Einrichtungen, kann das System zu falschen Schlüssen kommen. Es könnte neue Bauten empfehlen, obwohl Erweiterungen bestehender Kitas ausreichen würden. Die Prognose könnte lauten, dass die Kindergärten der Stadt den Bedarf deutlich decken, bis Eltern auf der Suche nach einem freien Kita-Platz Jahre später verzweifeln.

Das ist ein fiktives Beispiel – aber es steht exemplarisch für ein strukturelles Problem: Auch im Smart-City-Kontext entstehen Daten in großer Menge, doch deren Aufbereitung ist weder einheitlich noch standardisiert. Viele Verwaltungen arbeiten weiterhin isoliert, ohne die offene, interdisziplinäre Wiederverwertbarkeit ihrer Daten mitzudenken. Das Resultat: Die Excel-Tabelle von Behörde A ist der Leitz-Ordner von Behörde B – und die SQL-Datenbank von Behörde C. Dieses Muster wiederholt sich zehntausendfach in Deutschland.

Die Potenziale von KI für die öffentliche Verwaltung sind enorm. Nun gilt es, sie zu heben – durch Kompetenzaufbau, Sensibilisierung für Risiken und vor allem einheitliches Datenmanagement. Solange wir uns dessen bewusst sind, bin ich überzeugt: Wir können die eingangs gestellte Frage selbstbewusst verneinen – und haben keinen Grund zur Angst, denn wir dürfen bei aller KI-Euphorie nicht vergessen: Wir selbst bestimmen, wozu wir KI befähigen. Sie kann uns von Überstunden befreien – sollte es aber nicht vom Denken tun. Und es wäre wirklich nicht smart, diese Chance ungenutzt zu lassen.

Philipp Stolz ist Leiter der Stabsstelle Digitalisierung in Schorndorf (Baden-Württemberg). Zuletzt von ihm erschienen: „Positive Fehlerkultur – Warum Verwaltung scheitern muss“