Über KI in der Verwaltung zu reden, ist zum Must-Have der diesjährigen Events in der Digital-Szene geworden: Kaum ein Programm, in dem nicht über Potenziale, über Risiken, über Erfolge, über die dafür nötigen neuen Frameworks und Förderbedarfe gesprochen wird. Eigentlich müsste also jeder einzelne Aspekt ad nauseam diskutiert worden sein.
Tatsächlich fällt aber gerade im Kontrast zum medialen Lärm ein Thema auf, über das nur abseits der Podien und flüsternd gesprochen wird, wenn überhaupt:
Gescheiterte KI-Projekte
Nachvollziehbar, dass das kein beliebtes Thema ist. Wer stellt sich schon gerne auf eine Bühne und verkündet „Wir haben Tausende Steuerzahler-Euros in den Sand gesetzt“? Wie tief die Angst davor sitzt, über Fehler zu sprechen, zeigte kürzlich erst eine Veranstaltung des Verwaltungs-Netzwerks NExT: Dem Aufruf, sich mit einer eigenen Erfahrung zur ersten „Verwaltungs-FuckUp-Night“ zu melden, folgte von rund 200 Teilnehmenden genau eine Person. Wenn dieses Verhältnis der Realität entspräche, müsste die deutsche Verwaltung nur so strotzen vor tadellos laufenden KI-Anwendungen.
Hier also die erste „These aus dem Maschinenraum“: Es gibt einen Friedhof der KI-Projekte, über den wir (noch) nicht sprechen. Dieser Friedhof ist riesig, aber unsichtbar.
Die Todesursachen sind dabei vielfältig: Weggebrochene Finanzierung, unzureichende Datengrundlage, mittendrin verlorene personelle Kompetenzen, inkompatible Zielsysteme, fehlende öffentliche Akzeptanz...
Einige dieser Diagnosen sind gar nicht KI-spezifisch und wie bei vielen Krankheiten hätte das meiste davon frühzeitig erkannt oder sogar ganz vermieden werden können – wenn Betroffene ihre Erfahrungen weitergeben würden. Und: Wenn es deutschlandweit bekannte Anlaufstellen für diese „KI-Patienten“ gäbe. Ohne diese Anlaufstelle sterben – These zwei – viele Projekte in der Mitte ihres Lebens.
Für Startschwierigkeiten bei KI-Entwicklungen gibt es inzwischen einige Anlaufstellen, wie beispielsweise das BeKI im BMI oder die KI-Servicestellen des BMBF. Für die sehr häufig auftretenden Komplikationen im Projektverlauf selbst ist die Unterstützungs-Infrastruktur dagegen leider noch auf Beratungen beschränkt, auf die nicht alle Zugriff haben.
Ein Hausarzt für KI-Projekte kann gezielt helfen
These drei: Helfen könnte hier ähnlich wie in der Medizin eine Art „Hausarztpraxis“ für KI-Projekte. Ähnlich wie bei einem Hausarzt, der bei Beschwerden eine erste Untersuchung durchführt und gegebenenfalls an Spezialisten überweist, kann diese Instanz frühzeitig potenzielle Schwachstellen und Hürden in KI-Projekten erkennen und zielgerichtet dort helfen, wo die Entwicklung oder der Einsatz des KI-Systems aktuell feststeckt. In einem Erstgespräch identifizieren fachkundige Ansprechpersonen gemeinsam mit den Projektverantwortlichen Bedarfe und gleichen diese mit den bekannten beziehungsweise verfügbaren Ressourcen ab – bei Finanzierungsproblemen beispielsweise mit geeigneten Fördertöpfen, bei Fragen zur Datenqualität mit Prüfverfahren oder alternativen Herangehensweisen. Sofern das Projekt diese Maßnahmen eigenständig umsetzen kann, wäre der Prozess hiermit auch beendet.
Können die identifizierten Herausforderungen nicht alleine gelöst werden, können die „Hausärzte“ vertrauenswürdige und verwaltungserfahrene Fachexpert:innen empfehlen, die bei der Lösungssuche helfen. Dadurch erhalten Projektverantwortliche die notwendige Unterstützung und Expertise, um rechtzeitig Gegenmaßnahmen zu ergreifen und so das Scheitern zu verhindern – der Friedhof füllt sich dann hoffentlich langsamer.
Auf Bundesebene könnten die in den Bundesministerien etablierten Datenlabore diese Funktion erfüllen, das nötige Expert:innen-Netzwerk könnten sich problemlos mehrere Akteure teilen. Aber auch Kommunen würden von so einem shared-service Ansatz profitieren – auch weil dann gemeinsames Wissen über bestehende Anwendungen und Erfahrungen leichter geteilt und somit die Investitionskosten für KI-Projekte gesenkt werden könnten.
Um den Einsatz von KI in der Verwaltung zu fördern, müssen wir nicht nur über Potenziale und Risiken dieses Werkzeugs, sondern auch über die praxisnahen, unerwarteten Herausforderungen sprechen, die auf dem Weg zum Erfolg immer auftreten. Verantwortliche müssen pragmatische, zeitnahe und spezifische Unterstützung erhalten, damit ihre „Patienten“ sich erholen und nicht auf dem Friedhof der KI-Projekte enden.
Anita Klingel leitet das KI-Team der öffentlichen Beratungsagentur PD und berät Bund, Länder und Kommunen zu Künstlicher Intelligenz.
Tobias Krafft ist Manager bei der PD im Bereich Prüfung und Zertifizierung von Künstlicher Intelligenz. Der studierte Informatiker ist Mitgründer des Start-ups Trusted AI, das Unternehmen zum verantwortungsvollen Einsatz von Künstlicher Intelligenz berät.
