Es ist beeindruckend, wie unauffällig sich sogenannte Anwendungen im Bereich Künstliche Intelligenz (KI) inzwischen in unseren Alltag integriert haben: Von fast schon menschlich anmutenden Konversationen bis zu täuschend echten Deep Fake Videos, von preisgekrönten Kunstwerken bis hin zu Hausaufgaben. Es fällt uns zunehmend schwer zu erkennen, was „echt“ ist (im Sinne von menschengemacht) und was automatisiert erstellt wurde.
Daher erscheint es umso wichtiger, genau darüber proaktiv Transparenz zu schaffen. Unabdingbar ist das dort, wo solche Systeme Entscheidungen vorbereiten oder sogar treffen. Aber auch bei vermeintlich harmlosen Inhalten kann der Hinweis auf die automatisierte Erstellung bei der Einordnung helfen. Diese Hinweise an einer zentralen Stelle zu sammeln, ist die Grundidee des KI-Transparenzregisters. Dazu wird derzeit in Deutschland diskutiert – zuletzt veröffentlichte Algorithmwatch ein Konzeptpapier, auch das Verwaltungsnetzwerk Next und die Bertelsmann-Stiftung haben ihre Überlegungen zur Einführung vorgestellt.
Vorbilder in Europa suchen
Im Rahmen des Creative Bureaucracy Festivals, das heute mit seinem „Digital Kick-Off Day“ eröffnet wird, wurden nun europäische Stimmen und Vorbilder versammelt – denn was in Deutschland aktuell noch diskutiert wird, ist in Europa vielfach schon umgesetzt.
Paula Boet, Projektmanagerin für Digitalrechte der Stadt Barcelona und der Cities Coalition for Digital Rights, berichtet von ihren Erfahrungen im Umgang mit KI-Projekten und Transparenzregistern in Spanien. Die Stadtverwaltung in Barcelona sei einen intensiven Prozess durchlaufen, um ihre städtische KI-Strategie zu entwickeln, die auch den Einsatz eines KI-Registers vorschreibt. Boet sieht einen klaren Vorteil in KI-Transparenzregistern: „Nicht nur schaffen diese Register mehr informative Offenheit gegenüber der Bevölkerung, sie fördern auch eine ethische und nichtdiskriminierende Nutzung algorithmischer Systeme innerhalb der Verwaltung.“
Ähnliche Erfahrungen hat ihre Kollegin Talar Kalayciyan in Amsterdam gemacht. Kalayciyan arbeitet für das „Algorithmus-Team“ der niederländischen Stadt und erzählt, dass sie neben dem Mehrwert für die Öffentlichkeit auch einen klaren Nutzen solcher Transparenzregister für die interne Verwaltungsarbeit sehe. Im Zuge der Einführung des KI-Transparenzregisters sind in der Amsterdamer Stadtverwaltung neue Governance-Strukturen etabliert worden, die klare – auch dezernatsübergreifende – Prozesse der Zusammenarbeit festgelegt haben.
Lodewijk Noordzij, der für das Städtenetzwerk Eurocities zusammen mit neun europäischen Städten derzeit an einem Open Source-Datenmodell für solche Register arbeitet, betont deshalb: „Man muss das Rad nicht neu erfinden.“ Noordzij baut im Rahmen des aktuellen Projekts nämlich auf die bereits bestehenden KI-Register aus Amsterdam und Helsinki auf und entwickelt diese weiter. „Wenn wir alle auf der gemeinsamen Basis aufbauen und diese Open Source teilen, schaffen wir nicht nur eine gute Datenbank, sondern ein Tool, von dem wir alle lernen können“, führt Noordzij aus.
Talar Kalayciyan ergänzt, dass die Einführung der Register in Amsterdam lediglich ein Startpunkt für einen sich fortlaufend weiterentwickelnden Prozess sei. „Wir haben die Einführung des Transparenzregisters als Startpunkt genommen, um uns mit unseren internen Prozessen auseinanderzusetzen, und das Register mittlerweile um eine ganze Reihe von Instrumenten erweitern können.“ Lodewijk Noordzij empfiehlt allen: „Just start trying!“
Drei Thesen für ein deutsches KI-Register
Was also können wir von unseren europäischen Kolleginnen und Kollegen lernen? Wir möchten drei Thesen aufstellen, wie eine Einführung eines solchen Registers auch in Deutschland erleichtert werden kann.
Koalition der Willigen schmieden: Auch wenn die europäische KI-Verordnung Transparenzregister vorsieht, kann es noch lange dauern, bis diese umgesetzt sind. Viele öffentliche Akteure aus unseren EU-Nachbarstaaten gehen daher mit gutem Beispiel voran. Auch in Deutschland könnte eine „Koalition der Willigen“ das Thema deutlich voranbringen.
Das Rad nicht neu erfinden: Statt sich mühsam eigene Prozesse und Systeme aufzubauen, könnten die bereits bestehenden Register aus den europäischen Nachbarstaaten für den Anfang als Blaupause genutzt und sukzessive an die Anforderungen in Deutschland – wenn nötig – angepasst werden.
„Just start trying!“: KI-Register müssen nicht von Tag eins die perfekte Lösung abbilden. Sie müssen ohnehin fortlaufend an neue technologische und prozessuale Entwicklungen angepasst werden. Wichtiger als ihre Perfektion ist daher, dass sie klare Anlaufstellen für Rückmeldungen beinhalten, die dann mit dem jeweils nächsten „Update“ umgesetzt werden können.
Wenn diese ersten Schritte gegangen werden, kann Deutschland schneller in die tatsächliche Umsetzung von KI-Transparenzregistern kommen. Das wiederum würde nicht nur Bürgerinnen und Bürgern, sondern auch der Verwaltung selbst dabei helfen, das immense Potenzial von KI-Anwendungen verantwortungsvoll zu nutzen.
Anita Klingel arbeitet seit Februar 2021 bei dem öffentlichen Beratungsunternehmen PD und leitet dort als Managerin das KI-Team der Beratungsagentur. Die studierte Kunst- und Kommunikationsmanagerin betreut Projekte im Geschäftsbereich Strategische Verwaltungsmodernisierung mit Schwerpunkt Künstliche Intelligenz und Bildung.
Paul Böttcher ist als Consultant bei der PD für Projekte im Geschäftsbereich Bau, Infrastruktur und Kommunalberatung mit dem Schwerpunkt strategische Verwaltungsmodernisierung in Kommunen. Zuvor war Paul Böttcher unter anderem für die Ifok GmbH tätig, für die er als Projektleiter die Nationale Dialogplattform Smart Cities leitete.
