Künstliche Intelligenz (KI) : Land der sterbenden Ideen

Die Frage, wie Algorithmen und Künstliche Intelligenz (KI) für das Gemeinwohl eingesetzt werden können, genießt immer größere Prominenz. Inzwischen widmet sich eine Vielzahl an Konferenzen dem Thema, die sich wahlweise dem Zusammenspiel von Künstlicher Intelligenz mit dem „common good“, „social good“ oder auch nur dem einfachen „good“ verschrieben haben. Die Fülle an Beiträgen zu diesem Thema erklärt sich zum Teil durch eine unklare Spezifikation dessen, was Gemeinwohl bedeutet. Gemeinwohl heißt zunächst nur, dass nicht Einzelinteressen im Vordergrund stehen, sondern das Wohlergehen möglichst vieler Mitglieder einer Gemeinschaft.

Die Frage, wie Gemeinwohl jedoch konkret erreicht werden soll und wie es gemessen werden kann, ist jedoch offen. Diese Unschärfe trägt dazu bei, dass sich eine Fülle von unterschiedlichsten Akteuren hinter ebenso heterogenen Initiativen verbirgt, die alle den Anspruch erheben, dem Gemeinwohl zu dienen. Tatsächlich ist das Potenzial von Algorithmen für das Gemeinwohl in der Praxis ausgesprochen hoch. Eine Vielzahl von gesellschaftlichen Herausforderungen, die bislang analog in Angriff genommen werden, können unterstützend durch Algorithmen adressiert werden. Darunter fallen zum Beispiel Sprachassistenzsysteme, KI-gestützte Diagnosesysteme im Gesundheitssektor, Dokumentationssysteme für bedrohte Tierarten, algorithmenbasierte Kitaplatzvergabe oder Angebote zur individuellen schulischen Unterstützung.

(Fast) vergebens gesucht: Anwendungen aus dem öffentlichen Sektor und der Zivilgesellschaft

Die meisten bekannteren Initiativen und Produkte stammen jedoch auf den ersten Blick von wirtschaftlichen Akteuren. Die Beobachtung eines scheinbaren Überhangs an wirtschaftlichen Akteuren hat uns im Projekt „Ethik der Algorithmen“ dazu motiviert, einmal genauer hinzuschauen. Zusammen mit Betterplace Lab haben wir uns auf die Suche nach Beispielen gemacht, die algorithmische Systeme und Künstliche Intelligenz für gemeinwohlorientierte Zwecke einsetzen und nicht von wirtschaftlichen Akteuren vorangetrieben wurden. Bewusst haben wir uns für eine engere Definition von Gemeinwohl entschieden. Entscheidend ist für uns die soziale Einbettung der Technologie.

Um nicht der Idee des Techno-Solutionismus zu folgen, sollte immer die soziale Problemstellung und nicht die technische Lösung im Zentrum jeder Anwendung stehen. Einschränkend muss jedoch angemerkt werden, dass wir nur Fälle ausgewählt haben, die auf den europäischen Kontext übertragbar sind. Anwendungen aus dem Bereich der Entwicklungszusammenarbeit, die einen Großteil der Fälle des Algorithmeneinsatzes fürs Gemeinwohl stellen, sind nicht berücksichtigt worden. Der Fokus in unserer Recherche lag auf zivilgesellschaftlichen und öffentlichen Akteuren, wie gemeinnützigen Organisationen, Universitäten, Gemeinden, Kommunen und Städten. Dadurch, dass bei beiden Akteursgruppen die wirtschaftliche Verwertbarkeit nur sekundär ist, haben wir diese als besonders prädestiniert bewertet, einen gemeinwohlorientierten Ansatz zu verfolgen, bei dem die soziale Fragestellung zentral ist. Diese Passgenauigkeit zwischen der Eigenschaft der Akteure und Charakteristik des Gemeinwohlbegriffs hat bei uns die Erwartung wecken lassen, in einer genaueren Recherche auf einen großen Fundus an konkreten Anwendungsfällen zu stoßen.

Tatsächlich ist die Zahl der konkreten Anwendungsfälle von Algorithmen und KI für das Gemeinwohl jedoch äußerst gering gewesen. In einer Shortlist, das heißt in einer ersten Auswahl, haben wir lediglich 15 Fallbeispiele gefunden.

Mehr Potenzialversprechen als tatsächliche Anwendungen

Neben dem Mangel an konkreten Beispielen entpuppten sich viele Anwendungsfälle auf den näheren Blick eher als Potenzialversprechen denn als tatsächliche funktionierende Anwendung. Sehr wenige dieser Beispiele haben eine Marktreife und argumentieren stark über die Potenziale, die den Anwendungen innewohnen. So sind im Falle von einzelnen Chatbots die Daten, mit denen die KI trainiert werden soll, noch nicht ausgewählt, während das soziale Problem oftmals scharf skizziert ist. Gleichzeitig wird in einzelnen Fällen, wie bei Anwendungen zur Reduktion von Schulabbrüchen oder dem Bezug von Sozialleistungen, die Frage, ob zur Lösung ein Algorithmus oder eine Künstliche Intelligenz wirklich notwendig ist, nicht in vergleichbarer Tiefe behandelt. Die Konsequenz ist, dass es oft unklar ist, ob die entsprechende Anwendung wirklich zur Lösung eines sozialen Problems beiträgt. Ebenso mangelt es an effektiver Wirkungsmessung, welche zentral bei einer gemeinwohlorientierten Perspektive auf KI und Algorithmen sein sollte.

Nach tiefergehender Recherche hat sich die Liste der 15 Fallbeispielen der Shortlist nochmals auf acht reduziert. Unter diesen befanden sich zwei Chatbots, zwei KI-gestützte Unterstützungssysteme, die den Straßenzustand und Abfall erfassen, ein Onlinebeteiligungstool, ein digitales Bauleitplanung-Unterstützungssystem, eine Monitoring-Technologie, die dem Erhalt von Bienen dient, und ein algorithmengestütztes Tool, welches die Modellierung von Fahrradwegen in verschiedenen Städten ermöglicht. Jedoch variieren auch diese Anwendungen im Hinblick auf den Reifegrad oder den gesellschaftlichen Mehrwert. Was können also mögliche Erklärungen dafür sein, dass die Anzahl an gemeinwohlorientierten Algorithmen und KI-Anwendungen aus der Zivilgesellschaft und dem öffentlichen Sektor so limitiert ist?

Woran es mangelt

Die Gründe für den Mangel an konkreten gemeinwohlorientierten KI- und Algorithmen-Anwendungen sind vielschichtig und komplex. Drei Beobachtungen stechen aus unserer Perspektive jedoch heraus:

1. Viele gemeinnützige Organisationen oder öffentliche Akteure verfügen nicht über die notwendigen Daten und Datenkompetenz, um Algorithmen oder KI-Anwendungen aufzusetzen und zu trainieren. Es fehlt also zum einen an einer ausreichenden Datenqualität, die Grundbedingung für die Entwicklung von Anwendungsfällen ist. In gleicher Weise mangelt es an Kompetenz, um mit den existierenden Daten umgehen zu können.
2. Eng mit dem ersten Punkt verknüpft ist ein Mangel an personellen Ressourcen, um selbst gemeinwohlorientierte Algorithmen oder KI-Anwendungen zu entwickeln. Tatsächlich wird die Expertise oft von außen eingekauft. Insbesondere viele öffentliche Akteure beauftragen bei Digitalisierungsvorhaben externe IT-Dienstleister, anstatt den Kompetenzaufbau intern voranzutreiben.
3. Das dritte beobachtete Hindernis sind die fehlenden finanziellen Mittel, um gemeinwohlorientierte Algorithmen und KI-Anwendungen zu entwickeln und/oder weiterzuführen. Besonders exemplarisch ist das Beispiel von Universitäten, die Innovationstreiber für die Entwicklung von Prototypen gemeinwohlorientierter algorithmischer Systeme oder KI-Anwendungen sind. Anders als die öffentliche Verwaltung und die Zivilgesellschaft haben Universitäten die nötige Expertise und entwickeln auch viele Prototypen. Sobald jedoch ein Projekt abgeschlossen ist, fehlt es entweder an Eigenmitteln, das Projekt weiter zu finanzieren, oder an willigen Akteuren, die die Anwendung weiterführen wollen. Ausgründungen werden verstärkter bei kommerziellen Anwendungen getätigt.

So kann das Potenzial gehoben werden

Die Potenziale für gemeinwohlorientierten Algorithmen- und KI-Einsatz sind zweifellos da. Doch müssen Sie auch von Zivilgesellschaft und öffentlichem Sektor gehoben werden. Dazu bedarf es einer Kraftanstrengung.

Zunächst müssen sich die externen Rahmenbedingungen, hier besonders die Finanzierungsmöglichkeiten, verändern. Es gibt erste Ansätze von Förderprogrammen verschiedener Ministerien, wie des Bundesministeriums für Arbeit und Soziales (BMAS), des Bundesministeriums für Bildung und Forschung (BMBF) oder des Bundesministeriums für Familie, Senioren, Frauen und Jugend (BMFSFJ), die jedoch noch nicht ausreichen. Besonders mangelt es an einer längerfristigen Perspektive, das heißt, es braucht mehr Programme, die eine langfristige Förderung beinhalten. Gerade die Verstetigung von Ideen und Initiativen zu gemeinwohlorientiertem Algorithmeneinsatz stellt noch zu oft eine große Hürde dar.

Zudem bedarf es einer größeren Transparenz darüber, wie entsprechende Projekte im Zuge der Innovationsförderung ausgewählt werden. Dies umfasst die Frage nach einer Spezifikation, was Gemeinwohl in diesem Zusammenhang bedeutet, und einer entsprechenden Bewertungsheuristik, wie Anwendungsfälle ausgewählt werden – ein Thema, welches von Akteuren wie dem Humboldt Institute for Internet and Society (HIIIG) verstärkt behandelt wird.

Neben den externen müssen jedoch auch die internen Rahmenbedingungen adressiert werden. Besonders wichtig ist hier, dass interner Kompetenzaufbau vorangetrieben wird und strategische Entscheidungen darüber getroffen werden, wie mehr Ressourcen für dieses Thema eingesetzt werden können. Gerade der Zivilgesellschaft und dem öffentlichen Sektor fehlt es noch an Vorstellungsmöglichkeiten, wie Algorithmen und KI für gemeinwohlorientierte Zwecke eingesetzt werden können.

Mehr Datenkompetenz, personelle Ressourcen und finanzielle Mittel führen sowohl zu mehr Möglichkeitsräumen als auch zur Verstetigung bestehender Ideen und Ansätze. Um in Zukunft deutlich mehr Beispiele für den gemeinwohlorientierten Algorithmen und KI-Einsatz zu finden, müssen wir das Thema gemeinsam angehen, um das Feld nicht nur wirtschaftlichen Akteuren zu überlassen.

Felix Sieker ist Projektmanager für „Ethik der Algorithmen“ im Programm „Digitalisierung und Gemeinwohl“ bei der Bertelsmann-Stiftung. Zuvor arbeitete er an der Hertie School in einem Projekt zu digitaler Arbeit, war Freelancer für Stiftungen und das BMAS. Als Sherpa war er zudem im Hightech-Forum, dem Beratungsgremium der Bundesregierung für die Implementierung der Hightech-Strategie 2025, beschäftigt. 2021 promovierte Felix mit einer Arbeit zur Rolle von Plattformunternehmen in der digitalen Transformation von Arbeit an der Hertie School. Dieser Text ist lizenziert unter einer Creative Commons Namensnennung 4.0 International Lizenz und zuerst auf dem Projekt-Blog „Algorithmenethik“ erschienen.