KI-Governance : Nehmt KI-Ethik-Boards endlich ernst!

„I participate, you participate, he participates, we participate, you participate … they profit.“ So heißt es auf einem französischen Plakat des Atelier Populaire von Mai 1968. Beiräte haben einen miserablen Ruf und das nicht ohne Grund. Oft sind sie ineffektiv, teuer und dienen vor allem als PR-Instrument: Prominente Namen werden für Pressemitteilungen oder Investoren-Pitches herangezogen, haben aber keinen echten Einfluss. Das Kollektiv Atelier Populaire verdeutlichte diese Spannung mit dem Zitat.

Große Tech-Konzerne experimentieren seit Jahren mit Ethik-Boards als Format. Insbesondere bei der Entwicklung von Künstlicher Intelligenz (KI) haben sich Meta, Google, Microsoft & Co alle zuletzt gedacht: Ein KI-Ethik-Board, das wäre doch was!

Vor kurzem wurde ich selbst gefragt, ob ich Teil eines solchen „KI-Diversity-Board“ werden möchte. Warum diese Anfrage enttäuschend war, dazu komme ich später in diesem Text. Solche Anfragen zeigen zunächst einmal: Auch jenseits von Big Tech wächst das Interesse. Mitbestimmung rückt vermehrt in den Fokus, unsere Haltung gegenüber KI in unserer Gesellschaft hat sich verändert. Nicht zuletzt, weil es inzwischen zu unzähligen dokumentierten Schäden in Bereichen wie öffentlicher Sicherheit, Arbeit oder Gesundheit gekommen ist.

In dem Zusammenhang frage ich mich häufiger: Sind KI-Ethik-Boards oder KI-Diversity-Boards das nächste Feigenblatt für „Responsible AI“ oder auf Deutsch verantwortungsvolle KI – übrigens ein Marketing-Begriff, den Microsoft geprägt hat, um die eigenen Produkte als sicher zu verkaufen – oder können sie ein echtes Instrument für Mitbestimmung sein?

Was genau ist ein KI-Ethik-Board überhaupt?

Ethik-Boards gibt es überall dort, wo Risiken für Leib und Leben vorliegen. Typische Bereiche sind die Medizin, Forschung oder Politik. Solche Beiräte bringen möglichst diverse Perspektiven zusammen, die einer Organisation sonst fehlen würden. Die Aufgabe der Mitglieder ist es, kritische Fragen zu stellen, Standards mitzuentwickeln und als Frühwarnsystem zu fungieren.

KI ist schon lange kein neutrales Werkzeug mehr, sondern ein soziotechnisches System, eingebettet in Politik, Wirtschaft und Kultur. Die Ergebnisse von KI können diskriminieren, Wahlen manipulieren, autonome Waffen steuern oder Arbeitsmärkte umwälzen. Und die Liste geht weiter.

Die KI-Industrie ist zudem ein großes Geschäft. Laut den Vereinten Nationen wird der KI-Markt bis 2033 ein Volumen von 4,8 Billionen US-Dollar erreichen und sich damit als dominierende Schlüsseltechnologie etablieren. Eben dieses Geschäft funktionierte von Beginn an nur, weil Mensch und Umwelt in verschiedenen Formen ausgebeutet wurden – ich empfehle an dieser Stelle Bücher wie „Atlas of AI“ von Kate Crawford oder „Unmasking AI“ von Joy Buolamwini. All diese Werke zeigen: KI ist ein mächtiges Mittel, um unsere Gesellschaft noch ungerechter zu machen, wenn wir sie unreflektiert einsetzen.

Was zeichnet ein gutes KI-Ethik-Board aus? Und was ein schlechtes?

Ein gutes Board zeichnet sich durch ein klares Ziel, ausreichende Ressourcen und eine sinnvolle Zusammensetzung aus. Ziele und Verantwortlichkeiten sollten stets kontextabhängig festgelegt werden. So könnte es die Aufgabe eines solchen Boards sein, bei einer verantwortungsvollen KI-Strategie mitzuwirken, ein Frühwarnsystem für blinde Flecken zu entwickeln oder als Brücke zwischen Technologieentwicklung und gesellschaftlicher Realität zu wirken. Über Aufgaben und Mandat muss zu Beginn offen diskutiert und eine verbindliche Grundlage geschaffen werden.

Es reicht nicht, auf Diversität nach außen zu setzen. Ein wirksames Board muss echte Perspektivenmacht abbilden und unterschiedliche Wissensformen, technisches, gesellschaftliches und erfahrungsbasiertes Wissen, gleichermaßen ernst nehmen. Nur so entsteht ein Gremium, das über PR-Symbolik hinausgeht und die relevanten Fragen auf den Tisch bringt. In meiner ersten Anfrage war genau das unklar: Warum welche Person ins Board geholt werden sollte.

Ebenso wichtig sind die Ressourcen. Ein Board braucht verlässliche Zeitbudgets und eine angemessene Vergütung, um unabhängig arbeiten zu können. Dazu gehört ein seriöses Budget, das es ermöglicht, Expertise einzukaufen oder externe Prüfungen zu beauftragen. Auch bei meiner Erfahrung blieben die Angaben dazu vage: Es hieß, es könnte irgendwann Anteile geben oder die Möglichkeit, eine Beta-Version kostenlos zu nutzen. Irgendwann, irgendwie, das klang für mich nach „hope labor“ – also Arbeit in der Hoffnung auf künftige Gegenleistungen, ohne gesicherte Anerkennung oder Vergütung. Ausgerechnet in einem KI-Diversity-Board unbezahlte Expertise marginalisierter Stimmen zu instrumentalisieren, ist perfide. Es zerstört Glaubwürdigkeit und reproduziert die Ausbeutung, die KI eigentlich überwinden sollte.

Es birgt zudem die Gefahr, dass ethische Risiken nicht ernst genommen werden. Eine Einladung zur Reflexion an dieser Stelle: Wenn ethische Risiken das größte Schadenspotenzial ausmachen in der Entwicklung und Nutzung von KI – sollte eine Organisation es wirklich allein Menschen im Ehrenamt überlassen, diese Risiken aufzudecken? Entscheidend ist außerdem Kontinuität. Einmalige Konsultationen reichen nicht. Es braucht laufende Prozesse, der Beirat muss institutionell verankert werden, um Wirkung zu entfalten.

Klar ist: Ethik-Boards sind kein Ersatz für interne Expertise. Wer beispielsweise Hochrisiko-KI entwickelt, muss sich diese Fachkompetenz einkaufen. Boards sind lediglich ein zusätzlicher Schutz und ein Format der Mitgestaltung. Sie dürfen nie die einzige Verteidigungslinie sein.

Wessen Ethik – und für wen?

Zu oft dominieren westliche, akademische Werte das Feld. Das ist nicht nur ein Gefühl: Eine Studie zu kulturellem Bias in großen Sprachmodellen verglich die Ausgaben der Modelle mit Wertemustern aus 107 Ländern. Die Modelle spiegelten dabei überwiegend Annahmen englischsprachiger, westeuropäischer Gesellschaften wider. Das ist problematisch. Denn wie Menschen Vertrauen aufbauen, Respekt untereinander zeigen oder Konflikte lösen, unterscheidet sich stark von Land zu Land.

Warum das zählt: Unternehmen messen (noch) vor allem technische und operative Kennzahlen wie die Antwortzeit der Sprachmodelle. Kulturelle Passung wird selten geprüft, mit spürbaren Folgen für Zufriedenheit, Bindung und Reputation in einzelnen Märkten. Genau hier brauchen Ethik-Boards ein klares Mandat: kulturelle Annahmen erkennen, vor dem Roll-out beispielsweise mit kulturellem Red-Teaming oder lokalen Panels testen, und Anpassungen an den Systemen empfehlen.

Worst Practice ist es, ein Board einfach Inhalte moderieren zu lassen – und das schlimmstenfalls noch unbezahlt. Das reproduziert das Phänomen „Ghost Work“. Der Begriff steht für all solche Aufgaben, die vermeintlich automatisiert, tatsächlich aber von Menschen erledigt werden – meist unter prekären Bedingungen im globalen Süden. Ein Board soll Governance und Wirkung der KI prüfen, nicht Inhalte als gut oder schlecht labeln.

Die Kernfrage bleibt: Geht es bei Partizipation nur darum, Technik besser zu machen – oder zählt die praktische Erfahrung der Beteiligten selbst als Wissen, das Entscheidungen beeinflusst? Führungsteams müssen die Frage bewusst adressieren: eigene Werte transparent machen, Kontexte der Zielmärkte ernst nehmen und schädliche Routinen vermeiden.

Dass es auch anders geht, habe ich kürzlich selbst erlebt: Nach einer enttäuschenden ersten Anfrage folgte eine zweite – dieses Mal mit klarer Zielsetzung, transparenter Kommunikation über Ressourcen und echter Offenheit für die Perspektiven potenzieller Beirät:innen. Ein erster ermutigender Beweis, dass gute Praxis möglich ist.

Yasemin Efiloğlu arbeitet seit Juli 2024 als Spezialistin für Künstliche Intelligenz mit Fokus auf Ethik, Governance und Umsetzung bei der PD, der Inhouse-Beratung der öffentlichen Verwaltung. Sie ist außerdem als KI-Trainerin und Speakerin aktiv. Bei der Bundestagswahl 2025 trat sie als Direktkandidatin für Volt in Berlin an.