In der dreijährigen Laufzeit wurde im Forschungsprojekt „KIDD - Künstliche Intelligenz im Dienste der Diversität“ des Bundesministeriums für Arbeit und Soziales (BMAS) unter dem Dach der Initiative „Neue Qualität der Arbeit“ daran gearbeitet, Unternehmen, Institutionen und politische Entscheidungsträger:innen dabei zu unterstützen, die Implementierung von KI-Systemen in Unternehmen voranzutreiben und gleichzeitig mögliche Diskriminierung durch KI-Systeme zu vermeiden.
Mit Qualitätskriterien, Schulungen und einem (Selbst-)Audit bietet KIDD mittlerweile mehrere Verfahren an, wie KI-Anwendungen in Unternehmen und Institutionen nicht nur effektiv, sondern auch ethisch und inklusiv im Sinne des AI Acts der Europäischen Union eingeführt werden können, um gute Arbeitsbedingungen in der Zukunft zu befördern.
Katja Anclam und Annette von Wedel vom Verein „female.vision“ haben das Projekt mitinitiiert, maßgeblich vorangetrieben und beraten jetzt Unternehmen und Institutionen dabei, wie sie den KIDD-Prozess ebenfalls umsetzen können. Aus ihrer Arbeit leiten die beiden folgende zentrale Thesen ab:
- These 1: Diversität und Inklusion sind Kernkomponenten bei der KI-Entwicklung
Eine der zentralen Erkenntnisse aus dem KIDD-Prozess ist, Diversität und Inklusion nicht als nachträgliche Überlegungen, sondern als grundlegende Bestandteile in jeder Phase der KI-Entwicklung und Einführung zu integrieren. Denn KI-Systeme spiegeln die Datensätze wider, mit denen sie trainiert werden. Entscheidend ist es dabei, diverse Datensätze zu verwenden, um Diskriminierungen zu vermeiden bzw. mögliche Verzerrungen durch Algorithmen so früh wie möglich aufzudecken und zu eliminieren. Unternehmen, die KI entwickeln, sollten daher sicherstellen, dass ihre Entwicklerteams divers zusammengesetzt sind.
- These 2: KI braucht Vertrauen: Transparenz und Nachvollziehbarkeit sind Schlüsselfaktoren
Die Einführung von Künstlicher Intelligenz erzeugt nach wie vor häufig Ängste und Befürchtungen in der Belegschaft. Transparenz in der Entwicklung und Anwendung von KI ist daher ein Schlüsselfaktor, um Vertrauen bei den Nutzer:innen zu schaffen. Unternehmen sollten schon bei der Einführung von KI auf klare Prozesslösungen setzen und diese auch aktiv kommunizieren. Wichtig ist, vorhandene betriebsinterne Gremien und Betroffene transparent, partizipativ und diversitätssensibel einzubinden. So wird die Akzeptanz beschleunigt, KI-Systeme einzusetzen, Schnittstellenprobleme zwischen Mensch und Maschine können frühzeitig erkannt werden und mögliche Verzerrungen werden verhindert.
- These 3: Das „Panel der Vielfalt“ ändert die Unternehmenskultur
Neue Technologien erfordern diverse Perspektiven, um optimal zu funktionieren. Das Aufsetzen auf bestehende Strukturen ist häufig nicht ausreichend. Die Implementierung von KI in Unternehmen gelingt besser, wenn auch die Unternehmenskultur sich verändert. Die Bildung eines Gremiums von Betroffenen aus dem Unternehmen selbst (im KIDD-Projekt „Panel der Vielfalt“ genannt) deckt mögliche Defizite eines KI-Systems frühzeitig auf und unterstützt dabei, diese gemeinsam zu beheben.
- These 4: Ohne Weiterbildung und Sensibilisierung im Bereich KI und Ethik geht es nicht
Noch immer besteht in vielen Unternehmen große Unsicherheit in Bezug auf KI und deren ethische Implikationen. Neben Basisschulungen sollten Unternehmen daher die kontinuierliche Weiterbildung von Mitarbeitenden sicherstellen, indem sie regelmäßige Schulungen anbieten, um das Bewusstsein für die ethischen Implikationen von KI zu schärfen und das Wissen über die neuesten Entwicklungen in Bezug auf KI zu fördern. Dies trägt dazu bei, Ängste und Befürchtungen abzubauen. Im besten Fall gewinnen alle – von Mitarbeitenden bis hin zur Geschäftsleitung – ein tiefes Verständnis für die Herausforderungen und Chancen von KI und können diese gemeinsam für das Unternehmen nutzen.
- These 5: Wir brauchen ein Siegel für diversitätssensible KI
Vertrauenswürdige KI benötigt klare Normen und Standards. Nutzer:innen müssen darauf vertrauen können, dass die Verwendung von KI-Systemen keine unerwünschten Verzerrungen aufweist, diversitätssensibel und inklusiv ist und Diskriminierung vermeidet. Der KIDD-Prozess bietet Unternehmen die Möglichkeit, in drei Schritten ein betriebsinternes (Selbst-)Audit durchzuführen und ist als Best-Practise-Beispiel in der KI-Normungsroadmap von DIN aufgeführt. Ein Siegel für diversitätssensible KI erhöht den Wettbewerbsvorteil für Unternehmen und macht ihr Engagement deutlich sichtbarer.
- These 6: Kleine und mittlere Unternehmen (KMU) sind auf Unterstützung angewiesen
Kleine und mittlere Unternehmen (KMU) stehen vor besonderen Herausforderungen bei der Implementierung von KI, insbesondere im Hinblick auf fehlende Ressourcen und Fachwissen. Der KIDD-Prozess hat gezeigt, dass gezielte Unterstützung notwendig ist, um auch kleineren KMUs den Zugang zu KI-Anwendungen zu erleichtern und den Kostendruck zu senken. Dafür sind gezielte Förderprogramme und Schulungen, die niedrigschwellig und kostengünstig nutzbar sind, wichtiger denn je.
- These 7: Schaffung eines rechtlichen Rahmens für Haftung und Verantwortung
Der AI Act der EU verspricht klare Regelungen zur Haftung und Verantwortung bei Fehlentscheidungen und Diskriminierung durch menschenzentrierte KI-Systeme. Der KIDD-Prozess hat gezeigt, dass Unsicherheit über Verantwortlichkeiten ein großes Hindernis für die Akzeptanz und den Einsatz von KI darstellt. Unternehmen sollten verpflichtet werden, die Verwendung von KI für Mitarbeitende und Kunden zu kennzeichnen, Verantwortung für die von ihnen entwickelten und eingesetzten KI-Systeme zu übernehmen und transparent zu machen, wie diversitätssensibel die Systeme sind, die sie einsetzen.
- These 8: Der „Human-in-Command“ kommt aus der Zivilgesellschaft
Die Antwort auf die Forderung nach einen „Human-in-Command“ des EU-AI-Acts muss klar ausgestaltet sein. Dafür braucht es neue Governance-Strukturen. In Unternehmen sollte es für alle Mitarbeitenden klar ersichtlich sein, wo in der Unternehmensstruktur die Funktionsweise der angewendeten KI-Systeme überwacht und welche Person („Human-in-Command“) angesprochen werden kann, wenn ein Verdacht auf mögliche Verzerrungen und Diskriminierung durch KI besteht. Bereits bei der Einführung von KI sollte festgelegt werden, wie ein System im Notfall auch abgeschaltet werden kann.
Darüber hinaus brauchen wir eine übergeordnete Governance-Struktur, an die sich Mitarbeitende wenden können, wenn sie in ihren Unternehmen nicht weiterkommen. Das ist auch für unsere demokratische Gesellschaft als Ganzes wichtig. Wann immer sich Bürger:innen durch KI diskriminiert fühlen und ihre Rechte bedroht sehen, braucht es einen institutionalisierten „Human in Command“, den sie anrufen und um Hilfe bitten können und der über die Befugnisse verfügt, KI als Hochrisikofall im Zweifel auch abzuschalten.
Annette von Wedel ist Inhaberin der Beratung AVW Consulting. Bis 2018 arbeitete sie bei der Deutschen Bahn, zuletzt als Leiterin Diversity Management. Fokus ihrer Beratungstätigkeit ist, Vielfalt in der (Arbeits-)Welt zu fördern und die hierfür notwendigen Veränderungen anzustoßen. Zu diesem Engagement gehört auch die Gründung des gemeinnützigen Vereins female.vision e.V. zusammen mit Katja Anclam.
Katja Anclam ist Zukunftsgestalterin und TV Executive Producerin mit großem Netzwerk und langjähriger Erfahrung in DACH, Asien und Südafrika. Sie ist Geschäftsführerin des Deutschen Institut für Gutes Leben (difgl). Katja Anclam hat zudem die Initiative female.vision e.V. mitgegründet, und ist zusammen mit Annette von Wedel eine der Initiator:innen des BMAS Forschungsprojekt "KIDD – Künstliche Intelligenz im Dienste der Diversität".
