Künstliche Intelligenz (KI) : KI ist tot! Es lebe die hybride Intelligenz

Wir haben 2024 in Deutschland die historische Chance, unser industriell geprägtes Geschäftsmodell zu revolutionieren. Mit einer neuen Technologie, die über enormes ökonomisches wie gesellschaftliches Potenzial verfügt. Na klar, es geht um Künstliche Intelligenz. Der Text kommt ihnen bekannt vor? Kein Wunder! So oder ähnlich klingen die Zukunftsvisionen selbstgewisser Tech-Bros, die im Goldrausch von Milliarden-Investitionen wirklich glauben, dass es einfach nur innovative Technologien braucht, um unsere Welt zu retten. So oder ähnlich klingen auch die blauäugigen Hoffnungen mancher Entscheider:innen in Politik und Wirtschaft. Es wäre auch zu schön, wenn sich Fachkräftemangel, Bürokratie und Verwaltungsprozesse wegautomatisieren ließen.

Tatsächlich droht uns 2024, dass sich ein historischer Fehler wiederholt, den wir so ähnlich schon beim Hype um Industrie 4.0 gemacht haben: Wir entwickeln und adaptieren Technologien, von denen wir hoffen, dass sie den ganz großen Fortschritt bringen. Am Ende zeigte sich: Die vermeintliche nächste industrielle Revolution ist erstmal abgesagt. Auch im Hype um Künstliche Intelligenz schauen wir wie das Kaninchen auf die Schlange voller Ehrfurcht auf die faszinierenden Möglichkeiten von Technologie. Dabei vergessen wir, dass auch für die abgefahrensten Systeme immer gilt: Das volle Potenzial von Innovationen wird erst entfesselt, wenn nicht nur die Technologie, sondern vor allen Dingen deren Zusammenspiel mit Menschen und bestehenden Strukturen optimiert wird. Die Techniksoziologie beschreibt diese Erkenntnis mit dem MTO-Dreieck: M für Mensch. T für Technologie. O für Organisation.

Die gute Nachricht: Wir können aus unseren Fehlern lernen. Dafür gibt es in Deutschland und Europa gute Ansätze. Außerdem ist der Zeitpunkt günstig: Der AI Act und eine stark aufgestellte Zivilgesellschaft kann uns helfen, unser Verständnis von Künstlicher Intelligenz weiterzuentwickeln. Das Zauberwort heißt hybride Intelligenz!

Ein ziemlich deutsches Missverständnis

Deutschland sieht sich selbst gerne als das Land der Ingenieur:innen. Dieser Berufsstand gilt als Keimzelle für Innovationskraft und damit die Sicherung von Wohlstand. Vielleicht glauben wir deshalb, dass Innovation eine rein technologische Frage ist. Warum die einseitige Zuspitzung des Innovationsbegriffs ein echtes Risiko birgt, lässt sich am wohl „deutschesten“ Trendthema des Digitalzeitalters zeigen: Industrie 4.0. Vor allem in den Anfangsjahren wurde der Eindruck vermittelt, es ginge rein um die technologische Entwicklung und die menschliche Arbeit würde sich als Folge von Industrie 4.0 in einer linearen Abhängigkeit wandeln.

Nach über zehn Jahren gilt Industrie 4.0 in mancher Hinsicht als gescheitert: Die Produktivität im Maschinenbau ist gesunken, die Digitalisierung kommt zu langsam voran. Der Grund: Über mehr als eine Dekade haben wir nur auf eine Ecke des MTO-Dreiecks gesetzt und Milliarden von Fördergeldern und Firmeninvestitionen in rein technikzentrierte Innovationsvorhaben gesteckt. Dieses Problem gesteht sich auch der Branchenverband VDMA mittlerweile ein und spricht jetzt von „Manufacturing-X“. Wie konnten wir diese Fehler begehen? Schließlich wurde dieser „Technikdeterminismus“ als Lektion aus der Einführung von Computertechnologien und klassischer Prozessautomatisierung durch arbeitssoziologische Grundlagenstudien bereits in den 70er und 80er Jahren widerlegt. Transdisziplinär ausgerichtete Wissenschaftler:innen, wie Katharina Zweig mit ihren Arbeiten zur „Sozioinformatik“, knüpfen an diese Erkenntnisse an.

Ein neuer KI-Winter droht

Ohne Zweifel: Die Entwicklung und die Adaption von KI-Technologien birgt viele Chancen für Wirtschaft und Gesellschaft. Deshalb ist es umso wichtiger, dass wir heute nicht erneut die Fehler der Vergangenheit wiederholen. Wir dürfen die Einführung von KI nicht einseitig als eine technische Frage missverstehen. Wir müssen Künstliche Intelligenz als das begreifen, was sie in der Praxis immer ist: ein sozio-technisches System. Sonst könnte vielleicht sogar ein neuer KI-Winter drohen. Das zeigt ein Blick auf die Frage, woran die breite Adaption von KI-Systemen in der Vergangenheit gescheitert ist?

Jonathan Grudin, Experte für Mensch-Computer-Interaktion bei Microsoft und Professor an der University of Washington, ist bereits 2009 auf Ursachenforschung gegangen. Er zeigte: KI-Einführung ist dann gescheitert, wenn die Technologie an den realen Bedarfen von Menschen vorbeiging. Eine noch so mächtige und leistungsfähige Technologie erfährt keine Akzeptanz und wird nicht genutzt, wenn sie die real-existierenden Probleme von Menschen nicht löst und sinnvoll in bestehende organisationale Strukturen integriert wird.

Clay Shirky, Prorektor für KI und Bildungstechnologien an der New York University (NYU), bringt es in seinem Buch „Here Comes Everybody“ so auf den Punkt: „Eine Revolution passiert nicht dadurch, dass die Gesellschaft neue Techniken nutzt, sondern dann, wenn die Gesellschaft neue Verhaltensweisen annimmt.“ Bezogen auf den aktuellen KI-Hype heißt das: Nur weil wir generative KI-Systeme beginnen auszuprobieren, heißt das noch lange nicht, dass generative KI zwangsläufig weitreichende Veränderungen zur Folge haben wird. Entscheidend ist: (Wo) Bilden sich in Folge des Technologieeinsatzes tatsächlich dauerhaft und grundlegend neue soziale Praktiken aus?

Hybride Intelligenz statt Künstliche Intelligenz

Wollen wir ein erneutes Scheitern einer angekündigten industriellen und gesellschaftlichen Transformation verhindern und vermeiden, dass Milliardeninvestitionen aus Privatwirtschaft und öffentlichem Sektor wirkungslos verpuffen, sollten wir unsere Perspektive weiten. Wir sollten bereits im Sprechen über Künstliche Intelligenz dafür sensibilisieren, dass es sich hierbei um ein soziotechnisches Phänomen handelt. Lassen Sie uns deshalb lieber von „hybrider Intelligenz“ reden. Der Begriff geht auf Wissenschaftler:innen der Universität Kassel zurück und beginnt sich international zu etablieren.

Zeynep Akata von der TU München beschreibt zusammen mit anderen Wissenschaftler:innen die Dimensionen von hybrider Intelligenz mit dem englischen Akronym „CARE“: Kollaborativ (engl. collaborative), adaptiv (engl. adaptive), verantwortungsvoll (engl. responsible) und erklärbar (engl. explainable). Der Begriff hybride Intelligenz lenkt den Fokus auf die Schnittstelle zwischen Mensch und Technologie. Hier entscheidet sich, ob Mensch und Technologie im jeweiligen organisatorischen Umfeld wirklich optimal zusammenwirken. Der Begriff könnte das Potenzial für einen Paradigmenwechsel in der Technikgestaltung bergen.

Momentum des AI Act nutzen

Der Zeitpunkt ist günstig! Die KI-Verordnung setzt verbindliche Anreize, den Menschen stärker in den Mittelpunkt zu stellen. Es geht jetzt um die Frage: Wie müssen wir die konkrete Zusammenarbeit von Menschen und KI-Systemen technisch gestaltet, um den Anforderungen des AI Act (Artikel 13: Transparenz; Artikel 14: Menschliche Aufsicht) gerecht zu werden und das volle Potenzial von KI zu nutzen? Im vom Bundesministerium für Arbeit und Soziales (BMAS) geförderten Forschungsprojekt „KI-Cockpit“ entwickeln wir gemeinsam mit Praxispartnern aus dem Personalwesen, der Sozialwirtschaft und dem Bereich Smart City ein User-Interface, das diesem komplexen Anspruch gerecht werden soll: Die menschliche Letztentscheidung wird dadurch ermöglicht, dass die künstlichen Entscheidungsprozesse durch eine „Human in the loop“-Lösung immer wieder stichprobenartig von Menschen überprüft werden.

Wir sollten das Momentum des AI Act nutzen und nicht nur diskutieren, wie Normen und Standards eine rechtskonforme Umsetzung der KI Verordnung ermöglichen. Wir sollten weitergehen und überlegen, wie wir die Mensch-Maschine-Schnittstellen so gestalten, dass die Vision eines „Human in command“ Wirklichkeit wird. Ein Konzept, das unter anderem aus der Zivilgesellschaft und von der SPD abstrakt gefordert wird.

Jetzt Weichen stellen

Aktuell ist der Impact von KI in der Praxis noch nicht so groß, wie viele glauben. Damit können entscheidende Weichen noch gestellt werden. Jetzt geht es darum, mit einer klugen Ausgestaltung von Investitions- und Förderstrategien, einen klaren Fokus auf soziotechnische Entwicklung von hybrider Intelligenz zu setzen. Ein Vorbild könnte Deutschland sich an den Niederlanden nehmen: Hier fördert man mit 42 Millionen Euro ein „hybrid Intelligence Center“, das sich in einer transdisziplinären Zusammenarbeit verschiedener Universitäten der Mensch-zentrierten Gestaltung von KI-Anwendungen widmet.

Gerade in dem im Juli beschlossenen Sparhaushalt möchte die Bundesregierung trotzdem viele Fördermittel für künstliche Intelligenz verteilen. Auf europäischer und nationaler Ebene sollen Anreize geschaffen werden, dass die Industrie in künstliche Intelligenz investieren. Es liegt jetzt in der Hand der Entscheider:innen in Politik und Wirtschaft, ob sie ein weiteres Mal demselben Irrtum aufsitzen oder ob sie es endlich schaffen, über hybride Intelligenz in einem sozio-technischen System zu sprechen und damit langfristige wirksame Innovationen zu schaffen.

Prof. Doris Aschenbrenner ist Professorin für „Digitale Methoden in der Produktion“ an der Hochschule Aalen. Sie ist Gründerin und war u. a. Expertin im Fachdialog „Arbeiten mit Künstlicher Intelligenz“ des KI Observatoriums des BMAS.

Dr. Robert Peters ist Head of Foresight and Labour Research am Institut für Innovation und Technik (IIT). Mit seinem Team berät er Entscheider:innen in Politik und Wirtschaft zu Trend- und Zukunftsfragen. Die beiden arbeiten gemeinsam mit Projektpartnern aus Wissenschaft und Industrie im Projekt „KI-Cockpit“ an der Entwicklung menschenzentrierter Schnittstellen für KI-Systeme. Das Projekt wird gefördert durch das Bundesministerium für Arbeit und Soziales.