Gerade als die EU-Gesetzgeber hofften, ihre Arbeit am geplanten KI-Gesetz (AI Act) abschließen zu können, erblickte das nächste Update des Sprachbots ChatGPT das Licht der Welt (Tagesspiegel Background berichtete). Das gerade herausgekommene GPT4 übertrifft seine Vorgänger nochmals um Längen. Laut Dragoș Tudorache, Berichterstatter im Europäischen Parlament, erfordert die von solchen Sprachmodellen angestoßene Revolution erhebliche Anpassungen an dem Gesetz. Gegenüber dem Nachrichtenportal Politico sagte er „eine massive Explosion der Nutzung der Technologie hinter ChatGPT“ voraus und sprach von einem „Quantensprung“.
Und tatsächlich: Wir verlassen bereits die kurze Episode der Digitalisierung und betreten das weitaus bedeutendere Quantenzeitalter, das uns in völlig neue Dimensionen katapultiert. Generative KI-Modelle wie GPT4 werden schon bald eine sehr bedeutende Rolle spielen. Sie konstruieren aus dem unendlichen Universum der Informationen beliebig viele Kontexte, die sich zu einer multiplen Realität überlagern – jede einzelne von ihnen ebenso wahr wie falsch. Dabei geht es nicht um universelle Wahrheit, sondern um die bedeutsame Frage, wie sich die Welt durch unsere Beobachtung für uns verändert.
Dass sich die Wirklichkeit allein dadurch verändert, dass wir sie beobachten, ist aus der Quantentheorie bekannt. Werner Heisenbergs Unschärferelation beschreibt den Umstand, dass wir uns der Wirklichkeit nie beliebig genau nähern, sondern nur statistische Aussagen über den Zustand der Welt machen können. Schrödingers Katze ist die sinnbildliche Darstellung dieser quantenphysikalischen Paradoxie: Sie ist tot und lebendig, bis wir sie als tot oder lebendig beobachten. ChatGPT konfrontiert uns mit einem analogen Problem: Soziale Realität existiert „quantensoziologisch“ als statistische Aussage. Nicht zufällig begründete der Philosoph Ludwig Wittgenstein zu jener Zeit, in der die Quantentheorie aufkam, die analytische Sprachphilosophie. Im Zuge dessen riet er: „Worüber man nicht sprechen kann, darüber muss man schweigen.“
Mehr als die Summe aller möglichen Realitäten
In diesem Zusammenhang ist die Arbeit von Richard Feynman, einem der einflussreichsten Physiker des 20. Jahrhunderts, eine hilfreiche Analogie. Feynmans Arbeit legt nahe, dass unsere Realität eine Art Mischung aller denkbaren Möglichkeiten ist. Seine Theorie ist nicht nur eine leistungsstarke Vorhersagemaschine, sondern vor allem eine Philosophie darüber, wie die Welt aufgebaut ist. In Anlehnung an Feynmans Konzept nähert sich die generative KI dem menschlichen Wissen an – als die Summe aller möglichen Ideen, von denen jede einzelne und mehrere gleichzeitig realisiert werden können.
Die Analogie baut zunächst darauf auf, dass Sprachmodelle wie ChatGPT stochastische Papageiensind. Sie fügen sprachliche Formen, die sie in ihren umfangreichen Trainingsdaten beobachten, auf Grundlage von Wahrscheinlichkeiten zusammen. In großen Sprachmodellen, die Wörter neu kombinieren, indem sie Parameter gewichten, werden menschliche Gedanken in numerische Relationen umgewandelt. Im Gegensatz dazu ist der menschliche Verstand, wie der Linguist Noam Chomsky bemerkte, „keine schwerfällige statistische Maschine für den Musterabgleich“, sondern ein System, das versucht, Erklärungen zu schaffen. Die Hirnforschung geht sogar noch weiter: So nehmen Menschen beispielsweise die Farbe eines Gegenstandes nicht zwingend als gleich wahr. Das Gehirn konstruiert neben dem objektiv Existenten weitere subjektive Attribute hinzu. So oder so ist die Frage der faktischen Genauigkeit derzeit nicht das entscheidende Problem: Wenn die Modelle wirklich generativ sind, werden sie nach und nach eine Welt hervorbringen, in der sie von allem die Antwort, aber von nichts die Wahrheit kennen.
Kehrt generative KI die Aufklärung um?
Der Diskurs in einer von Konsens und Ausgleich geprägten demokratischen Gesellschaft fußt auf einer gemeinsamen, für mehrere Personen nachvollziehbaren Öffentlichkeit. Bereits in den vergangenen Jahren konnte man beobachten, wie soziale Medien Propagandisten und Betrügern Mittel an die Hand gaben, um während der Covid-Pandemie oder wichtigen Wahlkämpfen gefährliche Desinformationen bis hin zu Deep Fakes zu verbreiten. Heutzutage heizen generative KI-Modelle Verschwörungstheorien und raffinierte E-Mail-Betrügereien auf einer völlig neuen Ebene an.
Die Gefahr, dass generative KI die Aufklärung umkehren oder rückgängig machen könne, wurde zuletzt in einem Essay von Henry Kissinger, Eric Schmidt und Daniel Huttenlocher für das Wall Street Journal aufgegriffen. Während die Erzeugung von Wissen seit der Aufklärung als schrittweiser und überprüfbarer Erkenntnisprozess betrachtet wurde, würden KI-Systeme datengetriebene Ergebnisse produzieren, ohne sie zu erklären. Auch sie betonen die realitätsverändernde Wirkung großer Sprachmodelle: Wenn es stimmt, dass Beobachtung die Realität schafft, so schreiben sie, können „maschinelle Beobachtungen die Realität ebenfalls verändern“, und dabei die Menschen bald überfordern. Sie könnten sogar in die Unmündigkeit zurückfallen und politischer Manipulation und Verführung wehrlos ausgesetzt sein.
Politik in generativen Realitäten
Interessanterweise wird die politische Gefahr, die von generativer KI potenziell ausgeht, sowohl von Demokratien als auch von Autokratien als systembedrohend empfunden. Nachdem das chinesische Ministerium für Wissenschaft und Technologie zunächst das Potenzial ChatGPT-ähnlicher Technologie begrüßt hatte, wandelte sich die Einstellung schnell. Ab Mitte Februar ordneten chinesische Behörden den großen Technologieunternehmen des Landes an, den Zugang zu ChatGPT zu sperren. Verglichen mit den Social-Media-Plattformen, die in China bereits Algorithmen und menschliche Moderatoren stark einschränken, ist es praktisch unmöglich, die unvorhersehbaren Ergebnisse von generativer KI zu zensieren.
In freien Gesellschaften dagegen besteht das größte gemeinsame Interesse an der Wahrheit. Denn die Wahrheit ist der vernünftigste Ausgangspunkt für wirklichen Fortschritt. So sehr generative KI die Freiheit und Mündigkeit von Menschen bedrohen mag, in Demokratien besteht von allen Systemen der größte Schutz davor.
Sapere aude!
Generative KI wird die Unterschiede zwischen politischen Systemen nicht aufheben, sondern die Bedeutung der Freiheit und der Fähigkeit des Menschen, Recht von Unrecht sowie Wahrheit von Lüge zu unterscheiden, nur erhöhen – sowohl epistemisch als auch ethisch. In Zukunft werden wir in parallelen und immersiven Realitäten leben.
Aber das wird nichts an der ewigen Suche nach Wahrheit und Sinn ändern. Der Zugang zu ihr führt nur über unseren Verstand. „Sapere aude! Habe Mut, dich deines eigenen Verstandes zu bedienen“ – lautet also auch der Wahlspruch der nächsten Aufklärung. mit Anselm Küsters
Henning Vöpel leitet seit 2022 das Centrum für Europäische Politik (CEP) mit Sitz in Freiburg und Berlin als Vorstand und lehrt seit Oktober 2021 Volkswirtschaftslehre an der BSB Business & Law School Berlin. Anselm Küsters leitet am CEP den Fachbereich Digitalisierung und neue Technologien.
