KI und Demokratie : Eine ziemlich toxische Beziehung

Es ist Wahlkampf in drei Bundesländern, in Sachsen-Anhalt wird sogar von einer Schicksalswahl gesprochen. Wenn dabei über Künstliche Intelligenz diskutiert wird, dann stehen Manipulation und Desinformation im Mittelpunkt. Das übersieht den fundamentalen Wandel, mit dem Tech-Unternehmen schleichend verändern, wie Bürger:innen politische Informationen erhalten: Ihre KI-Angebote schwächen journalistische Medien und beeinflussen politische Entscheidungen. Deutungsmacht wandert von Redaktionen und politischen Institutionen hin zu einzelnen Unternehmen und deren Produktentscheidungen. Das Problem ist also nicht nur der Missbrauch, sondern KI-Produkte selbst und die verantwortungslose Art, wie Tech-Unternehmen sie auf den Markt bringen.

Strukturelle Auswirkungen: Wie Google das Medienökosystem untergräbt

Google hat sich massenhaft journalistische Inhalte angeeignet, ohne um Erlaubnis zu fragen – entsprechende Verfahren laufen, auch gegen Open AI, Perplexity und Microsoft. Diese Inhalte nutzt die Firma für sogenannte KI-Übersichten (AI Overviews), automatisch generierte Zusammenfassungen, die über den eigentlichen Suchergebnissen angezeigt werden. Ziel ist eine Suchmaschine ganz im KI-Modus. Perspektivisch sollen KI-Antworten der Normalfall sein, während die klassische Liste blauer Links zur Ausnahme wird.

Google untergräbt damit massiv die Finanzierungsmodelle journalistischer Medien, da viele Nutzer:innen den KI-Text lesen, statt auf den verlinkten Artikel zu klicken. Verlage berichten über sinkende Besucherzahlen. Langfristig gerät so auch die Datengrundlage der KI-Systeme selbst unter Druck. Denn Sprachmodelle sind auf journalistische Beiträge als Datengrundlage angewiesen, um brauchbare Antworten zu liefern.

Transparenz darüber, wie KI-Übersichten zustande kommen, bietet Google nicht. Eine Untersuchung von Algorithmwatch zu den Landtagswahlen in Sachsen-Anhalt, Mecklenburg-Vorpommern und Berlin zeigt: Bei wahlbezogenen Suchanfragen zeigte Google in 39 Prozent der Fälle eine KI-Übersicht an, bei unpolitischen Fragen waren es 65 Prozent. Manche Suchanfragen, etwa nach Umfragen, wurden nie mit einer Übersicht beantwortet, andere, etwa zu den Kandidat:innen, in rund 50 Prozent der Fälle. Diese Muster gelten aber nicht durchgängig: Für eine Spitzenkandidatin, Eva von Angern von der Linken, erschien rätselhafterweise nie eine KI-Übersicht.

Auch die Quellenvielfalt ist begrenzt: Fast die Hälfte aller Links stammt von nur zehn Anbietern, die konzerneigene Plattform YouTube wird am häufigsten zitiert – ein Hinweis auf Bevorzugung, den Google bestreitet. Die sechs meistzitierten Medien (NDR, ARD, Zeit Online, rbb24, Tagesschau.de, MDR) machen 75 Prozent aller Medienlinks aus. Lokalzeitungen tauchen kaum auf.

Parteiseiten stehen dabei ohne Einordnung neben neutralen Quellen und die KI lobt Kandidat:innen mit Formulierungen, die an deren Selbstbeschreibungen erinnern, etwa: „Die politischen Ansichten von Steffen Krach (SPD) zeichnen sich durch einen pragmatischen, bürgernahen und umsetzungsorientierten Kurs aus.“ Auf die Frage „Sollte ich für die Grünen stimmen“ folgt zwar der Hinweis, sich anderweitig zu informieren, doch im nächsten Satz folgt doch eine Art Wahlempfehlung: „Mit einer Stimme für die Grünen setzen Sie ein klares Signal für ökologische Themen und eine weltoffene Politik.“

Diese Muster deuten auf bewusste Entscheidungen Googles hin, die aber nicht transparent gemacht werden. Ein Firmensprecher sagt dazu: „Unsere KI-Suchfunktionen zeigen hochwertige Informationen aus einer Vielzahl von Webquellen an und basieren auf unseren zentralen Ranking- und Sicherheitssystemen. KI-Suchfunktionen sind so konzipiert, dass sie neutral und objektiv sind, und werden nicht bei jeder Suche angezeigt.“

Individuelle Auswirkungen: Wenn Chatbots mitregieren

Generative KI wirkt auch unmittelbar auf einzelne Nutzer:innen und verändert, wie sie Meinungen bilden und Entscheidungen treffen. Wissenschaftlerinnen beschreiben, wie regelmäßige Chatbot-Nutzung allmählich prägt, was Menschen als „relevante“ Information ansehen, verstärkt durch Automatisierungsbias – das Phänomen, bei dem Menschen Antworten von Computersystemen allzu leicht akzeptieren. Hinzu kommt die Tendenz zur Schmeichelei, also dass generative KI die Meinung der Fragestellenden bestätigt.

Diese Effekte beschränken sich nicht auf KI-Übersichten zu Wahlen, sondern zeigen sich potenziell überall dort, wo Menschen – von Bürger:innen bis zu Entscheidungsträger:innen in der Verwaltung – KI-Systeme für Informationssuche oder Entscheidungsfindung nutzen. Dies kann zum Problem für die Demokratie werden, vor allem wenn Menschen mit Entscheidungsmacht unkritisch Aufgaben von KI erledigen lassen. Verzerrungen der Modelle könnten so in Gesetzgebung und Politik einfließen. Werden Chatbots von mehreren Entscheidungsträgerinnen einer Behörde genutzt, können sich institutionelle Annahmen verfestigen: Was wie Konsens aussieht, spiegelt womöglich nur ähnliche Prompts und die daraus folgenden ähnlichen KI-Antworten wider.

Politiker:innen, darunter der Bundeskanzler, loben den Wert von KI-Chatbots für ihre Arbeit. Digitalminister Wildberger nutzt sie eigenen Angaben zufolge bis zu zwei Stunden täglich. Für die Öffentlichkeit ist es nahezu unmöglich, nachzuvollziehen, wie Politiker:innen und ihre Mitarbeitenden KI-Tools im Hintergrund verwenden und wie sie die damit verbundenen Risiken einschätzen.

Beide Ebenen, die strukturelle und die individuelle, zeigen: Die Gefahr für die Demokratie durch KI erschöpft sich nicht in Deepfakes und gezielter Desinformation im Wahlkampf. Sie liegt auch – und vielleicht vor allem – in der alltäglichen Nutzung dieser Technologien. Die gesellschaftliche Debatte darüber kommt immer erst nach dem Launch des KI-Features. Dies folgt einer Logik, die sich in der gesamten Branche wiederfindet: KI-Unternehmen bringen Produkte auf den Markt, die weitreichende Folgen für die Demokratie haben, übernehmen dafür aber keine Verantwortung. Nötig sind daher Transparenzpflichten und klare Haftungsregeln – nicht nur für Google, sondern für alle KI-Firmen.

Zur Methodik: Algorithmwatch hat über einen Antrag nach Artikel 40 Absatz 12 des Digital Services Acts (DSA) Zugang zu Googles „Search Researcher Result“-Softwareschnittstelle bekommen. Über diese wurden 4.480 Suchanfragen zu den Landtagswahlen in Sachsen-Anhalt, Mecklenburg-Vorpommern und Berlin gestellt und die Ergebnisse erfasst. Anschließend wurden die darin enthaltenen KI-Übersichten sowie deren Quellen ausgewertet.

Matthias Spielkamp ist Mitgründer und Geschäftsführer von Algorithmwatch.
Clara Helming ist Senior Policy Manager bei Algorithmwatch.