Künstliche Intelligenz erobert die Medien: KI-Programme schreiben Nachrichten und stellen Magazine zusammen, KI-generierte Bilder lassen sich nicht von echten unterscheiden, beim Vertrieb von Inhalten werden Nutzerinnen und Nutzer immer gezielter angesprochen und erhalten dank KI das News-Angebot, das sie brauchen. Die Informationsbasis für die demokratische Gesellschaft kommt aus einer Art Wurstmaschine, in der alles, was sich im Netz findet, verhackstückt und dann in einer Black Box zusammengepresst wird. Dabei kann die Medienpolitik KI auch selbst nutzen.
Wir sehen vor allem drei Gefahren durch KI in der Medienwelt. Erstens: Die Richtigkeit von Informationen ist angesichts perfekter Fakes infrage gestellt. Informationen müssen aber stimmen, nur das rechtfertigt das Vertrauen in Medien und ermöglicht treffsichere Entscheidungen, ob beim Einkaufen oder in der Wahlkabine. Dies setzt die Überprüfbarkeit der Quellen und der Verarbeitung voraus. All das ist bei Nutzung der „Wurstmaschine“ nicht gewährleistet.
Zweitens: Der Gesellschaft kommt die gemeinsame Basis abhanden. Wo früher Tagesschau und „Wetten, dass“ eine Gesprächsbasis gaben, ist heute jeder in seiner eigenen Medienwelt unterwegs. Das ist in erster Linie die Folge von Personalisierung, KI verstärkt diese Prozesse. Je individualisierter Informationen werden, desto gefährdeter ist der gesellschaftliche Zusammenhalt.
Drittens: Paradoxerweise sehen wir auch die Medienvielfalt unter Druck, trotz des immer individuelleren Angebots. Bei der Kontrolle von Informationen gibt es eine extreme Verengung: Immer öfter entscheiden überwiegend zwei Unternehmen, Google und Meta, was den Nutzer erreicht. Wenn KI-Tools in Händen weniger Tech-Unternehmen liegen, haben diese enorme Steuerungsmöglichkeiten.
„More of the same“ statt Vielfalt
Drei weitere Aspekte kommen hinzu: Wenn die Basisinformationen identisch und die Verarbeitungsstrukturen gleich programmiert sind, besteht die Gefahr, dass die immer gleiche Wurstware aus der Maschine kommt. Die GenAI dieser Tage führt das vor: Der Stil ist uniform. Das, was außergewöhnlicher Journalismus leistet, leistet die KI nicht.
Erhält der Einzelne seine Infos über eine solche Plattform, werden sie typischerweise personalisiert und vom kommerziellen Erfolg abhängig gemacht. Was gut klickt, kommt öfter. Das heißt: „more of the same“, zumal all das billig produziert werden kann.
Je kleiner das gesamtgesellschaftliche Fenster wird, desto weniger Platz bleibt für Abweichungen. Wer kurz aus seiner Blase auftaucht, um sich in der Gesellschaft zu verständigen, kann sich dort nur noch auf einige wenige Aspekte konzentrieren. Selbst wenn der Einzelne immer eigenwilliger Medien konsumieren kann, wird das, was die Gemeinschaft als Basis hat, immer schmaler.
Standards setzen – KI als Chance für die Medienpolitik
Es ist höchste Zeit, die Demokratie zu schützen, indem wir den Blick auf die Produktion und den Vertrieb von Nachrichten lenken. Dass der AI Act erstmals Standards einzieht, begrüßen wir, aber medienbezogene KIs sind dort nicht als hochriskant eingestuft. Der Medienstaatsvertrag und die Mediengesetze der Länder lassen Spielräume, um die Gefahren in den Blick zu nehmen.
KI ist auch eine Chance für die Medienpolitik. Sie ist als entpersonalisiertes, programmierbares Instrument einsetzbar. Ihr Versprechen, Prozesse zu vereinfachen, zu beschleunigen, zu verbilligen, kann in positive Richtungen gelenkt werden: Warum soll KI Demokratie zerstören – vielleicht kann sie sie retten? KI kann zumindest das menschliche Element aus manchen sensiblen Prozessen herauslösen, objektiver agieren oder die Datenauswertung optimieren.
Unsere Überlegungen für einen sinnvollen Umgang mit KI in der Medienregulierung stehen noch am Anfang, aber wir schlagen erste Ansätze vor:
- Bei datengetriebenen Geschäftsmodellen haben wir eine starke Konzentration auf wenige Big-Tech-Unternehmen. Diese Unternehmen bemächtigen sich jetzt der KI. Eine Pluralität von Informationen und Meinungen setzt voraus, dass die Informationstechnologie offen gestaltet ist. Hier ist das Medienkonzentrationsrecht gefordert.
- Eine Basis-Anforderung für Vertrauen ist Transparenz: Wurde KI eingesetzt? Wie? Welche Trainingsdaten wurden verwendet? Auf welche Daten und Informationen wurde zugegriffen? In den traditionellen Medien haben sich mit Impressumspflicht und Kodizes Regeln gebildet, die Aufschluss über Verantwortlichkeiten und Abläufe geben. So muss auch für KI-generierte Inhalte Verantwortung übernommen werden. Erste Anknüpfungspunkte finden sich in DSA und AI Act.
- Die bisherigen Erfahrungen legen nahe, dass Transparenz und Einwilligung von Nutzern nicht genügen. Wenn rote Linien überschritten werden, muss es für KI klare sanktionsbewehrte Verbote geben.
- Eine Besonderheit von KI ist die Abhängigkeit von Trainingsdaten, deren Auswahl und Güte vorentscheidend für das spätere Produkt ist. Der Link zwischen Trainingsdaten und Ergebnissen ist nicht rückverfolgbar. Da so schwer zu entdeckende Verzerrungen entstehen können, muss für die Zwecke der Meinungsbildung schon bei der Auswahl der Trainingsdaten eine Garantie gegeben werden, dass die Datenauswahl offen und vielfältig ist.
- Digitale Geschäftsmodelle mit Informationen basieren auf Datenauswertung. Plattformen mit starken Datenbeständen und leistungsfähiger KI können Nutzer länger binden und mehr Daten sammeln, was die Spirale fortsetzt. Zu überlegen ist, wie die Umklammerung von personalisierter Werbung und Information aufgebrochen werden kann.
- Die schiere Menge an Information kann zu Ermüdung und Behinderung der Meinungsbildung führen. Hier ist KI eine Chance: KI kann Endlosloops, Filterblasen und Echokammern erkennen. Zu überlegen ist, die Anbieter entsprechender Medien zu verpflichten, solche Tendenzen zu monitoren. Schon jetzt sieht der DSA Pflichten für die Risikobewertung von Algorithmen vor. KI-Tools könnten eingesetzt werden, um Pausen zu erreichen oder public value-Infos einzuspielen. Das würde für die Nutzenden eine positive Vielfaltssicherung bedeuten.
Meinungsvielfalt und kritische Mündigkeit
Um Voraussetzungen für einen sinnvollen Einsatz von KI herzustellen, muss gezielt in Aus- und Weiterbildung investiert werden; Medienunternehmen brauchen Ressourcen bei der Implementierung von KI – aber auch die Medienregulierer. Wer Zensur wittert, sobald Medienpolitik auf digitale Inhalte blickt, sollte überlegen, welche Infrastruktur die Demokratie benötigt. Erodiert das Vertrauen in Medien weiter, ist die demokratische Gesellschaft bald ohne Fundament.
KI kann Vertrauen und Informiertheit stärken. Es ist eine Chance, mit geschicktem Prompting Quellen auszuwerten und den eigenen Feed zu steuern. Momentan sieht es so aus, als könnten die großen Digital-Plattformen diese Aufgabe für sich monopolisieren. KI macht etwas anderes möglich: Wer die Fähigkeit hat, sich eigene Agenten zu bauen, kann quasi ein externes Gehirn freischalten, das Recherche- und Analyseschritte abarbeitet und individuell aufbereitet.
Dazu muss Medienpolitik gesteuerte Informationslenkung und Desinformation bekämpfen und Konzentration aufbrechen. Eine Medienpolitik, die der Demokratie verpflichtet ist, sichert in Zukunft Teilhabe und Meinungsvielfalt auch mittels KI.
Ruth Meyer ist Direktorin der Landesmedienanstalt Saarland (LMS). Rupprecht Podszun ist Inhaber des Lehrstuhls für Bürgerliches Recht, deutsches und europäisches Wettbewerbsrecht an der Heinrich-Heine-Universität Düsseldorf. Die Autoren sind Mitglieder der Kommission zur Ermittlung der Konzentration im Medienbereich (KEK). Der Beitrag gibt ihre persönliche Auffassung wieder.
