Digitalisierung-KI icon

Digitalisierung & KI

Standpunkte Stoppt die sechs Reiter der digitalen Apokalypse!

Johnny Ryan, Senior Fellow am irischen ICCL, Pencho Kuzev, Politikberater an der Konrad-Adenauer-Stiftung.
Johnny Ryan, Senior Fellow am irischen ICCL, Pencho Kuzev, Politikberater an der Konrad-Adenauer-Stiftung. Foto: Juliane Liebers

Viele fürchten, dass der Wahlkampf für die diesjährigen Europawahlen von Desinformation auf Online-Plattformen geprägt sein wird. Die Digitalexperten Johnny Ryan und Pencho Kuzev warnen unterdessen die nächste EU-Kommission bereits jetzt vor der drohenden digitalen Apokalypse. Welche Regulierungsmaßnahmen sie fordern, schreiben sie im Standpunkt.

von Johnny Ryan und Pencho Kuzev

veröffentlicht am 17.04.2024

Lernen Sie den Tagesspiegel Background kennen

Sie lesen einen kostenfreien Artikel vom Tagesspiegel Background. Testen Sie jetzt unser werktägliches Entscheider-Briefing und erhalten Sie exklusive und aktuelle Hintergrundinformationen für 30 Tage kostenfrei.

Jetzt kostenfrei testen
Sie sind bereits Background-Kunde? Hier einloggen

Die Europäische Union hat im Laufe des letzten halben Jahrhunderts große Fortschritte gemacht. Doch die nächste Präsidentin oder der nächste Präsident der Europäischen Kommission wird darüber mitentscheiden, ob die europäische Lebensweise fortbestehen wird. Denn wenn das neue EU-Kommissionsteam im Oktober seine Arbeit aufnimmt, wird es sofort mit den sechs Reitern der digitalen Apokalypse konfrontiert werden, die unsere Demokratie bedrohen.

Desinformation auf dem Vormarsch

Der erste Reiter ist der Verfall der Nachrichten in unserer Demokratie. Das Geschäft des Journalismus bricht zusammen, während Desinformation auf dem Vormarsch ist. Die großen Technologieunternehmen behaupten, ein wahrhaftiges Fenster zur Welt zu liefern. Tatsächlich füttern sie uns jedoch mit einem Übermaß an personalisierten Botschaften voller Hass, Empörung und Angst. Das wahre Ziel solcher Nachrichten ist es, uns an unsere Bildschirme zu fesseln, um uns noch mehr Werbung anzeigen zu können. Sie verstärken wissentlich Hass und Hysterie, manipulieren unsere Kinder und machen sie süchtig, fördern Selbstmorde und Selbsthass unter unseren Jugendlichen und bringen unsere Gemeinschaften gegeneinander auf. Was wie eine Verschwörungstheorie klingt, ist die alarmierende Realität.

Zahlreiche Studien liefern eindeutige Beweise. Um zu zeigen, wie ernst die Situation ist, hat Amnesty International ein Tiktok-Konto erstellt, das dem Anschein nach einem 13-jährigen Kind mit einem Interesse für Inhalte zur psychischen Gesundheit gehörte. Nur eine Stunde nachdem das Konto aktiviert worden war, wurden dem „Kind“ Videos empfohlen, die es zum Selbstmord aufriefen. Leider ist das kein Einzelfall. Eine weitere Untersuchung ergab, dass fast drei Viertel der problematischen Inhalte, die von mehr als 37.000 Testpersonen gesehen wurden, den Testpersonen aufgrund des Empfehlungssystems von Youtube angezeigt wurden. Auch Facebooks eigene interne Untersuchungen ergaben, dass das Empfehlungssystem von Facebook extreme politische Ansichten verbreitet: Selbst wenn eine Person nur konservative Nachrichten verfolgte, erhielt sie bald Empfehlungen für extreme Verschwörungsinhalte. Ermittler der Vereinten Nationen fanden heraus, dass die Algorithmen von Meta eine entscheidende Rolle beim Völkermord in Myanmar 2017 gespielt haben.

Online-Werbung unterminiert seriösen Journalismus

Gleichzeitig wird der Journalismus als Stütze unserer Demokratie von jenen Technologieunternehmen angegriffen, auf die Medienunternehmen heutzutage angewiesen sind, um Werbung zu verkaufen. Während Leserinnen und Leser seriöse Medien online lesen, werden sie gleichzeitig Opfer manipulativer Verleger. Denn sie nehmen durch ihre Lektüre nicht nur wertvolle Informationen auf, sondern ihre Aufmerksamkeit wird von der Webseite bewusst auf spektakuläre und konspirative Schlagzeilen gelenkt.

Das System der Online-Werbung funktioniert durch die Übertragung der sensiblen und wertvollen Daten der Leserinnen und Leser über die manipulativen Verlage: Webseiten mit spektakulären Schlagzeilen, begleitet durch zahlreiche Anzeigen auf Ihren Displays, die Ihre Aufmerksamkeit mit konspirativen Theorien oder spektakulären Sexgeschichten erregen. Interagieren sie mit einer dieser Schlagzeilen, erhalten die Verleger wertvolle Daten, mit denen sie handeln können. Auf diese Weise ist zuvor unrentable Desinformation profitabel geworden, während seriöser Journalismus nicht mehr wirtschaftlich ist. Mächtige Konzerne mischen sich in unsere Kommunikation ein und ruinieren den Journalismus, den wir brauchen, um als informierte Bürgerinnen und Bürger an unserer Demokratie teilhaben zu können.

Wahlmanipulation und zu große Marktmacht

Der zweite Reiter ist die Wahlmanipulation. Die weit verbreitete Weitergabe intimer Daten, macht es möglich, dass jede Wählerin und jeder Wähler der Profilbildung und personalisierten Manipulation durch Dritte ausgesetzt wird. Unabhängig davon, ob unsere eigenen politischen Parteien dazu in der Lage sind oder nicht, können wir davon ausgehen, dass ausländische Staaten und nicht-staatliche Akteure uns gerne mit auf uns zugeschnittenen Desinformationen ansprechen, um unsere Wahlen zu beeinflussen. Dies könnte eine ebenso große Bedrohung für unsere Demokratie darstellen wie der Zusammenbruch der Presse.

Der dritte Reiter ist der dysfunktionale Markt. Große Technologiekonzerne kaufen neue, innovative Wettbewerber auf. Damit wird verhindert, dass bessere Alternativen und Konkurrenten entstehen. In dem Maße, in dem die digitalen Gatekeeper mehr Macht und Kontrolle über den Markt erlangen, können sie Preise, Produkte und Arbeitsbedingungen bestimmen. Der monopolisierte Markt untergräbt unsere Wahlmöglichkeiten, unsere Freiheit und die demokratische Kontrolle. Monopolmacht erzeugt politische Macht. Dieser Trend wird sich im Zeitalter der Künstlichen Intelligenz noch verschlimmern. Denn die Tech-Monopolisten von gestern sind bereits die Monopolisten der Künstlichen Intelligenz von morgen. Nur sie verfügen über die enormen Ressourcen, um zu entscheiden, in welche Richtung und mit welchem Tempo sich KI entwickeln wird.

Klimawandel und Überwachung

Der vierte Reiter ist die nationale Sicherheit. Überall in den europäischen Städten können billige chinesische Überwachungskameras mit eingebauter Gesichtserkennung und einer Verbindung zum Internet berichten, was jede Person tut. Parallel dazu übermittelt das Online-Werbesystem seit Jahren die intimsten und kompromittierenden Geheimnisse unserer militärischen und politischen Entscheidungsträger an das Ausland, auch an China und Russland.

Der fünfte Reiter ist die Überwachung menschlicher Arbeitskräfte durch KI. Wir gehen davon aus, dass in Zukunft ein großer Teil der Arbeitskräfte von KI-Systemen verwaltet wird, die sie nicht verstehen können und mit denen sie nicht verhandeln dürfen. Diese Bedrohung der menschlichen Handlungsfähigkeit kann zu weit verbreiteten Konflikten und Entmündigungen führen.

Jedes dieser Probleme entsteht durch den Einsatz leistungsfähiger Computer, die Dinge tun, die nicht getan werden sollten. Dieser „Rechenaufwand“ erzeugt erstaunliche Mengen an Kohlenstoff. Der sechste Reiter ist also der Klimawandel.

Bei allen sechs Reitern handelt es sich um tiefgreifende Probleme. In dem entscheidenden halben Jahr vor ihrem Amtsantritt muss die nächste EU-Kommission mit der Planung beginnen, wie sie Europa auf einen Weg des digitalen Wohlstands und der digitalen Demokratie bringen kann.

Was die nächste EU-Kommission tun sollte

Damit dies gelingen kann, schlagen wir der künftigen Kommission vier Schritte vor:

  • Erstens: Schluss mit den zögerlichen Reformen! Die rasche Abkehr von der russischen Energieversorgung zeigt, dass Europa schnell handeln kann. Die sechs Reiter galoppieren auf uns zu. Europa muss wieder schnell handlungsfähig werden.
  • Zweitens: Schaffen Sie Kohärenz. Zu oft arbeiten die vielen Direktionen und Referate der Europäischen Kommission in Silos, widersprechen sich und heben sich gegenseitig auf. Die sechs Reiter haben von dieser Verwirrung profitiert. Die nächste Kommission muss die unterschiedlichen Befugnisse klar regeln, die Ressourcen Europas bündeln und eine vereinheitlichende Struktur und Vision aufbauen, um diese großen Herausforderungen zu bewältigen.
  • Drittens: Setzen Sie das geltende Recht in seiner Gesamtheit durch. Die großen Technologieunternehmen waren weitgehend immun gegen das am meisten bejubelte Gesetz Europas, die Datenschutz-Grundverordnung. Die sechs Reiter profitierten massiv von den Daten aus kostenlosen Diensten. Die nächste Europäische Kommission muss die entscheidenden Mitgliedstaaten, insbesondere Irland und Luxemburg, dazu drängen, die Durchsetzung der Vorschriften gegen Google, Meta, Amazon, Tiktok und andere Big-Tech-Konzerne in der gesamten EU zu ermöglichen.
  • Viertens: Nehmen Sie die Monopolmacht ernst. Wettbewerb ist nicht bloß eine nette Beilage. Die nächste Kommission sollte die Technologiemonopole zerschlagen, wenn sie sich nicht strikt an Europas neue Verordnung über digitale Märkte halten. Die Kommission sollte auch große Technologieanbieter, wie beispielsweise wichtige Cloud-Anbieter, als Versorgungsunternehmen regulieren. Es könnte auch an der Zeit sein, Vertrauen in die Infrastrukturen zu schaffen, die Alternativen zu den Tech-Monopolen bieten. Andernfalls könnte jemand nicht nur unsere Medien, sondern auch unsere Notdienste abschalten.

Europa muss den sechs Reitern der digitalen Apokalypse ins Auge blicken. Wir müssen die Werkzeuge in die Hand nehmen, um sie abzuwehren. Unsere Demokratie, unsere Arbeitsplätze, unsere Sicherheit und unsere Lebensweise stehen auf dem Spiel.

Johnny Ryan arbeitet als Senior Fellow am irischen Council for Civil Liberties (ICCL) und am Open Market Institute. Pencho Kuzev ist Politikberater bei der Konrad-Adenauer-Stiftung.

Lernen Sie den Tagesspiegel Background kennen

Sie lesen einen kostenfreien Artikel vom Tagesspiegel Background. Testen Sie jetzt unser werktägliches Entscheider-Briefing und erhalten Sie exklusive und aktuelle Hintergrundinformationen für 30 Tage kostenfrei.

Jetzt kostenfrei testen
Sie sind bereits Background-Kunde? Hier einloggen