Standpunkt : Desinformation im Metaverse – kommt die digitale Dystopie?

Eines vorweg: Ich bin weder Technologieskeptiker noch Untergangsprophet. Das gilt auch für das Metaverse. Ich bin überzeugt davon, dass das Metaverse kommen (teilweise schon da ist) und viele positive Anwendungen bringen wird. Doch wer sich täglich mit Desinformation beschäftigt, der steht bei der Kombination aus diesen und dem Metaverse nachts gerade im Bett. Warum?

Im Metaverse treffen gleichzeitig einige technologische Entwicklungen aufeinander, die Desinformation begünstigen: Zum Beispiel hyperrealistische Virtuelle Realität (VR). Studien zeigen, dass VR im Gehirn Emotionen und Eindrücke auslösen kann, die sich nicht von der physischen Realität unterscheiden. Traumata und Angstzustände gehören ebenso dazu wie Narkose-ähnliche Beruhigung oder falsche Erinnerungen; nach extensiver Benutzung hatten manche Nutzer gar Probleme, zwischen physischer und virtueller Welt zu unterschieden. Wie realistisch, intensiv und nachhaltig könnte da ein manipuliertes Video von der Front in der Ukraine wirken?

Ein anderer Faktor ist die im Metaverse allgegenwärtige Künstliche Intelligenz (KI). Schon heute gibt es KI-Bots, die als „virtuelle Influencer“ ein Dasein im Zeichen des digitalen Konsums verbringen. In China, den USA, Brasilien oder Indien haben solche „virtuelle Wesen“ Millionen Follower – und auch Instagram hat sie zugelassen. Was aber, wenn „virtuelle Influencer“ nicht mehr die reine Lehre eines digitalen Turbokapitalismus predigen, sondern, sagen wir mal, die der Kommunistischen Partei? Oder eines Autokraten? Oder religiöser Fanatiker? Experten im Bereich humanoider Bots bestätigen, dass sich Regierungen bereits „äußerst interessiert über die vielfältigen Nutzungsmöglichkeiten dieser Technologie“ zeigen.

Bilder sagen mehr als 1.000 Worte

Mit dem KI-Bildgenerator Midjourney konnte Bellingcat-Gründer Elliot Higgins täuschend echte, aber falsche Bilder einer Verhaftung Donald Trumps erstellen. Wie echt, wie intensiv werden solche Manipulationen im Metaverse wirken? Und wie intensiv werden die Reaktionen darauf sein?

Gruselig wird es, wenn von KI und Maschinellem Lernen generierte Bild- und Tonmanipulationen, kurz „Deepfakes“, mit dem Metaverse zusammentreffen. Deepfakes wirken im Metaverse noch realistischer und intensiver als bisher. Manipulierte Reden ukrainischer Präsidenten oder deutscher Außenministerinnen sind dann nicht mehr nur seh- und hörbar, sondern auch fühlbar; man sieht keine manipulierten Kriegsvideos, sondern steht mittendrin im (gefälschten) Leid. Was könnte die Desinformationsindustrie des Kremls damit erreichen?

Geradezu plump wirkt der Gedanke an Deepfake-Kriegsvideos im Vergleich zu dem, was im Metaverse mit Mikrotargeting und Mimikry erreicht werden kann. Politiker können im Auftreten und ihren Botschaften in Echtzeit beliebig an die Vorlieben aller User angepasst werden. Studien haben schon vor Jahrzehnten gezeigt, dass Gesichter von Politikern bis zu 40 Prozent mit dem Gesicht einer Wählerin „verschmolzen“ werden können, ohne dass es auffällt.

Mit dem Effekt, dass die Sympathiewerte des Politikers enorm stiegen. Mit Hilfe von Deepfakes, Big Data und VR könnte etwa ein Donald Trump im Metaverse für jeden eine maßgeschneiderte Botschaft haben. Also, fast wie bisher, nur eben für alle gleichzeitig – mit allen Sinnen erfahrbar. Das wäre wie Populismus auf Speed und Cambridge Analytica auf Crystal Meth.

Digitaler Wilder Westen – unreguliert und vernachlässigt

Das Metaverse besteht aus einer Vielzahl dezentraler, interoperabler Kommunikationsräume. Bislang herrscht hier derselbe Wilde Westen wie in den Anfangsjahren von Social Media. Niemand schaute hin und bald waren Facebook, Youtube, Twitter und Co. die Lieblingsspielzeuge der Desinformanten.

Wer überwacht das Metaverse? Wer kann überhaupt Autorität ausüben, für Authentizität und Vertrauenswürdigkeit von Nutzern und Inhalten garantieren. Der Digital Service Act (DSA) der Europäischen Union gilt auch im Metaverse. Auch Betreiber verweisen auf dessen Regeln. Nur wer setzt ihn um? Und wie überhaupt? Die Inhalte dezentraler, beliebig oft kopierbarer, nicht-öffentlicher Welten und Plattformen mit Servern und Usern sowohl innerhalb als auch außerhalb der EU zu überwachen, ist ein Ding der Unmöglichkeit – selbst wenn es mal jemand versuchen würde.

Aber es gibt keine Metaverse-Task Force der US-Regierung, keine Initiative des Bundestages und selbst die Organe der EU, die den DSA umsetzen sollen, sind bestenfalls im Entstehen begriffen. Der DSA ist, wie ein Mitglied der EU-East Stratcom Taskforce auf einer Konferenz sagte, die Straßenverkehrsordnung der EU für die digitale Welt. Nur eben 18 Jahre nach der Gründung von Facebook, ausgelegt auf Desinformation mit Dieselmotor, während im Metaverse Deepfakes mit Warp-Antrieb gezündet werden könnten.

Ist da was?

Alles nur dystopische Zukunftsmusik? Wie leicht man im Metaverse Desinformation verbreiten kann, zeigten Buzzfeed-Journalisten: Sie erstellten einen Raum in „Horizon World“ und posteten ausschließlich politisch gefährliche Inhalte. Dann meldeten sie dieses „Qniverse“ Metas Moderatoren. Dreimal. Doch Meta hielt die Welt für unbedenklich: „The Qniverse doesn’t violate our Conduct in VR-Policy“. Erst als sich auf Nachfrage die PR-Abteilung einschaltete, verschwand das „Qniverse“.

Schon ein Jahr früher kam es bei einer Tech-Messe in Barcelona zu einem kleinen Eklat: Metaverse-Bot „David“ der Firma Sensorium zog bei einer Demonstration mit Corona-Verschwörungstheorien vom Leder und zeigte, wie wichtig Lernumgebung und ethische Grenzen bei KI sind.

„Uhive - the World's First Social Metaverse“: Bislang ein eher herkömmliches Soziales Netzwerk mit angekündigter Metaverse-3D-VR-Version. Absolute Redefreiheit ist für Uhive eines der selbst aufgestellten „Fünf Gesetze des Metaverse“. Das bedeutet, dass die Desinformationsmaschine des Kremls „RT“ dort genauso senden darf, wie der staatliche chinesische Propagandasender „CCTV“. Bald dann eben in 3D-VR, mit so vielen Bots und Deepfakes wie die Vorratskammer hergibt.

Und nu, was tun?

Metaverse, ChatGPT, Deepfakes – die Verunsicherung ob des immer schnelleren technologischen Wandels ist enorm. Doch das muss nicht sein, wir können die Zukunft im Metaverse gestalten:

• Ablehnen, Ignorieren, Verbieten – hilft nicht viel. Umarmen! Fast ein Jahrzehnt dauerte es, bis Qualitätsmedien und seriöse politische Kommunikatoren die Sozialen Medien für sich entdeckten. Wenn es beim Metaverse ähnlich lange dauert, reifen dort Populisten, Fanatiker und Staatspropagandisten zu Wortführern.
• Technologien nutzen! KI kann nicht nur Desinformation erstellen und verbreiten, sie kann sie auch erkennen, löschen, markieren, authentische Inhalte kennzeichnen und schützen und seriöse Inhalte erstellen und verbreiten. Europol und Interpol haben es vorgemacht (Tagesspiegel Background berichtete).
• Metaverse-Räume brauchen Regeln, Autorität und unabhängige Kontrolle. Das gilt für Technologien, Anwendungen und Inhalte. Sich dabei auf dieselben Firmen zu verlassen, die digitale Desinformation nicht effektiv bekämpfen wollten oder konnten, ist naiv. Experten regen stattdessen ein Modell geteilter, internationaler Aufsicht (ähnlich dem CERN oder der Internationalen Fernmeldeunion) an.
• Und wie immer gilt: Medienbildung, Medienbildung, Medienbildung! Die Risiken des Metaverse als Informationsraum sind spezifisch – aber nicht unmöglich zu vermitteln. Medienbildung über das Metaverse sollte im Metaverse stattfinden. Auch Medienbildung und seriöse Inhalte können „erfahrbar“ sein.

Christopher Nehring ist Gast-Dozent des KAS-Medienprogramms Südosteuropa an der Universität Sofia zum Themengebiet „Medien, Desinformation und Geheimdienste“. Nehring veröffentlichte kürzlich „Manipulation und Desinformation im Metaverse. Welche Herausforderungen gibt es und wie ist ihnen zu begegnen?“ in der Reihe „Analyse & Argumente“ der Konrad-Adenauer-Stiftung.