Digital Services Act (DSA) : Facebook-Leaks müssen Konsequenzen haben

Die US-amerikanische Whistleblowerin Frances Haugen hat mit ihren Enthüllungen rund um das Geschäftsmodell von Facebook in den vergangenen Monaten für viel Wirbel gesorgt. Sie hat ausgesagt, dass den Verantwortlichen immer bewusst war, welchen Einfluss ihre Plattformen auf Verhalten und Psyche der Nutzer:innen haben, dass Facebook auch gezielt Kinder auf die Plattformen lockt und dass schließlich der Profit stets an erster Stelle steht. Darüber hinaus haben die Enthüllungen einmal mehr offengelegt, dass es auf „sozialen“ Netzwerke mitnichten fair zu geht. Und das nicht zuletzt zu Lasten der Meinungs- und Informationsfreiheit.

Fehler im System

Die Leaks zeigen, welche Schwachstellen soziale Netzwerke wie Facebook bei der Moderation von Inhalten haben: Prominente Accounts genießen große Freiheiten, wodurch mehr als fragwürdige Inhalte nicht oder sehr spät entfernt werden. So genannte Content-Moderator:innen werden über Drittfirmen beschäftigt, allerdings nicht in allen Ländern, Regionen und Sprachen. Algorithmen, die immer weitere Teile der Moderation übernehmen, sind mangelhaft und bleiben es mit hoher Wahrscheinlichkeit noch lange. Und häufig sind die Kriterien, nach denen gelöscht wird, nicht transparent.

So kam es in der Vergangenheit dazu, dass ganze Ortschaften ohne Vorwarnung von Facebook entfernt wurden: Das französische Dorf Bitche verlor aufgrund einer Verwechslung mit einem englischen Schimpfwort seinen Facebook-Auftritt. Zwar wurde der Fehler nachträglich behoben, aber das Beispiel zeigt den Fehler im System.

Zur Löschung illegaler Inhalte werden die Plattformen auch von der Europäischen Kommission angehalten. Denn die will die Plattformen stärker in die Pflicht nehmen, für die Rechtmäßigkeit geposteter Inhalte Sorge zu tragen. Aber statt wie angedacht sorgfältig zu prüfen, wird von den Betreibern wohl auch mal zu schnell gelöscht. Und das zu Lasten der Meinungs- und Informationsfreiheit. Um diese zu schützen, muss die Politik jetzt für praktisch durchsetzbare Verfahren und Rechte der Nutzer:innen sorgen.

Künftige Bundesregierung muss DSA als Momentum für Regulierung nutzen

Der Zeitpunkt ist dabei mehr als günstig, um tatsächlich für Veränderung zu sorgen. Ein konkretes Gesetzespaket, mit dem Plattformen und ihre Angebote stärker reguliert werden können, wird derzeit auf europäischer Ebene verhandelt: der Digital Services Act (DSA). Deshalb soll Haugen nun am kommenden Montag (8. November) ihre Erkenntnisse auch mit dem zuständigen Ausschuss des Europäischen Parlaments teilen. Bereits heute wurde sie zu dem Thema in die Heinrich-Böll-Stiftung eingeladen.

Das geplante Gesetz zur Regulierung digitaler Dienste soll die mittlerweile über 20 Jahre alten Spielregeln des Internets an heutige Gegebenheiten anpassen. Es sollen möglichst einheitliche Verfahren geschaffen werden, wie Nutzer:innen sich gegen Plattformen aber auch andere Nutzer:innen zur Wehr setzen können, etwa wenn Hass und Hetze verbreitet wird. Bereits Ende dieses Jahres wird ein Kompromiss im Europäischen Parlament erwartet.

Es ist daher von zentraler Bedeutung, dass sich die Ampel in den laufenden Koalitionsverhandlungen den DSA vornimmt und eine verbraucherfreundliche Position formuliert.

Algorithmen dürfen nicht allein über Inhalte entscheiden

Zentral für starke Nutzerrechte ist, dass Facebook und Co. zunächst einmal klar sagen müssen, welche Rechte Nutzer:innen auf ihren Plattformen überhaupt haben. Die Community Guidelines müssen eindeutig formuliert sein und dürfen wenig bis keinen Spielraum für Interpretationen lassen. Alle Nutzer:innen sollten verstehen können, was Facebook erlaubt und verbietet. Nutzer:innen müssen gleich und fair behandelt werden. Willkürliche Sonderregeln für prominente Persönlichkeiten, Politiker:innen oder Medien lehnt der VZBV ab.

Weitere Frage: Wie gut und schnell können Rechte der Nutzer:innen durchgesetzt werden? Gerade in schnelllebigen sozialen Netzwerken ist der Zeitpunkt entscheidend, wann etwas veröffentlicht oder auch gelöscht werden kann. Im Fall einer Löschung werden Nutzer:innen derzeit aber erst informiert, wenn bereits Tatsachen geschaffen wurden. Damit wird wiederum die Meinungs- und Informationsfreiheit aller Nutzer:innen eingeschränkt.

Ein Verweis auf nachgelagerte Beschwerdeverfahren greift deshalb zu kurz. Nutzer:innen brauchen mindestens die Möglichkeit zur Anhörung, bevor der Inhalt entfernt wird. Statt sich nur auf einen Algorithmus zu verlassen, müssen Beteiligte nach klaren Kriterien in Entscheidungen einbezogen werden. Für den Zeitraum einer Prüfung dürfen Plattformen für fragliche Inhalte nicht haften, da ansonsten die Gefahr einer übermäßigen Löschung bestünde. Klare Ausnahme: Offensichtlich rechtswidrige Inhalte sind von der Regelung ausgenommen und müssen direkt entfernt werden.

Die Facebook-Leaks zeigen: Es darf keinen Promi- oder Politkerbonus geben. Ob ein Inhalt gelöscht wird, darf keine Frage des sozialen Status sein. Klare Regeln und Prozesse für alle Nutzer:innen sind notwendig. Es bleibt zu hoffen, dass die Enthüllungen von Whistleblowerin Haugen zumindest in den Koalitionsverhandlungen den Weg für mehr Verbraucherschutz und mehr Soziales in den Netzwerken ebnen.

Lina Ehrig leitet den Bereich Digitales und Medien beim Verbraucherzentrale Bundesverband (VZBV).