Bei Facebook sprudeln die Gewinne, moralisch aber ist das Unternehmen bankrott. So in etwa lautet das Urteil von Frances Haugen, die sich am Sonntag in einem TV-Interview erstmals der US-Öffentlichkeit zeigte. Zuvor hatte sie dem Wall Street Journal über Wochen unternehmensinterne Dokumente zugespielt, die sie während ihrer zwei Jahre bei Facebook gesammelt hatte. Aus den Dokumenten und Frances Haugens Erzählungen, ergibt sich das Psychogramm eines Weltkonzerns, der jeden moralischen Kompass verloren hat. Dessen Management selbst dann nicht einlenkt, wenn die eigenen Mitarbeiter harte wissenschaftliche Belege vorlegen über die Schäden, die Facebooks Geschäftspraktiken rund um den Globus verursachen – egal, ob es um demokratische Wahlen, oder die seelische Gesundheit von Teenagern geht.
Facebooks Lobbyisten wischen Kritik gern weg, indem sie behaupten, dass es überhaupt nicht existiere, das angebliche Geschäftsmodell, dessen Ziel es sei, unsere Aufmerksamkeit um jeden Preis an Benutzeroberflächen zu fesseln und durch personalisierte Werbung zu Geld zu machen. Das seien Plattitüden von Aktivisten, die sich mit sogenanntem Facebook-Bashing ein Auskommen verdienten. Dank Frances Haugen wissen wir nun: Manche zivilgesellschaftliche Kritik der vergangenen Jahre mag überzogen gewesen sein, im Kern aber war sie richtig.
So wusste Facebooks Management-Etage etwa, dass eine intensive Nutzung von Instagram viele junge Frauen psychisch krank macht – statt aber an der Produktsicherheit zu arbeiten, nahm Facebook diese besonders relevante Zielgruppe noch stärker ins Visier, wollte zuletzt sogar eine Instagram-Version für 10- bis 12-Jährige auf den Markt bringen.
Es ist Zeit für echte öffentliche Kontrolle
Klar ist auch: Aktivisten, Journalisten und Wissenschaft allein werden es nicht schaffen, Facebooks Geschäftsmodell mit demokratischen Standards in Einklang zu bringen. Zu viele Wellen der Entrüstung sind schon an dem Konzern zerbrochen, ohne Veränderung zu erwirken. Es ist Zeit für echte öffentliche Kontrolle, ausgeübt von Regulierungsbehörden mit ganz neuen Kontroll- und Durchgriffsrechten.
Dabei muss demokratischer Gestaltungsanspruch in digitalen Räumen über Löschpflichten hinausgehen. In Deutschland verpflichtet das Netzwerkdurchsetzungsgesetz Plattformbetreiber seit 2017, strafbare Inhalte zu entfernen, zumindest wenn diese ihnen durch Nutzer gemeldet wurden. Trotzdem ergab eine repräsentative Umfrage, die Reset im Sommer mit Pollytix durchgeführt hat, dass in Deutschland 35 Prozent der Nutzerinnen zwischen 18 und 34 Jahren schon sexuelle Belästigung erfahren haben. In der Altersgruppe von 18 bis 24 Jahren gaben 70 Prozent an, bereits digitalen Hass erlebt zu haben, jeweils am häufigsten auf Facebook.
Facebooks Verhalten ist nicht strafbar, aber sträflich
Schädlich ist Instagram für junge Internetnutzerinnen zudem nicht etwa, weil Mode-Influencer besonders häufig volksverhetzende Inhalte verbreiteten, sondern weil Instagram toxische Körperideale in den Mittelpunkt stellt, süchtig macht und Minderjährigen zum Kauf gesundheitsschädigender Diätprodukte animiert. Nichts davon ist strafbar, Facebooks Verhalten aber ist sträflich. Frances Haugen formulierte das in ihrem Interview am Sonntag so: „Facebook hat erkannt, dass die Leute weniger Zeit auf der Website verbringen, auf weniger Anzeigen klicken, wenn sie den Algorithmus sicherer machen würden.“
Löschpflichten setzen für Facebook keinen ausreichenden Anreiz, um bessere Produkte zu bauen. Wir müssen uns in das Produktdesign einmischen, wenn nötig auch in unternehmerische Einzelentscheidungen. Die neuen Enthüllungen geben auch Anlass, Facebooks Rolle im Bundestagswahlkampf gründlicher zu betrachten. Auch in Deutschland hatte Facebook die Möglichkeit, wirksame Maßnahmen gegen Hass und Desinformation zu ergreifen, der Verrohung digitaler Debattenräume entgegenzuwirken, statt an ihr zu verdienen. Das Bundeskriminalamt etwa hatte noch im Frühling vor der wachsenden Bedrohung gewarnt, die digitaler Hass für die Demokratie darstelle.
Facebook aber investierte nicht in Produktsicherheit, Datenschutz oder Transparenz, sondern in aufwändige PR-Kampagnen und Lobby-Touren durch Ministerien und Parteizentralen. Es war – so lautete wohl die kalte unternehmerische Rechnung – günstiger, den Eindruck von Verantwortungsbewusstsein zu erwecken, als wirklich verantwortlich zu handeln.
Die Interaktion mit fragwürdigen Inhalten ist in der Pandemie gestiegen
So behauptet Facebook zwar immer wieder, dass es die Reichweite von Seiten einschränke, die wiederholt Desinformation und Verschwörungsmythen teilen, etwa rund um die Covid-Impfstoffe. Tatsächlich aber hat sich die durchschnittliche Interaktionsrate von rechtsextremen und verschwörungsidelogischen Facebook-Seiten seit Beginn der Pandemie mehr als verfünffacht. Derweil erzielten AfD-Seiten laut der NGO „Hope not Hate“ im Wahlkampf im Schnitt fünfmal so viele Interaktionen wie die Seiten aller anderer Parteien.
Das liegt zumindest teilweise an Facebooks Empfehlungsalgorithmus, der reißerische und irreführende systematisch mit Reichweite belohnt. Ein Beispiel: Das österreichische Desinformationsportal Wochenblick veröffentlichte im Mai einen Artikel mit dem Titel „Plagiatjäger lässt aufhorchen: Ist Uni-Abschluss von Grünen-Chefin erfunden?“, der 7.000 Mal auf Facebook geteilt wurde. Ein ähnlicher Artikel des österreichischen Medienberichts24 erzielte laut dem Recherchezentrum Correctiv sogar 13.300 Shares und 33.000 Reaktionen.
Nicht so einfach messen lässt sich, wie viele Stimmen durch entfesselten digitalen Hass schon zum Verstummen gebracht, oder wie viel Demokratievertrauen durch Desinformation auf Facebook zerstört wurde. Die Konzernsprecherin Lena Pietsch hatte ja Recht, als sie gestern einwandte, dass das Unternehmen jeden Tag zwischen der Meinungsfreiheit und der Sicherheit seiner Nutzer abwägen müsse. Dass diese Entscheidungen aber im Sinne freier und vielfältiger Gesellschaften ausfallen, sollte künftig besser ein starke europäische Plattformaufsicht sicherstellen.
Felix Kartte leitet die Arbeit von Reset in Deutschland. Reset, eine Initiative, die sich für digitale Demokratie einsetzt, ist Teil von Luminate, einer Stiftung, die von der Omidyar-Gruppe finanziert wird. Zuvor war Kartte für einige Jahre beim Europäischen Auswärtigen Dienst in Brüssel, wo er sich mit Desinformation und digitalen Bedrohungen für die Demokratie befasste.
