Social-Media-Regulierung : Die Politik darf sich nicht von Überforderung und Panik leiten lassen

Bundesjustizministerin Stefanie Hubig (SPD) hat sich Anfang der Woche für eine Altersgrenze für die Nutzung sozialer Medien ausgesprochen. Damit reiht sie sich bei europäischen Ministerinnen und Staatschefs ein, die eine härtere Gangart im Kinder- und Jugendmedienschutz fordern.

Die Frage, wie Kinder und Jugendliche im Netz besser geschützt werden können, ist dabei schon längst keine Diskussion unter Fachleuten mehr, sondern wurde vom französischen Präsidenten Emmanuel Macron und der dänischen Premierministerin Mette Frederiksen auf die höchste Ebene des politischen Parketts gehoben. So führen Frankreich und Dänemark, das ab Juli die rotierende Präsidentschaft des Rats der Europäischen Union übernehmen wird, eine Gruppe Mitgliedstaaten an, die zunehmenden Druck auf die Europäische Union ausüben, sich für ein Verbot von Social Media für Jugendliche einzusetzen. Forderungen nach pauschalen Verboten werden jedoch weder der Komplexität der Herausforderung noch den Bedürfnissen junger Menschen gerecht. Anstatt Teilhabe und einen selbstbestimmten Umgang mit sozialen Medien zu stärken, untergraben Verbote die Rechte junger Menschen und verfehlen das eigentliche Problem.

Ein Social-Media-Verbot scheint auf den ersten Blick eine verführerisch-einfache politische Forderung zu sein: Seit Jahren häufen sich die Hinweise auf die negativen Auswirkungen großer Online-Plattformen auf die mentale Gesundheit ihrer Nutzenden, auf Gefahren durch ungewollte Kontaktaufnahmen und die umfangreiche Verarbeitung sensibler persönlicher Daten zur Profilbildung für Online-Werbung. So zeigt eine Studie des Center for Countering Digital Hate, dass Videos, die gegen die Community-Richtlinien von Youtube zur Verherrlichung von Essstörungen zu verstoßen scheinen, nicht nur nicht entfernt werden, sondern einem fiktiven Test-Account eines 13-jährigen Mädchens sogar empfohlen werden. Eltern von Kinder-Influencern auf Instagram schlugen Alarm, um auf ihre Überforderung aufmerksam zu machen, ihre Kinder vor ihrem überwiegend erwachsenen und männlichen Publikum zu schützen. Ein Bericht von Amnesty International legt die Überwachungsinfrastruktur offen, mit der Tiktok massenhaft persönliche Daten sammelt um Nutzenden hyperpersonalisierte Empfehlungen und Werbungen anzeigen zu können.

Es liegt also auf der Hand, dass mangelnde Schutzeinstellungen, die inkonsequente Durchsetzung der eigenen Richtlinien sowie die umfangreichen Datensammlungen – kurz: ein auf Überwachungskapitalismus ausgelegte Geschäftsmodell – ernste Risiken für Nutzenden darstellen können. Es ist auch unbestritten, dass Kinder und Jugendliche besonders gefährdet sein können. Diese Vulnerabilität ist aber nicht nur eine Frage des Alters: Negative Auswirkungen auf das Selbstbild, Beeinflussung durch hyperpersonalisierte Empfehlungen und Werbeanzeigen oder die entgrenzte Nutzung von Social-Media-Angeboten betreffen auch Personen, die älter als 15, 16, oder 18 sind.

Medienzugang ist ein Kinderrecht

Während die negativen Effekte existierender Social-Media-Plattformen alle Nutzenden betreffen können, beschneiden die angedachten Verbote einseitig die Rechte von Kindern und Jugendlichen. Denn die Wahrung der Interessen junger Menschen betrifft nicht nur ihren Schutz, sondern auch die Durchsetzung ihrer Rechte. Die UN-Kinderrechtskonvention verbürgt das Recht auf freie Meinungsäußerung und die Freiheit aller Kinder, auf “Informationen und Gedankengut jeder Art in Wort, Schrift oder Druck, durch Kunstwerke oder andere vom Kind gewählte Mittel” zuzugreifen und diese zu teilen. Der Zugang zu Medien ist sogar als eigenständiges Kinderrecht geschützt.

Zu Recht wird oft auf die Risiken hingewiesen, die die Nutzung sozialer Medien mit sich bringen. Es darf dabei jedoch nicht übersehen werden, dass sie gerade für Jugendliche, die ihre Identität zu entwickeln und marginalisierten Gruppen angehören, eine Rettungsleine sein können, um Gleichgesinnte zu finden, sich auszutauschen und voneinander zu lernen. Soziale Medien sind zentral für die Vernetzung junger Menschen, sei es für queere Communities, von Rassismus betroffene Personen oder feministische Aktivistinnen.

Auch anderweitiges gesellschaftliches Engagement und politische Bildung sind im 21. Jahrhundert kaum ohne Online-Plattformen denkbar. Kinder und Jugendlichen pauschal die Chance zu nehmen, Teil solcher Debatten und Communities zu sein, greift tief in ihre Grundrechte ein und trägt zur Entmündigung einer ohnehin politisch kaum gehörten gesellschaftlichen Gruppe bei.

Altersschätzung oder Überprüfung

Der eigentliche Elefant im Raum der Verbotsdebatte ist jedoch die Frage nach dem „Wie“. Altersbeschränkungen setzen Altersüberprüfungen voraus, die regelmäßig für alle Nutzenden gelten müssen. Ein Blick auf existierende Verfahren zur Altersfeststellung macht aber deutlich, dass jede aktuelle verfügbare Methode mit massiven Risiken für Grundrechte einhergeht.

Grundsätzlich wird zwischen Methoden unterschieden, die das Alter einer Person anhand von amtlichen Dokumenten ermitteln, und solchen, die das Alter einer Person schätzen. Dokumentenbasierte Ansätze zur Altersüberprüfung setzen einen oder mehrere Akteure voraus, die das Alter eines Nutzers anhand von Ausweisdokumenten oder anderen offiziellen Unterlagen, bspw. von Banken oder Versicherungen überprüft. Diese Ansätze schließen kategorisch alle Personen aus, die keinen Zugang zu solchen Dokumenten oder Institutionen haben, wie beispielsweise undokumentierte geflüchtete Personen, wohnungslose Menschen, und Kinder und Jugendliche selbst, die häufig keine Personalausweise besitzen.

Bei Ansätzen zur Altersschätzung wird das Alter eines Nutzers durch die Analyse biometrischer Daten oder Signale wie der Browserhistorie ermittelt., Diese Ansätze basieren auf der Verarbeitung großer Mengen höchst sensibler Daten. Oft erfolgt diese Verarbeitung durch Drittanbieter und deren schwer einsehbaren Lieferketten. Nutzende sind dazu gezwungen, ihnen ihre persönlichen Daten anzuvertrauen. Eine aktuelle Recherche zu Yoti, einem Marktführer im Bereich biometrischer Altersschätzungen, zeigt beispielsweise, wie Anbieter die gesammelten Daten zur Erstellung von Nutzerprofilen verwendet können. Dadurch setzen sie die Nutzenden einer übermäßigen Identifizierung und der Gefahr von Datenlecks aus. Eine kürzlich vom amerikanischen National Institute of Standards and Technology (NIST) durchgeführte Überprüfung mehrerer Algorithmen zur biometrischen Altersschätzung ergab zudem, dass die Genauigkeit der Algorithmen stark von Geschlecht, Bildqualität, Geburtsregion und ethnischer Zugehörigkeit sowie den Wechselwirkungen zwischen diesen Faktoren beeinflusst wird.

Existierende Verfahren zur Altersüberprüfung gefährden somit die gesellschaftliche Teilhabe von Millionen Menschen, bergen Risiken für die Privatsphäre und die Daten ihrer Nutzenden, sind potenziell diskriminierend und fehleranfällig. Insbesondere mit Blick auf die Einschränkungen der Rechte derer, die geschützt werden sollen – Kinder und Jugendliche – können Social-Media-Verbote und die dafür notwendigen Verfahren Altersfeststellung kaum als geeignet und verhältnismäßig angesehen werden. Auch die französische CNIL hat festgestellt, dass verfügbare Systeme zum einen unzuverlässig sind - sie lassen sich umgehen - zum anderen aber mit tiefen Eingriffe in die Privatsphäre verbunden sind.

Das heißt jedoch nicht, dass Kinder und Jugendliche sich selbst überlassen werden sollten. Im Gegenteil: Um junge Menschen zu schützen und ihnen einen selbstbestimmten Umgang mit dem Netz zu ermöglichen, brauchen wir ambitioniertere Ansätze statt pauschaler Verbote.

Keine Symptombekämpfung – Plattformen in die Verantwortung

Es ist höchste Zeit, die Wurzeln des Problems anzugehen, statt seine Symptome zu behandeln. Dafür müssen die datengetriebenen Geschäftsmodelle der Plattformen eingeschränkt werden, die auf die Maximierung von Werbeeinnahmen ausgelegt sind. Trackingbasierte Werbung und die Personalisierung von Empfehlungssystemen aufgrund sensibler Daten und Inferenzen müssen verboten werden. Die existierenden Vorschriften der DSGVO, des Digital Services Act und der Verordnung über politische Werbung müssen konsequent(er) durchgesetzt werden. Die Standardeinstellungen von Online-Plattformen müssen die Privatsphäre ihrer Nutzenden schützen und ungewollte Kontaktaufnahmen verhindern.

Nutzende sollten mehr Möglichkeiten haben, ein ihren Interessen entsprechendes Empfehlungssystem auszuwählen. Die von ihnen getätigten Einstellungen und Präferenzen müssen respektiert werden. Plattformen müssen mehr Ressourcen in die grundrechtsfreundliche Moderation von Inhalten investieren und funktionierende Melde- und Beschwerdewege bereitstellen. Die aktuell von der Europäischen Kommission vorbereiteten Leitlinien zum Kinder- und Jugendschutz im Kontext des Digital Services Act beinhalten in dieser Hinsicht viele wichtige Ansätze . Allerdings tappen auch die Leitlinien in die Falle, Altersbestimmung als notwendige Voraussetzung für den Schutz junger Menschen anzusehen, ohne weniger invasive Maßnahmen angemessen zu prüfen.

Anstatt sich von Überforderung und Panik leiten zu lassen, muss die Politik junge Menschen selbst einbeziehen und sie an politischen Entscheidungen, die sie betreffen, beteiligen. Nur so können Lösungen erarbeitet werden, die die Rechte aller respektieren und der Komplexität der Situation gerecht werden.

Svea Windwehr ist Co-Vorsitzende von D64 und Mitglied des Beirats der Koordinierungsstelle für Digitale Dienste.