Gesichtserkennung : Wir brauchen ein Moratorium für Gesichtserkennungssoftware

Das Thema „Automatische Gesichtserkennung“ verunsichert viele Menschen. Die allgegenwärtige Überwachung und Erkennbarkeit im öffentlichen Raum schafft eine Atomsphäre der Angst. Ich kann dieses Unwohlsein verstehen, denn die Technologie ist weder ausgereift, noch ist sie in einer demokratischen Gesellschaft wünschenswert. Und dennoch planen Regierungen oder Unternehmen immer wieder neue Vorstöße. Die Liste der fragwürdigen Projekte ist lang: Gesichtserkennung am Berliner Bahnhof Südkreuz, die Software Clearview AI, das von Horst Seehofer geplante neue Bundespolizeigesetz und jetzt PimEyes. 

Das Missbrauchspotential der Gesichtserkennung ist riesig, sowohl in der analogen Welt als auch im digitalen Raum. Eine ständige Dauerüberwachung und eine Identifizierung von Personen in Echtzeit werden unweigerlich zur Änderung unseres Verhaltens in der analogen Welt führen: keine Anonymität mehr auf der Demo gegen die Dauerüberwachung oder auf dem Weg ins Stadion. 

PimEyes: Türöffner für Missbrauch und Überwachung

Aber auch im Internet ist Gesichtserkennungssoftware, die das Internet nach Bildern von Personen anhand ihrer biometrischen Eigenschaften durchsucht, ein Türöffner für Missbrauch und Überwachung. Eine Software wie PimEyes, die Clearview AI erschreckend ähnlich ist, sich aber gerade an alle Nutzerinnen und Nutzer statt an staatliche Stellen richtet, ist das Überwachungstool, dass sich Stalker und Kriminelle in ihren kühnsten Träumen nicht ausgemalt haben. Sie können PimEyes mit beliebigen Bildern füttern und sich auf Knopfdruck, ohne lästige Kontrolle, ohne Kenntnis der gesuchten Person, Bilder anzeigen lassen. Ohne großen Aufwand lassen sich Umfeld und Aufenthaltsort der gesuchten Person ausfindig machen. Ein Albtraum für jedes Opfer von Stalking, häuslicher Gewalt oder Mobbing.

Wäre das alles nicht schon schlimm genug ist Gesichtserkennungssoftware trotz aller Glorifizierungen, gerade durch den deutschen Bundesinnenminister, noch immer fehlerhaft. Wir wissen, dass die Software nur so gut ist, wie ihre Trainingsdatensätze. Und die eingesetzten Datensätze sind diskriminierend. Insbesondere People of Color und Frauen werden immer wieder falsch erkannt. Das ist nicht hinnehmbar. Biometrische Daten werden durch die Europäische Datenschutzgrundverordnung, die trotz aller Kritik, ein Meilenstein des Datenschutzes ist, als besonders schutzwürdig anerkannt. Das bedeutet, eine Verarbeitung ist, außer unter bestimmten Bedingungen, grundsätzlich verboten. Und das aus gutem Grund.

Rückwirkende Abmahnungen schützen Nutzer nicht

Es ist aber offensichtlich, dass aus der Causa Clearview nichts gelernt wurde. PimEyes hat auch Daten großer Plattformen gescannt, darunter Instagram, YouTube, Twitter und TikTok. Wieder haben die großen Anbieter versagt, die von ihren Nutzerinnen und Nutzer hochgeladenen Daten zu schützen. Wieder war es möglich, dass Daten abgegriffen und für missbräuchliche Zwecke eingesetzt werden konnten. Ich mache es den Digitalkonzernen zum Vorwurf, nicht gegen solch einen Missbrauch vorzugehen. Die im Nachhinein verschickten Abmahnungen sind gut, aber wirkungslos. Der Schaden für die Betroffenen ist eingetreten, die Verunsicherung wieder gestiegen und Menschen Opfer einer neuen Technologie geworden.

Es gibt also gute Gründe, Gesichtserkennungssoftware in der EU nicht zuzulassen. Daher hatte die Europäische Kommission Anfang des Jahres überlegt, ein Moratorium für Gesichtserkennung in der EU zu beschließen und in den kommenden Jahren erst einmal die ethischen, rechtlichen, gesellschaftlichen und technischen Bedingungen zu klären. Angesichts der riesigen Gefahren durch den Einsatz dieser Technologie wäre das der richtige Schritt gewesen. 

Ich bedauere, dass die Kommission, dann doch nicht den Mut aufbringen konnte, das Moratorium zu erlassen. Ich halte es aber noch immer für wichtig und werde die Europäische Kommission in einer schriftlichen Anfrage nächste Woche fragen, ob sie ihre Haltung, aufgrund des PimEyes-Skandals, überdenken will. Ich finde, wir sind es dem Schutz unserer Demokratie, den Grundrechten der Europäerinnen und Europäer und unserer Freiheit schuldig. Wir brauchen das Moratorium für Gesichtserkennungssoftware und den Willen, am Ende auch „nein“ zu dieser Technologie zu sagen.

Tiemo Wölken, Jahrgang 1985, ist seit 2016 Mitglied des Europäischen Parlaments. Besondere Bekanntheit erlangte der Sozialdemokrat im Rahmen der Reform der europäischen Urheberrechtsrichtlinie durch seinen Einsatz gegen Uploadfilter. Seit Beginn der neuen Legislaturperiode ist er der rechtspolitische Sprecher der Fraktion der Sozialisten und Demokraten im Europäischen Parlament.