Digitale Gewalt : Deepfakes sind nur die Spitze des Eisbergs

Noch im Jahr 2024 schien es, als seien sexualisierte Deepfakes in Deutschland rechtlich gesehen kein Problem. Das Bundesjustizministerium lehnte den Vorschlag des Bundesrats zur Reform des Strafrechts ab. Das Gesetz existiert, die Opfer sind geschützt – so lautete die offizielle Botschaft. Auch ich habe mich von den Zusicherungen der Juristen täuschen lassen und war davon ausgegangen, dass es tatsächlich ausreichende Vorschriften gibt, die keine weitreichenden Eingriffe erfordern.

Ich habe mich geirrt, und zwar völlig.

Eineinhalb Jahre später wissen wir bereits, dass das Gesetz lückenhaft ist und die Opfer – hauptsächlich Frauen – nicht in der Lage sind, Gerechtigkeit durchzusetzen. Das Problem ist, dass es erst dem Fall der Schauspielerin und Fernsehmoderatorin Collien Fernandes bedurfte, damit wir uns davon eindeutig überzeugen konnten.

Recht deckt nur reale Aufnahmen ab

Entscheidend ist in diesem Zusammenhang § 201a StGB. Die Vorschrift betrifft zwar die „Verletzung des höchstpersönlichen Lebensbereichs und von Persönlichkeitsrechten durch Bildaufnahmen“ – umfasst jedoch keine synthetische Pornografie. Das Problem liegt in der Natur der Norm: Sie bezieht sich auf reale Aufnahmen. Wenn der Körper einer Frau KI-generiert ist und nur ihr Gesicht von einem echten Foto stammt (und das ist bei der überwiegenden Mehrheit solcher Deepfakes der Fall) – schweigt das Gesetz.

In Wirklichkeit wacht die Frau eines Morgens auf und entdeckt ihre Abbilder auf Pornoseiten. Jemand hat ihr Gesicht auf den Körper einer anderen Person montiert, verbreitet das Material im Netz, ruiniert ihren Ruf, gefährdet ihre Karriere und verursacht ein psychisches Trauma. Und der Staat zuckt die Schultern: „Es scheint keine Grundlage für die Einleitung eines Verfahrens zu geben“.

Die Juristin Theresia Crone, die ebenfalls Opfer solcher Deepfakes wurde, schrieb auf dem Verfassungsblog: „Im Dezember 2023 habe ich, damals 21 Jahre alt, dutzende Deepnudes von mir auf einer großen Social-Media-Plattform gefunden. Als Jurastudentin und Rechtsstaat-Enthusiastin erstattete ich sofort Strafanzeige. […] In den nächsten zwei Jahren fühlte ich mich von der Justiz allein gelassen”.

Crone nannte ihren Artikel „Bildbasiert, aber unsichtbar“. Ein passenderer Titel für dieses Phänomen ist kaum zu finden. Das Unrecht ist real. Die Beweise lassen sich auf dem Bildschirm zeigen. Und das Recht starrt darauf und tut so, als würde es sie nicht sehen.

Das Problem ist nicht aus heiterem Himmel aufgetaucht. Die ersten pornografischen Deepfakes kursierten bereits 2017 im Internet. Schon damals sah die Journalistin Samantha Cole vom Magazin „Vice“ voraus, was als Nächstes passieren würde: „Hier kommt der KI-generierte Fake-Porno, und jetzt sind wir alle am Arsch“. Seitdem ist die Erstellung synthetischer, hyperrealistischer intimer Inhalte für jeden mit einem Smartphone zugänglich geworden.

Fall Fernandes macht Gesetzeslücken sichtbar

Im Jahr 2025 legte der Bundesrat erneut einen Antrag vor – diesmal räumte die Regierung ein, dass Lücken bestehen. Was hatte sich geändert? Collien Fernandes hatte sich öffentlich zu Wort gemeldet. Deepfakes wurden in den Koalitionsvertrag aufgenommen. Und doch: Es ging nur schleppend voran. Nach monatelangen vergeblichen Bemühungen sprach Fernandes in den Medien von der völligen Ohnmacht des deutschen Rechtssystems und reichte ihre Klage in Spanien ein, wo sie lebt.

Ein schwacher Trost ist, dass auch andere Länder mit ähnlichen Problemen kämpfen. Ein Blick auf Polen zeigt dasselbe systemische Versagen – und denselben Reflex der Untätigkeit, bis ein konkreter Skandal die Politik aufweckt. Ich weiß, wovon ich spreche: Gemeinsam mit der Stiftung CEE Digital Democracy Watch haben wir Anfang 2025 einen Bericht erarbeitet, der die Probleme aufzeigt und konkrete Lösungen vorschlägt.

Das polnische Pendant zum Fall Fernandes war der Fall einer Teenagerin Ende 2025, deren Fotos von Gleichaltrigen digital entkleidet und im Internet veröffentlicht wurden. Polizei und Staatsanwaltschaft weigerten sich zunächst, Ermittlungen einzuleiten – sie sahen keinen persönlichen Schaden bei dem betroffenen Mädchen. Eine Kuriosität, die weniger von böser Absicht zeugt als vielmehr von der Hilflosigkeit der Rechtssysteme, die in einer vordigitalen Ära konstruiert wurden.

Das alarmierte Justizministerium – das bis vor kurzem noch behauptete, alles sei in Ordnung (das kennen wir doch, oder?) – setzte daraufhin eine Arbeitsgruppe für die Sicherheit von Kindern in der digitalen Welt ein. Als Mitglied dieser Gruppe habe ich eine klare Aufgabe: Wir müssen umfassend handeln, und die Zeit drängt.

Immerhin: In Deutschland liegt seit 17. April 2026 ein konkreter Referentenentwurf des Bundesjustizministeriums auf dem Tisch, der neue Straftatbestände für sexualisierte Deepfakes und erleichterte Auskunftsverfahren für Opfer vorsieht. Das sind gute Nachrichten, auch wenn es wohl nicht ohne Kontroversen ablaufen wird, da der Vorschlag nicht ausschließlich sexualisierte Deepfakes betrifft. Wichtig ist jedoch, es brauchte erst Collien Fernandes und ihre öffentliche Stimme, damit wir das Offensichtliche anerkannten.

Das Problem liegt tiefer

Und das ist eigentlich das größte Problem – eines, das weit über Deepfakes hinausgeht. Ob es um synthetische Pornografie geht, um Cyberangriffe auf kritische Infrastruktur oder um Drohnen über Flughäfen: Wir lernen es einfach nicht. Vorsicht ist gut, Besonnenheit ist wichtig – aber in einer Welt, in der sich Technologie schneller entwickelt als jeder Gesetzgebungszyklus, ist schnelles Reagieren keine Option, sondern eine Pflicht. Wer wartet, bis das Problem groß genug ist, um nicht mehr ignoriert werden zu können, hat bereits verloren. Die Opfer von Deepfakes wissen das schon längst.

Wir wissen nicht, wie viele stille Dramen in den Polizeistatistiken untergehen oder gar nicht erst gemeldet werden. Wir wissen jedoch, dass wir mehr als acht Jahre nach dem Auftauchen der ersten sexualisierten Deepfakes immer noch mit lückenhaften Gesetzen zu tun haben.

Der Fall Collien Fernandes ist, so seltsam es auch klingen mag, ein Segen für Tausende von Opfern. Die Schauspielerin ist zur symbolischen Stimme aller misshandelten Frauen geworden, und die gesellschaftliche Reaktion auf ihre Tragödie ist der beste Beweis dafür, dass wir wollen, dass das Gesetz uns schützt. Auch in der digitalen Welt, auch vor Technologien, deren Entwicklung den Reaktionen des Staates weit voraus ist.

Die wahren Held:innen dieser Geschichte sitzen nicht in den Parlamenten dieser Welt. Es sind Frauen wie Collien Fernandes oder Theresia Crone, die den Mut hatten, laut über ihr Leid zu sprechen. Lasst uns diesen Mut würdigen, indem wir ihm den angemessenen Preis zahlen: ein wirksames Gesetz, das keine Skandale braucht, um zu funktionieren.

Mateusz Łabuz leitet das Projekt Internationale Cybersicherheit am Institut für Friedensforschung und Sicherheitspolitik an der Universität Hamburg. Zuvor war er als Berufsdiplomat im polnischen Außenministerium und als Dozent für Cybersicherheit an der Universität der Nationalen Bildungskommission in Krakau tätig.