AI Act : Nur weil das KI-Label fehlt, ist es noch lange nicht echt

Anbieter generativer KI-Systeme, die seit dem 2. August neu auf den Markt kommen, müssen ihre Ausgaben maschinenlesbar als künstlich erzeugt oder manipuliert kennzeichnen. Betreiber müssen Deepfakes und bestimmte KI-Texte offenlegen. Für Bestandssysteme hat der Gesetzgeber nachjustiert: Die am 27. Juli in Kraft getretene „Digital-Omnibus-Verordnung zur KI“ schiebt deren maschinenlesbare Kennzeichnung auf den 2. Dezember 2026.

Letzte Entscheidung liegt beim EuGH

Die Vorgaben der EU-Kommission vom 20. Juli legen die Pflichten fest, der Code of Practice übersetzt sie in konkrete Maßnahmen; Kommission und KI-Gremium haben ihn Anfang Juli als angemessen bewertet. Der freiwillige Beitritt lohnt, denn Unterzeichner profitieren von erleichterten Compliance-Nachweisen: Der Code ist bislang der einzige EU-weit anerkannte Rahmen dafür; die Aufsicht prüft bei ihnen primär die Umsetzung. Wer fernbleibt, belegt die Konformität anders und riskiert mehr Auskunftsverlangen. Verbindlich auslegen kann den AI Act indes nur der Europäische Gerichtshof (EuGH).

In unserer Praxis sehen wir, wie schwer das Geflecht zu durchdringen ist. Viele Unternehmen unterliegen deshalb dem Reflex, im Zweifel alles mit einem KI-Label zu versehen. Verständlich, denn jede Einzelfallprüfung erzeugt Opportunitätskosten. Der Transparenz dient das jedoch nicht: Ein Label auf allem unterscheidet nichts mehr.

Dabei ist die Intention des Gesetzes richtig, weil sogenannter AI-Slop (KI generierter Unsinn) das Netz flutet, und Deepfakes perfekt täuschen. Die Dauerkonfrontation mit echtem und KI-generiertem Inhalt erzeugt eine Art Realitätsmüdigkeit und es sinkt die Unterscheidungsfähigkeit. Das ursprüngliche Problem, Fälschungen zu erkennen, kehrt sich um: Schwer zu erkennen ist zunehmend das Authentische. Das kritische Denken erodiert, und selbst wahre Informationen lassen sich leicht als Fälschung abtun. Das ist die „Lügnerdividende“, laut derer sich Lügen auszahlt, denn allgemeine Skepsis gegenüber Echtem untergräbt das Vertrauen in legitime Quellen. Für Unternehmen ist das ein Geschäftsrisiko, von Betrug bis Markenmissbrauch.

Wen die Pflicht nicht trifft

Das Gesetz allein löst das Problem nicht, sein Anwendungsbereich ist eng. Erfasst sind nur KI-Systeme; täuschend echte Manipulationen ohne KI fallen nicht darunter. Privatpersonen, die Deepfake-Werkzeuge rein persönlich und nicht beruflich nutzen, trifft die Offenlegungspflicht nicht. Das KI-Tool muss zwar maschinenlesbar markieren, ein sichtbares Label ist dann keine Pflicht. Aber ausgerechnet dort entsteht ein großer Teil der Fälschungen. Im Richtlinien-Entwurf von Mai sollten Ausnahmen für Privatpersonen bei Deepfakes von öffentlichem Interesse eingeschränkt werden. Die finale Fassung rudert zurück und nimmt private Social-Media-Deepfakes ausdrücklich aus. Die Schutzlücke bleibt.

Hinzu kommen weitere Ausnahmen und Aufweichungen, etwa für unterstützende Standardbearbeitung wie leichte Retuschen oder Farbkorrekturen, erkennbar künstlerische oder satirische Werke und redaktionell verantwortete Texte. Deepfakes aus der Zeit vor dem Stichtag muss niemand nachlabeln. Die Konsequenz all dieser Ausnahmen: Ein fehlendes Label beweist nichts. Betrüger kennzeichnen nicht freiwillig, und vieles bleibt rechtmäßig ohne Label. Wer „ungelabelt“ als „echt“ liest, zieht damit schnell einen falschen Umkehrschluss.

Die Technik ist die Engstelle

Das Gesetz verlangt Lösungen, die „wirksam, interoperabel, belastbar und zuverlässig“ sind, soweit technisch möglich. Genau daran hakt es. Sichtbare Wasserzeichen und einfache Metadaten verschwinden mit Screenshot oder erneutem Hochladen. Währenddessen befinden sich KI-Detektoren im Wettrüsten. Wird die Erkennung besser, lernen Fälschungswerkzeuge, sie zu umgehen. Die Fehlerquoten bleiben hoch. Die EU-Kommission erkennt das jedoch an. Dort weiß man, dass keine einzelne Technik bislang alle vier Anforderungen erfüllt. Erst die Kombination trägt, weil sich ihre Schwächen ausgleichen.

Ein Beispiel ist der offene C2PA-Metadatenstandard, der Herkunft und Bearbeitungsschritte eines Inhalts dokumentiert. Weil sich Metadaten entfernen lassen, braucht der Nachweis einen zweiten Anker. Der kryptografische Hash (Hard Binding) bindet den Nachweis an die exakte Datei, bricht aber schon bei Neukompression. Ein maschinenlesbares Wasserzeichen (Soft Binding), etwa steganografisch unsichtbar in den Inhalt eingebettet, übersteht Zuschnitt, Kompression und Formatwechsel und macht die Herkunftsdaten wiederauffindbar. Sinnvoll kombinieren lässt sich das mit einem blockchainbasierten Register – einer Art digitalem Grundbuch. Es dokumentiert jede Kennzeichnung fälschungssicher und unabhängig verifizierbar; entfernte Labels fallen im Abgleich mit dem Original auf.

Wem der Nachweis gehört

Nachprüfbar macht die Kennzeichnung folglich erst die maschinenlesbare Ebene. Die überlebt allerdings selten den Upload: Viele Plattformen entfernen Metadaten. Wer den Nachweis der Plattform überlässt, macht ihn von deren Gutwilligkeit abhängig. Am stärksten wirken beide Ebenen kombiniert und im Medium verankert. Also ein sichtbares Label für Menschen mit der maschinenlesbaren Markierung für Systeme. So wandert der Nachweis über jede Plattformgrenze, die Kontrolle bleibt beim Rechteinhaber.

Dass Europa Transparenz für KI-Inhalte verbindlich macht, ist richtig. Ein fehlendes KI-Label bleibt trotzdem kein Echtheitsnachweis. Im Gegenteil: Je vertrauter das Label, desto echter wirkt die Fälschung ohne Label. Genau darauf setzen Desinformationskampagnen. Ein Pauschal-Etikett „KI-generiert“ stellt aufwendige, KI-gestützte CGI-Produktion neben einfachen AI-Slop. Weiter führen würden hingegen Content Credentials auf C2PA-Basis, wie ein digitaler Pass oder eine Zutatenliste, die fest mit dem Medieninhalt verbunden ist. Sie unterstützen die Transparenzpflichten und dokumentieren die Kennzeichnung und Herkunft fälschungssicher: Anbieter können jederzeit belegen, dass sie maschinenlesbar markiert haben, Betreiber, dass sie sichtbar gekennzeichnet haben. Jeder kann die Herkunft prüfen, das stärkt die Medienkompetenz.

Die entscheidende Frage lautet nicht: Ist das KI? Sondern: Kann ich der Herkunft dieses Inhalts trauen?

Simone Rosenthal ist Rechtsanwältin und Partnerin der Technologiekanzlei Schürmann Rosenthal Dreyer (SRD) in Berlin. Sie berät Unternehmen der Digitalwirtschaft zu IT-Recht, Datenschutz und KI-Regulierung. Zudem ist sie Seriengründerin mehrerer Legal-Tech-Unternehmen und einer Unternehmensberatung für Datenstrategie, KI und Informationssicherheit.

Alexander Holz ist Co-Founder der „On:mint GmbH“, einer europäischen Vertrauensplattform für den Schutz digitaler Vermögenswerte. Mit Content Credentials macht On:mint die Herkunft und Kennzeichnung digitaler Medieninhalte sicher und nachweisbar. Zuvor war er Unternehmensberater für Datenstrategie und KI-Governance.