5 nach 12 : Transparenzpflichten für KI seit 2. August in Kraft

Künstliche Intelligenz (KI) hält die Welt weiter auf Trab. Während jüngst Nachrichten kursierten, wonach im Internet schon bald der Anteil von durch Menschen erstellten Inhalten auf einen Promillewert reduziert würde, greifen seit dem 2. August – jedenfalls in der EU – weitere Vorgaben der KI‑Verordnung (AI Act). Besonders bedeutsam scheinen die Regeln zur Transparenz beim Umgang mit KI‑generierten Inhalten.

Doch was genau wird eigentlich gefordert und von wem? Höchste Zeit, sich mit dieser Frage zu befassen. Während dabei zunächst der Blick auf die Verwaltung als Ersteller von KI-Inhalten gerichtet wird (A.), soll dann die Bedeutung von KI-Eingängen noch knapp thematisiert werden (B.), die den Staat zunehmend unter Druck setzen könnten.

A. Die Verwaltung als „Urheber“

Zentraler Ausgangspunkt für die an Recht und Gesetz gebundene Verwaltung ist natürlich das Gesetz selbst. Am 2. August sind die Transparenzpflichten der KI-Verordnung europaweit in Kraft getreten. Die Transparenzpflichten des Artikel 50 sind nicht in Stein gemeißelt. Sie müssen regelmäßig evaluiert und fortgeschrieben werden. Erstmals 2028 und danach alle vier Jahre.

Die Pflicht für „Anbieter“ dürfte regelmäßig „die IT“ treffen. Kurz zusammengefasst entwickeln Anbieter ein KI‑System oder bringen es unter eigenem Namen in Verkehr.

Die Pflicht für „Betreiber“ ist weiter gefasst und dürfte viele treffen, nämlich diejenigen, die ein KI‑System in eigener Verantwortung im beruflichen Bereich verwenden. Die deutsche Übersetzung des „Betreibers“ ist also etwas unglücklich, in der englischen Fassung ist passender vom „Deployer“ die Rede.

KI-Systeme zur Interaktion mit Menschen

Anbieter müssen KI-Systeme so gestalten, dass nicht der Eindruck erweckt wird, dass die Interaktion mit einem Menschen erfolgt. Hierdurch soll verhindert werden, dass Personen irrig davon ausgehen, mit einem Menschen zu interagieren.

Diese Gefahr besteht primär bei Systemen, die ein menschenähnliches Verhalten aufweisen, wie Chat- und Voicebots. Konkrete Vorgaben, wie solche KI-Systeme ausgestaltet sein müssen, enthält die Verordnung nicht, wohl aber gibt es Empfehlungen in Leitlinien der Kommission. Bei einem Chatbot beispielsweise: Blenden Sie beim Start eines Chatbots oder einer Interaktion eine Nachricht ein (z. B. „Sie chatten mit einem KI-Assistenten“).

KI-Systeme zur Erzeugung synthetischer Inhalte

Anbieter von KI-Systemen, die synthetische Inhalte erzeugen, müssen technische Lösungen integrieren, um ihre Inhalte maschinenlesbar zu kennzeichnen. Die Pflichten gelten für alle gängigen Medienformate (Audio, Bild, Video, Text) sowie deren Kombinationen (Multimodalität).

Menschen sollen KI-generierte oder veränderte Inhalte leicht von menschlichen Inhalten unterscheiden und deren Herkunft prüfen können. Es gelten Ausnahmen für Systeme, die nur geringfügige Änderungen an Texten vornehmen. Etwa grammatikalische Korrekturen bei Text oder eine Rote-Augen-Korrektur bei Video und Bildern fallen nicht unter die Transparenzpflicht.

KI-Systeme zur Erzeugung von Deepfakes und synthetischen Texten

Betreiber eines KI‑Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, sowie Betreiber eines KI‑Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, treffen ebenfalls Transparenzpflichten: Die Betreiber solcher KI-Systeme müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.

Ein Deepfake ist dabei ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einem Betrachter fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.

Zu den regulierten Texten gehören politische, gesellschaftliche, wirtschaftliche, kulturelle und wissenschaftliche Inhalte mit – auch nur für lokale Gruppen – relevanten Inhalten. Eine wichtige Ausnahme gilt, wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt: Dann entfällt die Transparenzpflicht vollständig.

EU-Leitlinien und Icons

Die konkreten Anforderungen an die Transparenzpflichten hat die EU am 20. Juli 2026, rund zwei Wochen vor Inkrafttreten der Verpflichtung, in Leitlinien zu Transparenzverpflichtungen für Anbieter und Betreiber von KI-Systemen festgelegt, die frei im Internet verfügbar sind.

Als an Recht und Gesetz gebunden, sollte die Verwaltung ihre resultierenden Transparenzpflichten umfassend erfüllen. Die EU stellt für visuelle Inhalte eigens hierfür Icons bereit. Im Sinne der Vermeidung von Wildwuchs würde es sich anbieten, wenn die öffentlichen Verwaltungen diese europaweit einheitlich nutzen, sodass Bürgerinnen und Bürger ebenfalls möglichst einheitlich über KI-generierte Inhalte informiert werden, was wiederum die Transparenz steigert.

B. Die Verwaltung als „Empfänger“

Nachdem die Transparenzpflichten nunmehr in Kraft getreten sind, stellt sich die Frage, wie die Verwaltung als Adressat von KI-generiertem Inhalt herausgefordert wird. Bereits im Rahmen früherer Massenereignisse seit 2014 wie den „Dieselklagen“ oder auch den „Abmahnungen im Internet wegen Urheberrechtsverletzung“ oder später den zahllosen „Wohngeldverfahren infolge geänderter Kreise an Anspruchsberechtigten“ wurde deutlich, dass Massenphänomene den Staat in Zukunft vor erhebliche Herausforderungen stellen können.

Privatpersonen dürften dabei regelmäßig weder Anbieter noch Betreiber von KI-Systemen sein, sodass die Transparenzpflichten aus Art. 50 sie selbst nicht treffen. Für die Verwaltung wird es daher eminent wichtig sein, dass sich die Transparenzpflichten der KI-Verordnung nunmehr auch tatsächlich in realen Kennzeichnungen durch die Anbieter niederschlagen. Indes: Wenn Bürgerinnen und Bürger KI-generierte Inhalte auf Papier drucken und an Behörden übersenden, dürfte zumindest fraglich sein, ob Kennzeichnungen zur KI-Herkunft der Inhalte erhalten bleiben.

Selbst wenn der Inhalt als KI‑generiert erkennbar ist, stellt sich die Frage, wie dann zu verfahren wäre. Muss ein Antrag oder ein Widerspruchsbescheid nicht mehr bearbeitet werden? Das dürfte eher abzulehnen sein, macht sich doch die einreichende Person den Inhalt zu eigen.

Nach meiner Einschätzung ist die Transparenzpflicht der KI-Verordnung erst der Anfang einer anstehenden notwendigen rechtlichen Kette im Umgang mit KI‑generierten Eingaben beim Staat. Die Möglichkeit, dutzende Seiten wohlformulierte juristische Schriftsätze per Mausklick zu erstellen, wird nicht mehr verschwinden. Und egal, wie gut oder wie schlecht die Eingaben sind – sie müssen im Rechtsstaat Punkt für Punkt geprüft werden, was derzeit in aller Regel Menschen übernehmen. Schon 2014 wurde klar, dass Massenereignisse wie die Dieselklagen unseren Rechtsstaat verändern. KI potenziert nun die bestehenden Herausforderungen durch hochautomatisierte Eingaben und erweitert den Kreis der Nutzenden auf alle Bürgerinnen und Bürger.

Keine Lösung dürften jedenfalls derzeit „KI-Detektoren“ sein, die diesem Text bescheinigen, mit einer Wahrscheinlichkeit von 87 % von einem Menschen erstellt worden zu sein. Ob das korrekt ist? Wer weiß? Jedenfalls übernehme ich die redaktionelle Verantwortung – so oder so.

Björn Beck leitet das Innovationslabor der Landesregierung im Staatsministerium Baden-Württemberg.