Generative KI : Innovation durch KI bitte ohne Kollateralschaden

Die rasante Entwicklung der Künstlichen Intelligenz (KI) spiegelt eindrucksvoll wider, was gemeinhin als Innovation bezeichnet wird. Der technische, soziale und wirtschaftliche Wandel durch den stetig ansteigenden Einsatz von KI ist unübersehbar. Sie wird unsere Lebens- und Arbeitswelt drastisch verändern. Zum Besseren? Zum Schlechteren? Das wird maßgeblich davon abhängen, ob es gelingt, die Chancen zu nutzen und die zweifelsohne bestehenden Risiken, die mit KI-Anwendungen einhergehen, auf ein Mindestmaß zu reduzieren. Dafür muss jetzt Rechtssicherheit hergestellt und der Umgang mit KI mit Augenmaß reguliert werden.

Beim Urheberrecht liegt das Kind schon im Brunnen

Die EU-Kommission hat das erkannt und will mit dem weltweit ersten KI-Gesetz einen Rechtsrahmen auf der Grundlage von Risikoeinschätzungen schaffen. Für die Buchbranche wie für die gesamte Kultur- und Kreativwirtschaft besonders relevant ist dabei die Frage, welche Regeln für generative KI-Modelle wie ChatGPT, GPT-4, BERT oder DALL-E 2 aufgestellt werden. Hier liegt das Kind schon im Brunnen, denn für diese KI-Modelle sind künstlerische, kreative und publizistische Inhalte das Ausgangsmaterial und diese sind durch das Urheberrecht oder verwandte Schutzrechte geschützt.

Dennoch wurden die KI-Modelle massenhaft mit diesen Inhalten gefüttert, ohne die vorherige Erlaubnis der Rechteinhaber einzuholen und Nutzungsvorbehalte zu achten. Dabei ist höchst umstritten, ob sich die Anbieter generativer KI auf die gesetzliche Erlaubnis zum Text und Data Mining (TDM) gemäß § 44b Urheberrechtsgesetz berufen konnten. Denn die Trainingsdaten für generative KI-Modelle dienen nicht nur der reinen Datenanalyse, sondern auch der Generierung neuer Inhalte und könnten somit eine neue Nutzungsart begründen.

Wir stellen uns keineswegs insgesamt der Entwicklung generativer KI entgegen. Doch die Ausbeutung unserer Werke und Leistungen durch KI-Anbieter, die wirtschaftlich von der Nutzung der Werke profitieren aber keinen Beitrag zur Refinanzierung der Kulturgüter leisten, ist nicht hinnehmbar.

Es braucht Transparenz bei Trainingsdaten

Der mit großer Mehrheit beschlossene Vorschlag des Europaparlaments, Anbieter von generativer KI in die Verantwortung zu nehmen und ihnen ein Mindestmaß an Transparenzpflichten aufzuerlegen – wir reden von Dokumentation und Offenlegung der verwendeten Trainingsdaten – wäre eine geeignete und niederschwellige Maßnahme, um die Ausbeutung einzudämmen und KI-Entwicklung für die Zukunft in rechtssichere Bahnen zu lenken. Der Aufwand wäre nach Ansicht vieler KI-Entwickler überschaubar und ganz sicher weitaus geringer als die umfassenden Transparenz- und Nachweispflichten, die unseren Unternehmen mit dem Lieferkettensorgfaltspflichtengesetz abverlangt werden.

Doch was in Europa auf einem vernünftigen Weg war, soll nun ausgebremst werden: Die Regierungen in Deutschland, Frankreich und Italien stemmen sich vereint gegen jede gesetzliche Inpflichtnahme der Anbieter von generativer KI. Sie sehen durch diese doch eher bescheidene Maßnahme die Innovationskraft dieser Technologie in Gefahr. Damit übernehmen sie unreflektiert das altbekannte Narrativ der Tech-Wirtschaft, das stets bemüht wird, wenn der kleinste regulative Eingriff droht.

Die vielen äußerst kritischen Stimmen, die es von verantwortungsbewussten KI-Entwickler*innen durchaus gibt, werden ignoriert. Allenfalls eine Pflicht zur Selbstverpflichtung soll genügen. Wie aber soll die Einhaltung von Selbstverpflichtungen kontrolliert und gegebenenfalls sanktioniert werden? Dazu findet sich in dem gemeinsamen und inzwischen geleakten Papier der drei Länder nichts.

Selbst China hat strengere Anforderungen

Sogar China will in seinem Gesetzesentwurf zu KI verlangen, dass generative KI nicht mit Inhalten trainiert werden darf, die die Rechte des geistigen Eigentums verletzen und dass Anbieter generativer KI die erforderlichen Informationen über die Trainingsdaten bereitstellen müssen. Der chinesische Markt bliebe europäischen Anbietern generativer KI also ohne Transparenz über ihre Trainingsdaten verschlossen, während der chinesischen Konkurrenz in Europa alle Türen offen stünden. Das sollte uns befremdlich stimmen.

Das von Deutschland, Frankreich und Italien favorisierte Instrument einer unkontrollierten und nicht sanktionierbaren Selbstregulierung löst die gewaltigen offenen Fragen im Umgang mit generativer KI jedenfalls nicht. Vielmehr wird es unweigerlich zu nachträglichen und wenig effektiven Nachbesserungsversuchen führen, wie sie regelmäßig nach unregulierten Innovationsschüben (Social-Media-Netzwerke, Auswüchse der Plattform-Ökonomie, Value Gap etc.) zu beobachten sind.

Die Haltung der Bundesregierung in dieser Frage irritiert, legt sie doch in jedem anderen Zusammenhang größten Wert auf Datentransparenz. Ausgerechnet bei einer Technologie, die eben auch geeignet ist, Fake-Wahrheiten und Falschinformationen im großen Stil zu verbreiten, will sie davon nichts wissen? Und dies in Zeiten, in denen es in unser aller Interesse sein muss, unsere offene, demokratische Gesellschaft ganz entschieden gegen Fake-News, Populismus und Hate-Speech zu verteidigen!

Für die Zukunft der Kultur- und Kreativwirtschaft ist es existentiell, dass Anbieter generativer KI-Modelle wenigstens rechtssicher Transparenz über die Verwertung und anderweitige Nutzung von Inhalten durch ihre Systeme gewährleisten müssen. Angesichts der Geschwindigkeit, mit der KI-generierte Inhalte Einzug in unseren wirtschaftlichen und gesellschaftlichen Alltag halten, ist die Aufnahme von klar gefassten Transparenzregelungen in das geplante Gesetz über künstliche Intelligenz (AI Act) das Mindeste, was von einem ersten Schritt zur Schaffung eines ambitionierten Rechtsrahmens auf EU-Ebene erwartet werden darf und muss. Die Bundesregierung sollte die Perspektive der Kulturbranchen in dieser Frage nicht geringschätzen und ihren Selbstregulierungsansatz verwerfen.

Peter Kraus vom Cleff ist seit 2022 Hauptgeschäftsführer des Börsenvereins des Deutschen Buchhandels. Er war mehr als 20 Jahre in verschiedenen Häusern der Verlagsgruppe Georg von Holtzbrinck aktiv, zuletzt führte vom Cleff seit 2008 als kaufmännischer Geschäftsführer den Rowohlt-Verlag.