AI Act : Wie sich AI Act und Produktsicherheitsrecht verheddern

Am 2. August 2024 trat die europäische Verordnung 2024/1689 in Kraft, mit der die EU-Kommission die „menschlichen und ethischen Aspekte der künstlichen Intelligenz“ regulieren möchte. An vielen Stellen bietet der AI Act tatsächlich einen Mehrwert. Doch ausgerechnet bei der industriellen KI erzeugt der Rechtsakt erhebliche Rechtsunsicherheit und einen fulminanten Wettbewerbsnachteil für europäische Unternehmen.

Unter industrieller KI versteht man die Nutzung künstlicher Intelligenz in industriellen Kontexten: etwa bei der Auswertung von Sensordaten, der Automatisierung von Prozessen oder auch der vorausschauenden Instandhaltung („predictive maintenance“). Entsprechende Verfahren sind zum Teil bereits seit Jahrzehnten im Einsatz und bilden einen elementaren Bestandteil der Wertschöpfungskette.

Die große Chance industrieller KI besteht darin, Software und Maschinen noch enger zu verbinden. Industrielle Prozesse lassen sich so schneller und effizienter steuern. Laut einer Studie des Thinktanks IW Consult beträgt das zusätzliche Bruttowertschöpfungspotenzial für industrielle KI 330 Milliarden Euro. Wenn die deutsche Wirtschaft auf diesem Spielfeld nicht mitspielen kann, wird sie ins Hintertreffen geraten. Die falschen regulatorischen Rahmenbedingungen würden so das wirtschaftliche Fundament Europas unwiederbringlich beschädigen.

Die verzögerte Bereitstellung der harmonisierten europäischen Normen und das verspätete Durchführungsgesetz auf nationaler Ebene bereiten Unternehmen Kopfschmerzen. Dadurch ist an vielen Stellen noch unklar, wie die Vorgaben des AI Acts umgesetzt werden sollen. Das größte Problem für die Industrie ist allerdings das Zusammenspiel verschiedener Rechtsakte.

Mit dem AI Act entsteht eine Doppelregulierung

Grundsätzlich braucht es regulatorische Leitplanken, um das wirtschaftliche Potenzial der KI zu entfesseln, ohne Menschen zu gefährden. Das probabilistische Element von KI führt bei den großen Sprachmodellen beispielsweise oft zum faktenwidrigen Halluzinieren. In der Welt der Maschinen können solche Fehler tödlich sein. Kein Hersteller möchte, dass sein Aufzug nur mit 95 Prozent Wahrscheinlichkeit im obersten Stockwerk ankommt oder dass sein autonomer Rasenmäher plötzlich Jagd auf den Nachbarshund macht. Und spätestens bei Medizingeräten wünscht sich jeder Patient klare Leitplanken.

Allerdings deckt das existierende Produktsicherheitsrecht solche Fälle schon ab. Denn die strengen Sicherheitsvorschriften, beispielsweise der Medical Device Regulation oder der Machinery Directive, gelten selbstverständlich auch, wenn ein Produkt KI enthält. Auch im Haftungsrecht gibt es entsprechende Regeln, denn die neue Product Liability Directive schließt Software – und damit auch KI – ausdrücklich mit ein. Mit dem AI Act entsteht also eine Doppelregulierung, die sich im Zusammenspiel mit bereits existierenden Richtlinien verheddert.

Probleme im Zusammenspiel mit Produktsicherheitsrecht

Dies gilt insbesondere für das Zusammenwirken des AI Acts mit den anderen Rechtsakten des New Legislative Frameworks (NLF). Dieses setzt seit Jahrzehnten klare Rahmenbedingungen für das europäische Produktsicherheitsrecht. Die Idee dahinter ist eine klare Trennung zwischen grundlegenden Sicherheitsanforderungen in EU-Rechtsakten und technischen Details in harmonisierten europäischen Normen.

Das Ergebnis ist eine Modullogik des New Legislative Frameworks: Wer Spielzeuge herstellt, hält sich an die Toy Safety Directive. Wer Funkanlagen produziert, unterliegt der Radio Equipment Directive. Damit dies reibungslos funktioniert, müssen die einzelnen Rechtsakte wie Zahnräder ineinandergreifen.

Der AI Act versagt allerdings in dieser Hinsicht. Dass sich beispielsweise die Definition von Sicherheitsbauteilen in der Machinery Regulation von der in dem AI Act unterscheidet, mag auf den ersten Blick wie ein Detail erscheinen. Doch im Unternehmensalltag können diese unbestimmten Rechtsbegriffe schnell zu hohen Compliance-Kosten führen.

Die EU-Kommission will Unklarheiten durch unverbindliche Leitlinien, FAQs oder auch einen Chatbot beseitigen. Das kann kaum gelingen, denn das große Problem bleibt am Ende, dass der AI Act viel mehr sein möchte als nur ein weiteres Element des Produktsicherheitsrechts.

KI-gestützte Gesichtserkennung, detaillierte Bombenbauanleitungen in ChatGPT oder auch Initiativen zur Vermittlung von KI-Kompetenz sind sicherlich Themen für die Politik. In die filigrane Logik des Produktsicherheitsrechts passen sie allerdings nicht. Wäre die Low Voltage Directive beispielsweise nach derselben Logik wie der AI Act aufgebaut, müsste der Hersteller einer Glühlampe nicht nur sicherstellen, dass sein Produkt keine Stromschläge verursacht. Stattdessen müsste er sich plötzlich auch mit der Möglichkeit befassen, dass sein Produkt vielleicht einmal in der Taschenlampe eines Einbrechers verbaut sein könnte. Für die kriminelle Nutzung von Taschenlampen gibt es allerdings das Strafgesetzbuch.

Der AI Act muss überarbeitet werden, um das für die Industrie zentrale Problem des Zusammenspiels unterschiedlicher Rechtsakte zu bewältigen. Zweifelsohne wird dies Zeit kosten. Deshalb sollten die Fristen zur Umsetzung um mindestens 24 Monate nach hinten verschoben werden.

Viele NLF-Rechtsakte werden zurzeit auf den neuesten Stand gebracht. Falls dort entsprechende Leitplanken gesetzt sind, ließe sich industrielle KI aus dem AI Act ausklammern. Denn doppelt hält nicht immer besser.

Thomas Clausen arbeitet als Manager Digitalpolitik beim ZVEI, dem Verband der Elektro- und Digitalindustrie. ZVEI vertritt die gemeinsamen Interessen der Branche und der zugehörigen Dienstleistungsunternehmen in Deutschland und auf internationaler Ebene.