KI-Kompetenzen : Warum der AI Act den Ausbau von KI-Kompetenzen erfordert

Der Einsatz von generativen KI-Sprachmodellen nimmt im Alltag immer weiter zu. Jüngst wurde das chinesische Modell Deepseek berühmt, das es geschafft hat, gut eine Billion Dollar Börsenwert an einem Tag zu vernichten. Die Anwendungsebene hat längst den privaten Bereich verlassen und betrifft nun nahezu alle Professionen. Das liegt vor allem daran, dass die generativen KI-Sprachmodelle (und sonstige KI-Programme) ein großes Potenzial zur Effizienzsteigerung, insbesondere bei repetitiven Aufgaben haben.

Zur vollen Ausschöpfung dieses Potenzials bedarf es jedoch der richtigen Anwendung und zur richtigen Anwendung von KI-Software gehört auch die Erkenntnis, dass das System sich irren kann – schließlich gilt nicht umsonst der altbekannte Spruch „Es irrt die KI, solang‘ sie strebt“. Anwender brauchen also in jedem Fall grundlegende KI-Kompetenzen, damit KI richtig eingesetzt und eine Sensibilität für typische Schwachstellen und Risiken von KI-Programmen entstehen kann.

Dies hat auch der EU-Verordnungsgeber bei der Ausarbeitung der stark diskutierten Verordnung über Künstliche Intelligenz, kurz AI Act erkannt. Der Gesetzgeber der Europäischen Union macht deutlich, dass Anbieter, Betreiber und betroffene Personen von KI-Systemen mit den notwendigen „Konzepten“ vertraut gemacht werden müssen, damit fundierte Entscheidungen über KI-Systeme getroffen werden können. „Konzepte“ (auf Englisch: „notions“, also Verständnis) ist dabei weit zu verstehen und nach dem Einzelfall zu beurteilen.

Hierunter kann beispielsweise das technische Verständnis des Systems fallen. Dementsprechend legt der Artikel 4 des AI Act Anbietern und Betreibern von KI-Systemen auch eine direkte „KI-Kompetenzpflicht“ auf, die bereits seit dem 2. Februar 2025 in jedem Mitgliedstaat unmittelbar gilt. Was also ist zu tun?

Wen der AI Act zu KI-Kompetenzen verpflichtet

Artikel 4 des AI Act verpflichtet sowohl Anbieter als auch Betreiber, für die notwendige KI-Kompetenz zu sorgen. Vereinfacht ausgedrückt sind Anbieter all diejenigen Unternehmen und staatlichen Stellen, die Künstliche Intelligenz entwickeln oder entwickeln lassen und dann entweder selbst einsetzen oder unter ihrer Handelsmarke vertreiben. Betreiber sind hingegen diejenigen, die KI-Systeme in eigener Verantwortung nutzen – mit Ausnahme nicht beruflicher Tätigkeiten. Artikel 4 richtet sich also – vereinfacht ausgedrückt – sowohl an Entwickler als auch an alle, die KI beruflich einsetzen.

Die Handlungspflicht besteht darin, Maßnahmen zu ergreifen, „um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, […], über ein ausreichendes Maß an KI-Kompetenz verfügen.“ Dies soll unter Berücksichtigung ihrer technischen Kenntnisse, ihrer Erfahrung, ihrer Ausbildung und Schulung und dem Kontext, in dem die KI-Systeme eingesetzt werden sollen, geschehen.

Doch der Begriff der KI-Kompetenz ist genauso unbestimmt wie die in Artikel 4 beschriebene Handlungspflicht. Zum näheren Verständnis der KI-Kompetenz soll die Legaldefinition aus Artikel 3 Nr. 56 des AI Act helfen: Dort wird unter KI-Kompetenz die Fähigkeit beschrieben, „KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen können, bewusst zu werden“.

Artikel 4 des AI Act hat auf den ersten Blick mehr einen auffordernden Charakter als harte rechtliche Konsequenzen zur Folge. Während Artikel 99 des AI Act für viele Verstöße explizit Geldbußen vorsieht, ist dies bei Artikel 4 nicht der Fall. Dennoch greift auch hier nach Artikel 99 Absatz 1 des AI Act die allgemeine Verpflichtung der Mitgliedstaaten, alle Maßnahmen zu ergreifen, die für eine „wirksame, verhältnismäßige und abschreckende Sanktionierung“ von Verstößen notwendig sind. Abschreckend sind Sanktionen nach der EuGH-Rechtsprechung dabei nur dann, wenn die Sanktion nicht nur eine symbolische Wirkung hat, sondern gewährleistet, dass die Norm in der Praxis auch tatsächlich befolgt wird.

Mit Schulungen, KI-Beauftragten und internen Richtlinien vorbeugen

Darüber hinaus drohen Schadensersatzansprüche, wenn Unternehmen nicht für eine ausreichende KI-Kompetenz sorgen. Zum einen ist Artikel 4 unserer Ansicht nach ein Schutzgesetz nach Paragraf 823 Absatz 2 des Bürgerlichen Gesetzbuchs (BGB). Zum anderen hat auch die Europäische Kommission erwogen, den Artikel 4 des AI Act als Schutzgesetz im Sinne der geplanten – mittlerweile aber aufs Abstellgleis verschobenen – KI-Haftungsrichtlinie anzusehen.

Beides könnte in der Praxis weitreichende Folgen haben: Man stelle sich vor, dass aufgrund der KI-basierten Auswertung von medizinischen Untersuchungsergebnissen ein Patient einen Gesundheitsschaden erleidet, und der behandelnde Arzt nicht über ausreichende KI-Kompetenz verfügte. In einem solchen Fall drohen nicht nur öffentlich-rechtliche Sanktionen, sondern hohe Schadensersatzansprüche.

Denn wenn Artikel 4 des AI Act ein Schutzgesetz ist und Schäden im Zusammenhang mit nicht-kompetenter KI-Nutzung entstehen, sind nach deutschem Zivilrecht diese Schäden vollumfänglich zu ersetzen; mit anderen Worten: ein Verstoß gegen ein Schutzgesetz kann einen Schadensersatzanspruch begründen.

In diesem Sinne: Artikel 4 des AI Act ist bereits in Kraft. Mit Blick auf die drohenden haftungsrechtlichen Konsequenzen sollte präventiv gehandelt werden, um die erforderliche KI-Kompetenz zu erwerben. Als tatsächliche Umsetzung ist denkbar, dass (Anbieter und) Betreiber interne Richtlinien einführen zur Nutzung von KI-Software, verpflichtende Schulungsprogramme anbieten und einen betriebsinternen KI-Beauftragten bestimmen. Im Übrigen möchte das bei der EU-Kommission angesiedelte EU AI Office noch im Laufe dieses Jahres konkrete Handlungsanweisungen erteilen. Um Haftung zu vermeiden, sei jedem die aufmerksame Lektüre dieser Handlungsanweisung empfohlen, denn leider lautet das erwähnte Sprichwort ja korrekt: „Es irrt der Mensch, solang‘ er strebt.“

Benedikt Quarch ist Jurist und gründete unter anderem das Legaltech-Unternehmen Right Now.

Martin Ebers ist Präsident der „Robotics & AI Law Society“ (RAILS), Professor für IT-Recht an der Universität Tartu (Estland) und als habilitierter Privatdozent Mitglied der Juristischen Fakultät der Humboldt-Universität zu Berlin.