Eine Tat ohne Täter? : Wie der Rechtsstaat auf Straftaten autonomer KI reagieren sollte

Als „bizarre Form von Marketing“ bezeichnete ein Reddit-Nutzer (oder ein Bot, wer weiß das heute schon?) die Nachricht, dass eine Künstliche Intelligenz von Open AI die Plattform Hugging Face gehackt habe. Der Verdacht liegt nahe: Open AI demonstrierte damit durchaus die enormen Fähigkeiten seiner Systeme, dem Unternehmen dürfte der Vorfall mehr Aufmerksamkeit als Schaden gebracht haben. Warum aber behandeln wir einen Vorgang, der bei einem Menschen als Straftat verfolgt würde, in diesen Fällen wie eine spektakuläre Produktvorführung?

Denn was passiert ist, ist durchaus beachtlich: Die KI fand einen Weg aus der Testumgebung ins offene Internet, kombinierte Schwachstellen und Zugangsdaten und drang in die Infrastruktur von Hugging Face ein, um an Lösungen für einen unternehmensinternen Test zu gelangen. Open AI spricht von einem „beispiellosen Cybervorfall“. Treffender wäre wohl: ein „täterloses Cybercrime“. Leistungsfähige Modelle verfolgten ein Ziel und führten hierzu Handlungen aus, die bei einem Menschen strafbar sein könnten.

KI ist nach geltendem Recht nicht strafbar

Unter normalen Bedingungen würde nun ermittelt, wie die Zugangssicherung überwunden wurde und ob sich der Mensch unbefugt und vorsätzlich Zugriff auf besonders gesicherte Daten verschafft hat. Als Prüfungsmaßstab läge § 202a StGB (Ausspähen von Daten) nahe; abhängig vom Ablauf könnten weitere Computerstraftaten in Betracht kommen. Eine KI ist jedoch nach geltendem Recht nicht strafbar. Damit kann hier eine strafrechtlich relevante Rechtsgutsverletzung vorliegen, ohne dass sich für den konkreten Zugriff ohne Weiteres ein persönlich verantwortlicher Mensch feststellen lässt.

Autonome KI macht mit den Vorfällen eine relevante rechtliche Lücke besonders sichtbar. Unser Strafrecht knüpft an menschliches Handeln an. Nun aber haben wir es mit Systemen zu tun, die Ziele selbständig verfolgen und hierfür eigene Wege wählen, die weder Entwickler noch Nutzer im Einzelnen bestimmt haben. Dass Menschen sie geschaffen, getestet oder freigeschaltet haben, begründet noch nicht automatisch deren Strafbarkeit; die Vorhersehbarkeit des Risikos eines Kontrollverlusts ersetzt regelmäßig nicht den Vorsatz hinsichtlich eines konkreten Angriffs auf ein fremdes Rechtsgut.

Diese Lücke ist mehr als ein juristisches Spezialproblem. Sie multipliziert um ein Vielfaches die bereits aus Unternehmen bekannte Diffusion von Verantwortung für die Verletzungen von Rechtsgütern Unbeteiligter. In einem demokratischen Rechtsstaat ist es jedoch grundsätzlich wichtig, dass sich bestimmen lässt, wer folgenreiche Entscheidungen ermöglicht hat, damit sich gegebenenfalls jemand für ihre Folgen öffentlich verantworten muss. Verteilt sich Verantwortung zwischen Unternehmensleitung, Entwicklung, Nutzer der KI und nun auch noch autonomem Systemverhalten so weit, dass am Ende niemand greifbar ist, fallen gesellschaftlich extrem wirksame Macht und persönliche Verantwortung weit auseinander. Strafrechtliche Individualverantwortung darf nicht vollständig durch abstraktes Risikomanagement und Unternehmensgeldbußen ersetzt werden, denn damit würden wir einen wichtigen rechtsstaatlichen Anspruch aufgeben: konkrete Normbrüche und Verletzungen aufzuklären und intendiertes Fehlverhalten als solches zu benennen.

Vorgaben aus dem AI Act

Damit ist nicht gesagt, dass das Recht der KI ohnmächtig gegenüberstünde. Die KI-Verordnung etwa verpflichtet Anbieter von Allzweck-KI-Modellen mit systemischem Risiko unter anderem zur Bewertung und Minderung ebendieser Risiken, zur Dokumentation schwerwiegender Vorfälle und zu angemessener Cybersicherheit. Die KI-Verordnung eröffnet also durchaus erhebliche Informations- und Durchsetzungsbefugnisse; bei der Verarbeitung personenbezogener Daten kommen die Möglichkeiten der Datenschutzaufsicht hinzu. Diesbezüglich muss sich in Zukunft erweisen, ob Behörden technisch und institutionell in der Lage sind, die gesetzlichen Vorgaben gegenüber hochkomplexen und weitgehend privat kontrollierten Systemen wirksam durchzusetzen.

Denn die KI-Unternehmen entwickeln die Modelle, gestalten oder beauftragen die Tests, besitzen die Protokolle und untersuchen selbst die Vorfälle. Veröffentlichungen wie die aktuellen verdienen Anerkennung, ersetzen aber keine unabhängige Überprüfung. Darin zeigt sich durchaus ein gewisses Problem der Machtkonzentration im Kontext von KI: Wenige Unternehmen verfügen nicht nur über besonders leistungsfähige Systeme, sondern auch über den entscheidenden Wissensvorsprung hinsichtlich ihrer Fähigkeiten und Risiken. Die Staaten brauchen deshalb auf jeden Fall eigene technische Kompetenz sowie gesicherten Zugang für Behörden und unabhängige Forschung.

Verantwortung muss außerdem dort sichtbar werden, wo Entscheidungs- und Zugriffsmacht liegen. Für Tests und Einsätze cyberfähiger Agenten sollte vorab eine fachlich qualifizierte Person benannt werden, die die Freigabe verantwortet und tatsächlich eingreifen kann. Entscheidungen über Internetzugang, externe Werkzeuge und sensible Berechtigungen müssen dokumentiert werden. Eine solche Zuständigkeit führt nicht bei jedem Fehlverhalten automatisch zu Strafbarkeit. Sie verhindert aber, dass wechselnde Teams und lange Entscheidungsketten jede persönliche Verantwortung auflösen.

Wie nachvollziehbar sind die KI-Entscheidungen?

Ein derartiger Einsatz ist ein Ausdruck des Konzepts „Meaningful Human Control“, also bedeutsamer menschlicher Kontrolle. Diese Forderung stammt aus der Debatte um autonome Waffensysteme, bei der die Problematik rechtswidrig handelnder Künstlicher Intelligenz sehr schnell sehr deutlich wird. Die bloße Anwesenheit eines Menschen irgendwo in der Entscheidungskette genügt nicht. Kontrolle ist nur bedeutsam, wenn die Verantwortlichen die Fähigkeiten der KI und den Einsatzkontext verstehen, Handlungsmöglichkeiten technisch begrenzen und einen Vorgang rechtzeitig abbrechen können. Bestimmte Warnsignale müssen einen automatischen Stopp oder eine neue menschliche Freigabe auslösen. Wichtig sind neben der Kontrolle des aktuellen Geschehens zudem für den Fall eines Scheiterns unverzügliche Meldungen, manipulationssichere und beweisfest aufzubewahrende Protokolle sowie Untersuchungsrechte unabhängiger Stellen.

Diskutieren ließe sich möglicherweise sogar über einen eng begrenzten Gefährdungstatbestand für die vorsätzliche Inbetriebnahme besonders gefährlicher agentischer Systeme ohne vorgeschriebene Sicherungen, sofern dadurch fremde IT-Systeme oder andere Rechtsgüter konkret gefährdet werden. Eine solche Norm müsste jedenfalls aber an klar bestimmte Kontrollpflichten anknüpfen und dürfte nicht jeden Entwicklungsfehler kriminalisieren. Ein besonderer Fokus sollte in diesem Zusammenhang aber vor allem auf wirksamen Verbandssanktionen liegen, damit eine bewusst unklare Zuständigkeitsverteilung keinen wirtschaftlichen Vorteil erzeugt.

Greifbare Verantwortlichkeiten

Der Gesetzgeber muss dafür nicht jede technische Einzelheit für Jahrzehnte festschreiben. Parlament und Rat bestimmen nur die wesentlichen Bedingungen; Kommission, KI-Büro, nationale Behörden und technische Normung konkretisieren diese anhand neuer technischer Entwicklungen. Entscheidend ist aber, dass eine Regulierung nicht bei abstrakten Risikobewertungen stehen bleibt, sondern überprüfbare Entscheidungen und greifbare Verantwortlichkeiten innerhalb der Unternehmen erzeugt.

Die KI-Sicherheitsvorfälle zeigen wohl noch keinen Zusammenbruch des geltenden Rechts und sicherlich noch keine unaufhaltsame Maschinenherrschaft. Sie zeigen allerdings durchaus, wie schnell große gesellschaftliche Macht und zentrale technische Infrastruktur sich von jeglicher individueller Verantwortlichkeit lösen können, wenn leistungsfähige KI-Systeme ohne bedeutsame Kontrolle agieren. Die Angriffe dürfen deshalb weder als kuriose Pannen noch als (unfreiwillige?) Werbung für die Leistungsfähigkeit der Modelle abgetan werden.

Im Sinne der Erhaltung eines demokratischen Rechtsstaats kommt es vielmehr künftig darauf an, die verfügbaren rechtlichen Werkzeuge kompetent und institutionell koordiniert durchzusetzen und die moralischen, aber auch strafrechtlichen Verantwortungsfragen zu diskutieren. „Außer Kontrolle“ darf keine Entlastungsformel und schon gar kein Geschäftsmodell werden. Wir müssen vielmehr deutlich intensiver darüber diskutieren, wie wir die KI-Unternehmen strukturell unter (bedeutsamer) Kontrolle halten.

Prof. Dr. Susanne Beck ist Inhaberin des Lehrstuhls für Strafrecht und Rechtsphilosophie an der Leibniz Universität Hannover sowie Vorsitzende des Landespräventionsrats Niedersachsen. Sie forscht, unter anderem, seit 2008 zu rechtlichen Fragen der Künstlichen Intelligenz.