Strukturelle Risiken : Jede KI-Entscheidung ist eine Security-Entscheidung

Über die Ambivalenz zwischen KI und Sicherheit herrscht inzwischen Konsens: KI hilft, Bedrohungen schneller zu erkennen und schafft gleichzeitig neue Möglichkeiten für Cyberattacken. Einerseits entlastet sie Sicherheitsteams, andererseits erweitert sie aber auch die Angriffsfläche. Laut dem aktuellen State of AI-Cybersecurity-Report 2026 von Darktrace sagen 96 Prozent der befragten Sicherheitsexperten, KI macht ihre Arbeit effizienter. 92 Prozent machen sich gleichzeitig Sorgen um die Sicherheitsimplikationen von KI-Agenten in ihrer Organisation.

Wer beide Zahlen nebeneinander legt, versteht, dass das eine Frage der Führung ist. Unternehmen implementieren KI in der Regel als Produktivitäts- und Wachstumsinstrument. Doch mit jeder neuen Integration und Automatisierung verändern sich auch Berechtigungen, Datenflüsse und Abhängigkeiten. Das hat enormen Einfluss auf das Risikoprofil der gesamten Organisation.

Klassische Sicherheitsmodelle sind für KI-Umgebungen falsch

Noch immer beruhen viele Sicherheitskontrollen auf statischen Regeln und klar definierten Nutzerrollen. Sie wurden für Umgebungen entwickelt, in denen Systeme weitgehend vorhersehbar agieren und Berechtigungen über längere Zeit stabil bleiben.

KI-Systeme, insbesondere generative KI und autonome Agenten, funktionieren aber anders: Ihre Ergebnisse sind nicht immer deterministisch. Gleichzeitig kann sich ihr Einsatzkontext verändern, z. B. wenn ein Agent an eine neue Datenquelle angebunden, in einen zusätzlichen Workflow integriert oder von einer anderen Nutzergruppe verwendet wird. Damit verändern sich häufig auch seine Handlungsmöglichkeiten und Zugriffsrechte. Ein System kann dadurch andere Aktionen auslösen als ursprünglich vorgesehen oder auf Ressourcen zugreifen, die bei seiner Einführung noch nicht Teil des Workflows waren.

Deshalb reichen punktuelle Prüfungen und statische Kontrollen allein heute nicht mehr aus. Unternehmen müssen kontinuierlich nachvollziehen können, wie sich KI-Systeme tatsächlich verhalten. Daraus entstehen fünf strukturelle Risiken:

1. Das Risiko verändert sich während des Betriebs

Bei KI-Systemen ist Sicherheit mehr als eine einmalige Konfigurationsaufgabe. Modelle, Anwendungen und Agenten werden mit neuen Datenquellen verbunden oder bewegen sich in veränderten Umgebungen. Was bei der Einführung angemessen kontrolliert war, kann wenige Monate später ein anderes Risikoprofil aufweisen. Hier gilt es für Sicherheitsteams, die Verknüpfungen und Befugnisse kontinuierlich zu hinterfragen und ggf. anzupassen.

2. Agenten handeln ohne menschliches Urteilsvermögen

KI-Agenten authentifizieren sich, nutzen Berechtigungen, greifen auf interne Datenquellen zu und lösen Aktionen über Systemgrenzen hinweg aus. Was ihnen fehlt, ist die Fähigkeit, ungewöhnliche Anweisungen eigenständig im organisatorischen Kontext zu hinterfragen. Ein Mensch kann zögern, mit Kollegen Rücksprache halten oder auch einen Auftrag als unplausibel erkennen. Ein Agent bringt dieses Urteilsvermögen nicht von sich aus mit. Für autonome Systeme mit weitreichenden Rechten braucht es mehr als klassische Governance von Identitäten.

3. KI-Aktivitäten überschreiten Sicherheitsdomänen

Ein einzelner Prompt kann eine Kette von Aktionen beispielsweise über Netzwerke, Cloud-Infrastrukturen, SaaS-Plattformen, Identitätssysteme und E-Mails hinweg auslösen. Diese Bereiche werden in Unternehmen üblicherweise getrennt überwacht, weshalb dann ein Gesamtüberblick fehlt. Parallel dazu lassen sich Phishing und Social Engineering mithilfe generativer KI automatisieren, personalisieren und in großem Maßstab durchführen. Deshalb wachsen die Angriffsfläche und die Vernetzung mit anderen Angriffszielen.

4. Schatten-KI wächst schneller als die Governance

Mitarbeitende nutzen öffentlich verfügbare KI-Dienste und einzelne Teams bauen ihre eigenen Automatisierungen. Doch nicht jede dieser Anwendungen durchläuft vorab eine Sicherheitsprüfung, weshalb Unternehmen nicht unbedingt in Gänze wissen, welche Systeme im Einsatz sind. Auch darüber, welche Daten sie verarbeiten und mit welchen internen Ressourcen sie verbunden sind, fehlt schnell der Überblick. Formale Kontrollprozesse können den Risiken durch Schatten-KI nicht Einhalt gebieten.

5. Provider-Guardrails ersetzen keine Unternehmensstrategie

Anbieterseitige Schutzmechanismen sind sinnvoll, kontrollieren aber vor allem das Verhalten innerhalb eines einzelnen Produkts. Währenddessen reichen die unternehmenseigenen Prozesse, Datenflüsse, Berechtigungen und Abhängigkeiten über mehrere Plattformen hinweg. Hinzu kommt, dass Funktionen per Update verändert oder neu aktiviert werden können. Die Verantwortung für Daten, Zugriffe und Governance bleibt deshalb im eigenen Haus, genauso wie die Verantwortung für die Folgen eines Vorfalls.

KI-Adoption ist eine Sicherheitsentscheidung

Die zuvor genannten fünf Risiken haben eine gemeinsame Ursache: KI wird als Produktivitätsinstrument eingeführt, verändert aber gleichzeitig Identitäten, Datenflüsse, Abhängigkeiten und Entscheidungswege. Jede Entscheidung zum Skalieren von KI ist deshalb auch eine Entscheidung über das Sicherheitsmodell einer Organisation.

Führung muss Verantwortung über IT-Sicherheit eindeutig zuordnen und Transparenz über die tatsächliche Nutzung schaffen. Unternehmen müssen wissen, wo KI eingesetzt wird, welche Daten einfließen, welche Rechte Agenten und Dienste besitzen und wie sich ihr Verhalten verändert. Wer diese Grundlagen parallel zur KI-Einführung schafft, behält Gestaltungsspielraum über die eigene Sicherheits-Architektur. Wer entsprechende Maßnahmen erst nach einem Vorfall etabliert, handelt unter Zeitdruck, mit weniger Handlungsspielraum und eingeschränkten Möglichkeiten, die Reaktion zu planen und zu steuern.

Max Heinemeyer ist Cybersicherheitsexperte mit Fokus auf Bereichen wie Penetrationstests, Red-Teaming, SIEM- und SOC-Beratung sowie der Analyse von Advanced-Persistent-Threat-Gruppen. Bei Darktrace arbeitet er mit dem F&E-Team zusammen und gestaltet die Forschung zu neuen KI-Innovationen sowie deren verschiedenen defensiven und offensiven Anwendungen.