KI-Regulierung : Was der Anthropic-Pentagon-Streit über das europäische Gesundheitssystem verrät

Der Rechtsstreit zwischen dem Pentagon und Anthropic ist eskaliert. Gleichzeitig steht Open AI bereit und will die entstandene Lücke in klassifizierten Militärnetzwerken füllen. Der Konflikt wird als Geschichte über Silicon-Valley-Ethik und den Konfrontationskurs der Trump-Regierung erzählt. Tatsächlich ist er beides. Für diejenigen, die an der Schnittstelle von KI und europäischer Gesundheitsversorgung arbeiten, ist er aber noch etwas anderes: ein Lehrstück darüber, wo die Regeln für medizinische KI tatsächlich geschrieben werden und wie weit das von jeder demokratischen Debatte auf diesem Kontinent entfernt ist.

Der Fall legt offen, wie KI-Infrastruktur in der Praxis gesteuert wird: nicht durch Gesetze oder öffentliche Debatten, sondern durch bilaterale Verhandlungen zwischen Technologieunternehmen und ihren mächtigsten Auftraggebern. Was KI darf, wessen Daten sie nutzt, welche Schutzmaßnahmen sie enthält: All das wird in Beschaffungsverträgen festgelegt und prägt von dort den gesamten Markt. Was in Washington zwischen Militär und KI-Unternehmen verhandelt wird, wirkt längst in ganz anderen Branchen nach.

Die Transformation findet nicht bei Chatbots statt

Europa ist das anschaulichste Beispiel. Arzneimittel werden streng reguliert. Erstattungspolitik wird offen debattiert. Der AI Act existiert. Datenschutzrahmen gelten als weltweiter Maßstab. Und doch hat noch keine ernsthafte Auseinandersetzung damit stattgefunden, dass die digitale Infrastruktur der modernen Medizin – Datenpipelines, Modellarchitekturen, klinische KI-Plattformen – außerhalb institutioneller Strukturen gebaut, finanziert und gesteuert wird, von Unternehmen, die genau dem Druck ausgesetzt sind, den Anthropic gerade erlebt hat.

Ich leite ein europäisches Softwareunternehmen mit Fokus auf medizinische und Life-Sciences-Anwendungen. Wir arbeiten weltweit mit Medtech- und Pharmaunternehmen, Forschungszentren und Klinikern zusammen. Was wir beobachten: Die Transformation findet nicht bei Chatbots oder Radiologiealgorithmen statt. Die Verschiebung findet in den Systemen statt, die Arzneimittelentwicklung, klinische Studienplanung und Zulassungsanträge strukturieren. Lange bevor ein Arzt ein Medikament verschreibt, helfen Algorithmen heute dabei zu bestimmen, welche Moleküle verfolgt werden, welche Patientengruppen attraktiv sind, welche Endpunkte messbar sind. Früher lagen diese Entscheidungen in den Händen von Fachleuten und Regulierungsbehörden. Heute sind sie zunehmend in Software eingebettet.

Welche Parameter verankern sich in unserem Gesundheitssystem?

Wenn ein Algorithmus festlegt, welche Studiendesigns effizient sind, verändert er, welche Forschung finanziert wird. Wenn ein Datenmodell Patienten mit unvollständigen Akten systematisch ausschließt, schränkt es die Repräsentation ein. All das geschieht nicht durch öffentliche Debatten oder neue Gesetze. Es steckt in der Software selbst: in den Funktionen, die Unternehmen entwickeln, und den Systemen, die Krankenhäuser einkaufen.

Clayton Christensens Theorie der disruptiven Innovation ist hier aufschlussreich. Etablierte Akteure erkennen disruptive Veränderungen meist zu spät. Nicht aus Inkompetenz, sondern, weil ihre Strukturen schnelle Anpassung verhindern. Das gilt für Europas Gesundheitssystem in besonderem Maße: Krankenhäuser, Regulierungsbehörden und Forschungszentren sind korrekterweise auf Vorsicht und schrittweise Validierung ausgerichtet. Bis sie aber eine Infrastrukturfrage formal angehen, ist die Infrastruktur längst gesetzt.

Der Fall Anthropic macht den Mechanismus sichtbar. Noch vor jeder öffentlichen Debatte waren die Werte und technischen Entscheidungen eines einzelnen Unternehmens zur tragenden Säule nationaler Sicherheit geworden. Derselbe Prozess vollzieht sich im Gesundheitswesen, weniger sichtbar und mit weniger Drama. Medizinische KI-Unternehmen verankern sich in Arbeitsabläufen, lange bevor jemand fragt, wer die Parameter gesetzt hat und in wessen Auftrag.

Wer kontrolliert Datenstandards?

Die USA führen diese Auseinandersetzung zumindest öffentlich. Europa droht etwas Tückischeres: die Annahme, dass bestehende Regulierung ausreicht, um Technologien zu überwachen, die sich weit schneller entwickeln als ihre Zulassungszyklen. Der AI Act erfasst Hochrisikosysteme, nicht aber die strukturelle Frage, wer Datenstandards, Modellierungsannahmen und Interoperabilitätsregeln kontrolliert. Sind diese erst weit verbreitet, prägen sie klinische Anreize für Jahre, manchmal Jahrzehnte.

Es gibt eine Version dieser Geschichte, die gut endet: beschleunigte Medikamentenentwicklung, bessere Diagnostik bei seltenen Erkrankungen, Präzisionsmedizin für bisher ausgeschlossene Bevölkerungsgruppen. KI kann das alles leisten und Europa braucht diesen Ehrgeiz, wenn es in den Lebenswissenschaften relevant bleiben will. Ehrgeiz ohne Klarheit über adaptive Governance ist jedoch keine neutrale Haltung. Es ist die Entscheidung, andere für sich regieren zu lassen.

Ob Trainingsdaten europäische Patientengruppen abbilden, ob seltene Erkrankungen in Forschungspipelines vorkommen, welche Schutzmaßnahmen unverhandelbar sind, unabhängig von Beschaffungsverträgen in anderen Jurisdiktionen: Das sind keine technischen Detailfragen. Es sind Fragen der Souveränität. Darüber, wer die Kontrolle über das digitale Rückgrat der europäischen Medizin behält.

Das Gesundheitswesen ist einer der wenigen Bereiche, in denen europäische Gesellschaften wirtschaftliche Logik bewusst mit moralischen Verpflichtungen verbunden haben: gegenüber Gerechtigkeit, Zugang und der Fürsorge für Schwächere. Der Fall Anthropic-Pentagon hat in komprimierter, dramatischer Form gezeigt, wie es aussieht, wenn diese Verpflichtungen auf die operative Logik der KI-Infrastruktursteuerung treffen. In Europa vollzieht sich dieselbe Kollision still, schrittweise und ohne Schlagzeilen.

Marius Khan ist Gründer und Geschäftsführer von Avisé Labs GmbH, einem europäischen Softwareunternehmen, das sich auf medizinische und Life-Sciences-Anwendungen spezialisiert hat.