Code als Verfassung : Warum wir die algorithmische Daseinsvorsorge nicht dem Silicon Valley überlassen dürfen

Wir leben in einer Ära, in der die fundamentalen Narrative unserer Gesellschaft zunehmend nicht mehr in Parlamenten oder Feuilletons, sondern in Serverfarmen geschrieben werden. Künstliche Intelligenz (KI) ist kein neutrales Werkzeug; sie ist eine narrative Maschine. Wenn bald ein Algorithmus entscheidet, welcher Patient in einer überlasteten Notaufnahme priorisiert wird oder welcher diagnostische Pfad bei einer komplexen Erkrankung eingeschlagen wird, dann rechnet er nicht nur Wahrscheinlichkeiten aus. Er erzählt eine Geschichte über den Wert menschlichen Lebens, über Gerechtigkeit und über die Verteilung knapper Ressourcen.

Aktuell erleben wir im transatlantischen Raum eine gefährliche Divergenz dieser algorithmischen Narrative. Das dominierende Wertesystem der US-Westküste ist libertär und akzelerationistisch geprägt: Technologie dient hier primär der Disruption und der Überwindung biologischer sowie bürokratischer Grenzen. Politische Rahmenwerke wie das NIST AI Risk Management Framework oder US-amerikanische Executive Orders setzen auf freiwillige Standards und nachträgliche Schadensbegrenzung. Das zugrunde liegende Narrativ lautet: Innovation ist im globalen Technologiewettbewerb eine patriotische Pflicht; Risiken werden „gemanagt“, nicht durch Vorab-Verbote erstickt. In der kommerziell getriebenen US-Gesundheitsökonomie wird der Patient dabei häufig als „Kunde“ oder „User“ adressiert. Das primäre Optimierungsziel der Systeme ist oft ökonomische Effizienz.

Die europäische Sicht

Dem gegenüber steht das europäische Narrativ, das spätestens mit dem AI Act der Europäischen Union kodifiziert wurde. Es ist defensiv, regulatorisch und folgt dem historisch gewachsenen Vorsorgeprinzip. Im Gesundheitswesen gelten KI-Systeme fast ausnahmslos als Hochrisiko-Anwendungen („High Risk“). Die europäische Erzählung ist eindeutig: Der Staat muss den Bürger vor der potenziellen Willkür der Maschine schützen. Europa erzählt eine Geschichte von Grundrechten, von Schutz, Vorsorge und Privatsphäre.

Als Parlamentarier, der für die Gesundheitsversorgung einer Landeshauptstadt mitverantwortlich ist, und als Wissenschaftler, der an der Charité zu globalen Gesundheitsdaten forscht, erlebe ich diesen Konflikt in der Praxis täglich. Was passiert, wenn US-Algorithmen, die auf kommerzielle Effizienz trainiert wurden, auf deutsche Krankenhäuser treffen, die historisch auf dem Prinzip der Solidarität gebaut sind?

Systeme im Widerspruch zur solidarischen Daseinsvorsorge

Wir importieren technologische Systeme aus den USA, die oft im tiefen Widerspruch zu unserem Verständnis von solidarischer Daseinsvorsorge stehen. Natürlich durchlaufen diese Systeme europäische Zulassungsverfahren, erwerben CE-Kennzeichen als Medizinprodukte und verarbeiten Daten auf Servern, die der Datenschutzgrundverordnung entsprechen. Doch das löst das Kernproblem nicht. Auch ein datenschutzkonformes KI-Modell trägt in den Gewichtungen seiner neuronalen Netze den sozioökonomischen Bias und das Menschenbild seiner Entwickler in sich. Wenn eine kalifornische KI in einem deutschen Klinikum eingesetzt werden soll, prallen nicht nur unterschiedliche Rechtsauffassungen, sondern inkompatible Wertesysteme aufeinander.

Die „Black Box“ aktueller KI-Modelle ist die ultimative Vereinfachung gesellschaftlicher Komplexität – sie liefert harte Ergebnisse ohne moralische Erklärungen. Wenn wir nicht wollen, dass unsere Kommunen und kommunalen Kliniken zu rein passiven Abnehmern kalifornischer Software-Architekturen degradieren, müssen wir diese Black Box öffnen und die Hoheit über die Erzählung zurückgewinnen.

Gemeinsames, transatlantisches Narrativ

Technologie nur bürokratisch zu verwalten, reicht nicht mehr aus; wir müssen sie intellektuell und politisch durchdringen. Wir benötigen dringend ein gemeinsames, transatlantisches Narrativ für den Einsatz von KI im Gesundheitswesen. Ein Narrativ, das technologische Innovation und medizinischen Fortschritt ermöglicht, ohne dabei demokratische Werte zu opfern. Wir müssen als Gesellschaft aushandeln, wie wir über Künstliche Intelligenz sprechen und wie wir sie regulieren, um das Vertrauen der Bürger in die demokratische Kontrolle unseres Gesundheitssystems nicht zu verspielen.

Denn am Ende ist der Programmcode der Gegenwart die Verfassung der Zukunft. Und eine Verfassung sollten wir niemals von Algorithmen schreiben lassen, deren einziges Ziel die Effizienzmaximierung ist.

Nico Marquardt ist promovierender Gesundheitswissenschaftler an der Charité – Universitätsmedizin Berlin mit dem Schwerpunkt Künstliche Intelligenz in der globalen Gesundheit. Er ist Fraktionsvorsitzender der SPD in der Stadtverordnetenversammlung Potsdam und amtiert als Vorsitzender des dortigen Digitalisierungsrates. Als Mitglied im Aufsichtsrat von kommunalen Kliniken verantwortet er unter anderem die strategische Ausrichtung im Bereich Digital Health und KI.