Recht auf Selbstbestimmung : KI-Entwicklungen erfordern neue Schutzgüter

Als Patrick Le Lay, Chef des französischen Privatfernsehsenders TF1, im Jahr 2004 sagte, man verkaufe Coca-Cola „verfügbare Gehirnzeit“, brachte er damit die Logik der Aufmerksamkeitsökonomie auf den Punkt. Menschliche Aufmerksamkeit – jene flüchtigen Millisekunden, in denen wir empfänglich für Inhalte sind – ist die innerste Dimension der Privatsphäre und wird zunehmend zur wertvollsten Währung unserer Zeit. Und genau um diese Ressource konkurrieren heute digitale Plattformen – und zunehmend auch Systeme mit Künstlicher Intelligenz (KI).

Stellen Sie sich vor, Sie scrollen abends noch kurz durchs Netz, lesen Nachrichten, öffnen Ihre sozialen Netzwerke. KI-Agenten registrieren in Millisekunden, welche Themen die Nutzer fesseln, wann sie weiterscrollen, wo sie drei Sekunden innehalten und für welche Emotionen sie besonders empfänglich sind. Aus diesen Mikrosignalen wird berechnet, wie sich Ihr Interesse in Echtzeit lenken lässt: ein wenig mehr Empörung hier, etwas mehr Zustimmung dort. Damit verändert sich der Informationsraum – leise, unsichtbar, algorithmisch. Das System testet, reagiert und lernt – und steuert Wahrnehmung, bevor Nutzende überhaupt bewusst entscheiden. Aufmerksamkeit wird damit zur Ressource und zugleich zum Objekt der Kontrolle.

KI sammelt Verhaltensdaten

KI-gestützte Systeme steuern so zunehmend unsere Aufmerksamkeit, lösen Verhaltensimpulse aus und greifen in unsere kognitive Souveränität ein. Das ist eine neue Qualität des Eingriffs in das Grundrecht auf informationelle Selbstbestimmung: Entscheidend ist nicht mehr, was jemand über mich weiß, sondern wie tief ein KI-System in meine Wahrnehmung, mein Denken und meine kognitive Selbststeuerung eingreift. Dies ist ein Eingriff ins Denken. Aufmerksamkeit und kognitive Selbststeuerung gehören zum essenziellen Teil der informationellen Selbstbestimmung.

Wie funktioniert das genau? Moderne, KI-gestützte Systeme erfassen mikrofeine Verhaltenssignale – etwa Scroll-Stops, Verweildauer, Navigationsverläufe oder Stimmungen – und verknüpfen sie mit Kontextfaktoren wie demografischen Informationen oder Tageszeit. Aus diesen Daten, als „Behavioral Data“ bezeichnet, werden Wirkungsprofile abgeleitet: Was fesselt dich? Was empört dich? Was beruhigt oder aktiviert dich? In diesen Bereich zählen personalisierte Recommender-Systeme, Affective AI (emotionale Verhaltensauswertung) bis hin zu „Brain-Computer-Interface“ und kognitiver Kriegsführung.

So entsteht ein kontinuierlicher Rückkopplungsprozess, der Aufmerksamkeit nicht nur misst, sondern gezielt erzeugt und durch Adaption der KI in Echtzeit maximiert. Dazu können die Systeme beispielsweise Ton, Licht, Sprache oder Taktung der Anzeigen anpassen. Der Eingriff liegt nicht in der Datennutzung allein, sondern in der immersiven Gestaltung und Steuerung kognitiver Umgebungen, also in der gezielten Analyse und Steuerung der Informationsverarbeitungsprozesse in unserem Gehirn und damit in unserer mentalen Privatsphäre.

Die KI nimmt Einfluss

Deshalb reicht der Blick auf Dark Patterns – also Designmuster, die Nutzer gezielt täuschen oder lenken (Vgl. EDSA-Stellungnahme aus 2022) – nicht mehr aus. Das war die Logik des Web 2.0. Die neuen KI-gestützten Aufmerksamkeitsarchitekturen gehen weiter. Es geht nicht allein um manipulatives Design, sondern um kontinuierliche, lernende Einflussumgebungen, die Wahrnehmung, Emotion und Entscheidung in Echtzeit formen. Mit KI verschmelzen Verhaltensdaten und Einflussmechanismen zu einem selbstoptimierenden System. Diese Algorithmen erzeugen Aufmerksamkeitseffekte und diese Effekte verändern fortlaufend unsere kognitiven Muster.

Die Folgen reichen weit über Konsumentscheidungen hinaus: Sie betreffen politische Meinungsbildung, gesellschaftliche Polarisierung, psychische Gesundheit, wirken sich auf kognitive Leistungen einschließlich der Veränderung unserer Aufmerksamkeitsspanne aus und bedrohen letztlich die auf kritischem Denken beruhende Demokratiefähigkeit. Es sind Risiken, die durch immersive Umgebungen, psychometrische Analysen, generative KI und die Auswertung vormals nicht-personenbezogener Daten weiter zunehmen.

Staatliche Regularien für mehr Transparenz

Diese Entwicklungen werfen eine zentrale Frage auf: Was bedeutet das für den Regelungsrahmen des digitalen Raums? Wenn Datenverarbeitung zunehmend in Wahrnehmung und Denken eingreift, muss kognitive Eigenständigkeit als Teil der informationellen Selbstbestimmung regulatorisch abgesichert werden:

Dazu müssten Aufmerksamkeitsmessung und -steuerung als Eingriff in die informationelle Selbstbestimmung begriffen werden und dementsprechend der Rechtsstand, vor allem im Bereich Datenschutzrecht und KI-Recht, entsprechend angepasst werden. Um regulatorische Ansätze auf eine wissenschaftliche Basis aufzusetzen, müssten die Zuständigen aus den Gebieten der Psychologie, Kognitions-, Bewusstseins- und Verhaltensforschung zunächst ein vertieftes, interdisziplinäres Verständnis des Phänomens entwickeln. Dann können diese kognitiven Auswirkungen in die Datenschutz- und KI-Risikofolgenabschätzung aufgenommen und eine algorithmische Wirkungskontrolle etabliert werden.


Soll informationelle Selbstbestimmung im KI-Zeitalter wirksam bleiben, muss kognitive Selbstbestimmung als eines ihrer zentralen Schutzgüter begriffen und im Rahmen des staatlichen Schutzauftrags rechtlich abgesichert werden. Das wäre zugleich ein Schritt hin zu dem, was der Philosoph Thomas Metzinger als „Projekt einer Bewusstseinskultur“ bezeichnet.

Nikolai Horn ist seit Mai 2020 Senior Policy Advisor bei der Denkfabrik „iRights Lab“. Nach dem Studium der Philosophie arbeitete er am Institut für Öffentliches Recht der Universität Bonn. Anschließend war er unter anderem als Grundsatzreferent bei der Stiftung Datenschutz und als Project Manager beim IT-Beratungshaus „Capgemini“ mit Digitalisierungsansätzen im Öffentlichen Sektor sowie mit der Beratung von Bundes- und Landesbehörden beschäftigt.