In der vergangenen Woche hat Microsoft bekannt gegeben, den Start der Funktion „Recall“ zu verschieben. In der IT-Sicherheitscommunity ist ein erleichtertes Aufatmen zu vernehmen: Gottseidank! Eine zusätzliche Baustelle zu den ohnehin üppigen Cyberrisiken, derer sich die Community annimmt, ist vorläufig vom Tisch. Denn als solche wird diese Funktion in den einschlägigen Sicherheitskreisen gesehen – nicht etwa als Feature, nicht als neues Glitzerprodukt, nicht als innovativ und schon gar nicht als cool: Nein, es ist einfach nur ein weiterer Versuch eines Big-Tech-Unternehmens, an Nutzerdaten zu kommen, indem von einem neuen Angelpunkt aus Daten erhoben, gesichert und verarbeitet werden.
Das Perfide daran ist, dass dies ein weiteres Produkt ist, das Nutzerinnen und Nutzern erklärt, diese Maßnahme diene ja ihnen, nicht etwa dem Konzern. Wer kenne es nicht: Man hat eine Website besucht, etwas Interessantes gelesen oder war kurz davor, etwas zu kaufen und nun weiß man nicht mehr, wie man es wiederfinden könnte? Gut, dass jetzt alles, was man tut, alle paar Sekunden festgehalten und dokumentiert werden soll – alles für den Nutzer und die Nutzerin.
Das Bequemlichkeitsangebot beim Daten sammeln
Aber Schluss mit der Ironie: Das, was einen als Sicherheitsexpertin in die Verzweiflung treibt, ist, dass eine solche Argumentation tatsächlich verfängt. „Wie praktisch!“, hört man zuweilen begeisterte Userinnen und User sagen. Wieder eine Funktion, die einem das Nachdenken oder gar das selbst betriebene Bookmarking erspart. Ebenso „praktisch“ wie diese vermeintlich unglaubliche Erleichterung, durch Targeted Advertising nur noch Inhalte zugespielt zu bekommen, die mit hoher Wahrscheinlichkeit vom jeweiligen Kunden oder der jeweiligen Kundin aufgrund spezifischer Eigenschaften gekauft zu werden. Ebenso „praktisch“, wie sich über Mircotargeting parteipolitisch opportune Geschichten in die Social-Media-Timelines einspülen zu lassen, die einen entsprechend der eigenen Persönlichkeit, der eigenen Prägung und der eigenen Denkweise dahingehend beeinflussen, dass man die vom Sponsor gewünschte Partei zu wählen gedenkt.
Warum Recall mit all diesen fragwürdigen, aber im politischen und wirtschaftlichen Marketing durchaus gängigen und etablierten Praktiken vergleichbar ist? Weil das der wiederkehrende Deal ist: Big Tech lockt mit einem Bequemlichkeitsangebot, das eigentlich keinen anderen, vor allem keinen echten Mehrwert bietet, außer allenfalls die Einsparung einer minimalen Denkanstrengung.
Zusätzlich aber fügt das jeweilige Unternehmen noch die zeitgeistig resonierende Konnotation bei, man sei ein „Early Adapter“, „innovativ“, ein „Digital Rockstar“, man gehe mit der Zeit und so sei man eben – das Gegenteil eines „Bedenkenträgers“, eines „Spaßverderbers“ oder eben der Bundesrepublik Deutschland, die in der Digitalisierung nicht vorankomme. Diese polarisierenden Identifikationsfaktoren verleiten dazu, diese vielen „coolen“ Features ausprobieren zu wollen. Die Funktion läuft eben mit. Microsoft ist halt gesetzt. In Europa legal oder nicht – egal. Generell legitim oder nicht – auch egal. Man braucht eben einen Computer. Möglichst nutzerfreundlich am besten.
Alternativlos und Ahnungslos
Wahrscheinlich ist letztere Haltung die Mehrheitsmeinung gegenüber der erstgenannten. Aber das macht es nicht besser, denn das hilft den großen Konzernen, als alternativlos wahrgenommen zu werden. Jeder Mensch, der sich keine Gedanken um die eigene Freiheit und die eigene Sicherheit macht, macht sich auch keine um die Freiheit und die Sicherheit anderer Menschen; teilweise geliebter oder zumindest respektierter Menschen, deren Daten wir in unseren Adressbüchern, unseren Chat-Apps, unseren sozialen Medien, in unseren Fotoordnern oder unseren lokalen Dateien mitadministrieren. Das bedeutet im Fall von Recall: deren Nachrichten, deren Bilder, deren Geburtstage, deren Wohnorte, deren Telefonnummern, und vieles mehr.
All dies soll ebenfalls regelmäßig von Recall gesichert werden, vermeintlich für den Fall, dass wir es vielleicht brauchen – ganz sicher aber der Tatsache wegen, dass Microsofts KI-Systeme diese Datensätze unbedingt brauchen. Natürlich bräuchte es eine legale und legitime, heißt informierte Einverständniserklärung durch alle beteiligten Personen, also auch von allen „mitadministrierten“ und „mitgeschützen“ Nutzerinnen und Nutzer, dass deren Daten; deren Gesichter, Gedanken, Lebenswege, et cetera für eine KI verwendet wird.
Eine solche informierte Einverständniserklärung ist illusorisch? Richtig. Darum geht Recall auch nicht. Wir wissen Stand heute noch nicht einmal genau, wofür KI-Produkte so alles verwendet werden.
Schöne neue Produktwelt
Vergangene Woche hat die „Zeit“ eine wichtige Rede der Signal-Chefin Meredith Whittaker gedruckt, die sie anlässlich des verdientermaßen an sie vergebenen Helmut-Schmidt-Zukunftspreises am 15. Mai 2024 in Hamburg gehalten hat. Darin thematisiert sie den Zusammenhang zwischen dem Überwachungskapitalismus und dem äußerst problematischen sowie nachweislich marketinggetriebenen Megatrend der KI.
Darin sagt Whittaker, die seit den 1990er Jahren zugelassene Kommerzialisierung der vernetzten Datenverarbeitung sei eine Entscheidung für den Profit und explizit gegen bürgerliche Grundfreiheiten und Bürgerrechte gewesen. Die hemmungslose Datensammlung hätte zu der Monopolisierung und der Machtkonzentration einiger weniger aber weitestgehend frei von Korrektiven agierender Big-Tech-Akteure geführt. Menschen, die sie umfassend quantifizierbar gemacht haben (und dies noch immer betreiben), kommen dort nur vorgeblich als Kundinnen und Kunden vor – eigentlich sind sie in der Praxis des Datensammelns die Ware. Die Kreativität, mit der man noch mehr Daten und damit noch mehr Erkenntnisse über individuelles Verhalten extrahieren kann, kennt keine Grenzen.
Recall ist hier nur ein Beispiel von vielen Tausenden. Aber es verdient trotzdem unsere Aufmerksamkeit, denn unsere Arbeitsweise auf den Laptops, Tablets und Telefonen gehört ja zum Intimsten und Persönlichsten, was wir tun. Mit Recht braucht es hierzulande einen richterlichen Durchsuchungsbeschluss, um darauf zuzugreifen; Strafverfolgungsbehörden können auch nicht nach Belieben anlasslos in eine Privatwohnung eindringen.
In der IT-Sicherheits- und Bürgerrechtscommunity kämpfen wir leider täglich darum, dass diese Selbstverständlichkeit im Digitalen aufrechterhalten wird. Die Gegner sind jedoch leider zahlreich – nicht nur seitens der Politik auf allen Ebenen und ihrer entsprechenden Behörden, nicht nur seitens kriminell agierender Gruppen – sondern eben auch seitens der Wirtschaft, wie jetzt zum Beispiel Microsoft, die mit Recall genau das vorhat(te): das gesamte Innenleben der virtualisierten persönlichen (Denk-)Welt zu erfassen.
Whittaker stellt mit Recht fest, dass das vom Anteilseigner-Kapitalismus befeuerte Streben nach grenzenlosem Wachstum und Ertrag, das sich metastasenartig ausbreite, der eigentliche Antrieb dieser Riesenkonzerne sei, der in vielen Punkten wegführt vom Pfad in eine lebenswerte Zukunft.
Das Gebot der Stunde lautet, zu erkennen, dass all diese schönen neuen Produktideen nicht in Stein gemeißelt sind. Dass selbst das gesamte Gebaren der Tech-Monopolisten aus den USA, aus China und anderen Teilen der Welt nicht ohne Alternative ist. Dass aber eine Sensibilisierung und eine flächendeckende Medien- und vor allem Risikokompetenz für eine Gestaltung einer lebenswerten Zukunft für eine nachhaltig gedachte, also einer grundrechtsorientierten Digitalisierung unabdingbar ist. Der Protest hat dazu geführt, dass Microsoft bei Recall zurückrudert. Protest und eine Öffentlichkeit für diesen Protest haben also Wirkung gezeigt. Davon brauchen wir generell mehr, sehr viel mehr.
Caroline Krohn ist IT-Sicherheitsexpertin, Gründerin und Sprecherin der AG Nachhaltige Digitalisierung.
