Standpunkt : Detailarbeit für den technisch mündigen Staat

Beim Tanken wird man bisweilen mit abstrusen Preisunterschieden konfrontiert. Kürzlich bemerkte ich zwölf Cent je Liter Unterschied – bei zwei Tankstellen derselben Marke entlang einer Straße. Ich habe keine Ahnung, wie diese Preisunterschiede zustande kommen, glaube aber nicht, dass Technologie die Ursache ist. Wohl aber gibt es eine Technik, die aus Verbrauchersicht die Lösung darstellt: Diverse Spritpreis-Apps zeigen an, wo in der Nähe es jeweils das günstigste Angebot gibt. Die Anwendung, die ich nutze, kooperiert mit der Markttransparenzstelle für Kraftstoffe beim Bundeskartellamt.

Wir brauchen eine zeitgemäße, mit technischen Hilfsmitteln operierende Wettbewerbsaufsicht. Doch was bei Spritpreisen noch recht trivial ist, das wird in anderen Bereichen zunehmend schwierig. Ulrich Kelber hat in seinem Beitrag vor einer Woche die Individualisierung von Preisen im Online-Handel angesprochen. Längst nutzen wir für die Buchung unserer Flüge andere Computer als die, mit denen wir arbeiten, weil die Buchungsportale Preisdiskriminierung nach Hardware praktizieren. Noch komplizierter ist die Aufsicht über den duopolistischen Online-Anzeigenmarkt. Hier kommen wir nicht ohne anspruchsvolle technische Hilfsmittel aus. Algorithmenaufsicht braucht vor allem technisches Verständnis und Algorithmen, nicht neue Gesetze.

Konsequente Regeln eines starken Staates wären in der zurückliegenden Dekade wichtig gewesen, als Big Tech im größtmöglichen Stil Gesellschaftsexperimente gemacht und unsere Welt durchaus so stark verändert hat, wie es die Industrialisierung vor 150 Jahren getan hat. Das Zeitalter des mehr oder weniger regellosen wilden Technologie-Westens liegt also hoffentlich hinter uns. Und wir haben uns in Europa doch auf einen vielversprechenden Weg gemacht: Wie mittlerweile erkennbar wird, entfaltet die seit Mai wirksame Datenschutzgrundverordnung über Europa hinaus normative Kraft im Sinne unserer Überzeugungen und Grundwerte. Von der Marktentwicklung her betrachtet, ist sie zwar zehn Jahre zu spät in Kraft getreten, auch ist sie sicher nicht perfekt – dennoch ist sie ein regulatorisches Pfund Made in Europe, das auch bereits einige Regeln für (voll)automatisierte Entscheidungssysteme enthält. Darauf sollten wir stolz sein, daran sollten wir anknüpfen.

Vom Datenschutz abgesehen ist Ex-ante-Regulierung, wie Ulrich Kelber richtig schreibt, in den wenigsten Fällen sinnvoll und hilfreich. Das liegt daran, dass die Entwicklungen selbst in thematisch eng umrissenen Technologiefeldern divers und dynamisch sind. Beispiel autonomes Fahren: Während der US-Konzern Tesla es mittels acht rundum verbauter Kameras realisieren zu können meint, setzen andere Hersteller auf Systeme, die Daten mit der Außenwelt austauschen. Dies sind unterschiedliche Paradigmen, und wir wissen noch nicht, welches sich am Ende durchsetzen wird. Trotzdem brauchen wir, auch wenn es „mühsame Detailarbeit“ ist, eine Anpassung unserer bestehenden Regeln an die neuen technischen und oft auch gesellschaftlichen Bedingungen der digitalen Welt.

In Europa genießen wir heute zahlreiche zu Gesetzen geronnene politische, gesellschaftliche und soziale Errungenschaften des zurückliegenden Jahrhunderts: Verbraucher- und Umweltschutz, Arbeitnehmerrechte, Kartellaufsicht und Wettbewerbsrecht, Meinungsfreiheit, Diskriminierungsschutz und Urheberrechte, um nur einige zu nennen. Auch wenn es wenig originell klingt: Es geht darum, diesen Regeln auch im Digitalzeitalter zur Geltung zu verhelfen. Nicht zulassen sollten wir (weiterhin), dass sogenannte Disruptoren diese Regeln durch den Einsatz avancierter Technologie unterwandern oder sogar umschreiben. Nichts Anderes ist bisher leider geschehen, indem beispielsweise Akteure auf den Plan getreten sind, die behauptet haben, nichts mit der Medienlandschaft zu tun zu haben, nur um diese anschließend grundlegend umzupflügen. Politik muss in Zukunft vor allem verhindern, sich durch das Technologie-intensive Bestellen von regulatorischen Graufeldern zum Narren halten zu lassen.

Ein großer Wurf, ein One-size-fits-all, wie ein Algorithmengesetz oder Algorithmen-TÜV, bringt uns nicht weiter. Dazu sind die Auswirkungen neuer Technologien in unterschiedlichen Anwendungsfeldern viel zu verschieden. Wir haben uns im Projekt „Algorithmen fürs Gemeinwohl“ drei intensiv angeschaut: staatliche Sicherheitsprogramme, Personalauswahlsysteme und medizinische Diagnoseanwendungen. Eine der übergeordneten Erkenntnisse ist, dass uns mühevolle, bereichsspezifische Detailarbeit nicht erspart bleibt, auch wenn sich einige übergeordnete Grundregeln formulieren lassen. Denn Diagnose-Apps haben nun einmal etwas mit dem Medizinproduktzulassungsverfahren zu tun und Predictive-Policing-Software etwas mit Polizeigesetzen. Hier müssen Fachexpertise und technische Expertise vermählt werden, um zu angemessenen Regeln zu finden – in jedem Feld eine jeweils anspruchsvolle Aufgabe!

Um als freie, solidarische Gesellschaft im Zeitalter ubiquitärer algorithmischer Datenverarbeitung bestehen zu können, müssen wir bereit sein, die damit verbundenen Probleme sowie deren mögliche Ursachen und Lösungen nötigenfalls mehrfach hin und her zu wenden und von anderer Warte aus noch einmal neu zu bewerten. Standardrezepte gibt es, so bequem sie wären, leider keine. Im Grunde muss sich die Demokratie auf das besinnen, worin sie gegenüber anderen Regierungsformen schon immer einen komparativen Vorteil hatte: im Umgang mit Unschärfen und Ambiguitäten. 

Der Impuls für diesen Gastbeitrag war eine Diskussion auf Twitter unter anderem zwischen dem SPD-Bundestagsabgeordneten Ulrich Kelber, der Kandidat für die Nachfolge der Bundesdatenschutzbeauftragten ist, und Tobias Knobloch von der Stiftung Neue Verantwortung. Der Beitrag von Ulrich Kelber ist vor einer Woche erschienen.