Wie wollen wir unseren gesellschaftlichen und rechtlichen Rahmen gestalten, um im Zeitalter der Künstlichen Intelligenz (KI) Innovation und erfolgreiche neue Wirtschaftsmodelle made in Germany beziehungsweise made in Europe zu fördern und gleichzeitig Menschenrechte, Demokratie und Rechtstaatlichkeit zu wahren und zu stärken? Das ist eine der zentralen politischen Gestaltungsfragen unserer Zeit.
KI-basierte Entscheidungssysteme dringen schon jetzt bis in die sensibelsten Lebensbereiche unserer Bürgerinnen und Bürger vor. Das geschieht häufig unbemerkt. Wir wissen oft nicht einmal, dass eine KI im Hintergrund darüber mitentscheidet, ob wir eine Jobzusage erhalten, uns ein Darlehen gewährt wird oder welche Beiträge uns auf unserer Facebook-Timeline angezeigt werden. Zudem sind die wesentlichen Entscheidungskriterien der KI-Systeme selbst für deren Programmiererinnen und Programmierer häufig nicht mehr nachvollziehbar. Dieses sogenannte Black-Box-Phänomen wird sich durch den zunehmenden Einsatz selbstlernender Systeme in den kommenden Jahren verstärken, wenn wir dem nicht entgegentreten.
Verheißungen von KI: Rote Linie bei Manipulation
Ohne zu wissen, ob und auf welcher Grundlage eine KI eine für uns relevante Entscheidung getroffen hat, können wir uns gegen mögliches Unrecht aber nicht effektiv wehren. Das kann zum Beispiel eine diskriminierende Entscheidung sein. So können KI-Systeme die in den Datensätzen enthaltenen Diskriminierungen weiter fortschreiben. Hinzu kommt das Risiko wahlloser Massenüberwachung durch biometrische Erkennungssysteme. Hier reden wir längst nicht mehr nur über Gesichtserkennung, sondern über die Auswertung aller audiovisueller Signale zum Beispiel zur Erkennung von Emotionen, wie die Musikplattform Spotify kürzlich angekündigt hat, um Ihren Service noch zu optimieren.
Doch was passiert mit uns und unserer Gesellschaft, wenn wir jederzeit damit rechnen müssen, im Hintergrund von einer KI abgehört zu werden, die uns – mit unseren Datenspuren im Netz gefüttert – zu Dingen, Ideen, Menschen und Meinungen führt, die wir „liken“. Das kann sehr aufklärend, nützlich und hilfreich sein. Dieselbe „Logik“ kann uns aber auch mit verhaltenspsychologischen „Dark Patterns“ zu einem eigentlich nicht gewollten Kauf manipulieren oder uns mit gezielter Desinformation und „Deep Fakes“ radikalisieren und das für politische Zwecke ausnutzen.
Falsche Dialektik zwischen Innovation und Grundrechte
Wird dann unsere Privatsphäre, unser Freiheitsgefühl, die Art des Kommunizierens und Miteinanders im privaten und öffentlichen Raum noch dieselbe sein wie zuvor? Oft scheint die entscheidende Frage zu sein: Möchten wir Innovation und ökonomischen Fortschritt oder stellen wir den Menschen, die Menschenrechte und die Grundwerte unserer demokratischen Gesellschaften auch bei KI in den Mittelpunkt?
Bei genauerem Hinsehen trägt diese Scheindialektik nicht: Meist besteht kein Gegensatz zwischen innovativen Technologien und hochproduktiven Geschäftsmodellen auf der einen und dem Grundrechts- und Verbraucherschutz auf der anderen Seite. Im Gegenteil: Nur, wenn Staat und Gesellschaft die Risiken von KI durch gute Regulierung konsequent adressieren, schafft dies Vertrauen, Akzeptanz und Rechtssicherheit bei Bürgerinnen und Bürgern und in der Wirtschaft. Und das wiederum ermöglicht erst die nachhaltige Entwicklung von Innovationen. Das bedeutet: Wir benötigen für KI, genauso wie für jede andere Risiko-Technologie, rechtlich verbindliche und durchsetzbare Regeln sowie zivilgesellschaftliche Teilhabe und Partizipation, um die Chancen der Technologie zu nutzen und unseren demokratischen und rechtsstaatlichen Werten zu genügen.
Zivilgesellschaft gehört mit an den Tisch
Dies erfordert im Übrigen neben der rechtlichen, technischen und ökonomischen Auseinandersetzung mit dem Thema KI vor allem eines: Die angemessene Beteiligung und kritische Auseinandersetzung der Zivilgesellschaft. NGOs im Themenbereich der Hassrede oder der Antidiskriminierung müssen am Entwicklungs- und Evaluationsprozess von KI-Systemen ebenso mitwirken können, wie Automobil- oder Technologiekonzerne. Und wir müssen mehr für die Verbraucherbildung in diesem Zusammenhang tun. Wenn wir Verbraucherinnen und Verbraucher heute wie selbstverständlich im Umgang mit den privaten Finanzen oder Handyverträgen unterstützen und aufklären, muss das für komplexe Algorithmen, die den Alltag zunehmend bestimmen, gleichermaßen gelten.
Wir befürworten einen abgestuften, risikobasierten Regulierungsansatz. Für KI-Systeme, die Entscheidungen in sensiblen Bereichen wie der Personalauswahl oder bei Strafverfahren treffen oder vorbereiten, brauchen wir strenge Regeln, um Nachvollziehbarkeit und Überprüfbarkeit zu gewährleisten. Dazu gehören auch Anforderungen an die Qualität von Datensätzen, Dokumentationspflichten und Mechanismen, die eine menschliche Aufsicht sicherstellen. Wir müssen uns aber auch die Frage stellen, unter welchen Voraussetzungen KI-Systeme in letzter Konsequenz verboten werden könnten. Das betrifft Anwendungen, die z.B. wegen eines umfassenden „Social Scoring“ oder unvertretbaren Formen der Massenüberwachung im öffentlichen Raum unseren Grundwerten zuwiderlaufen.
Europarat plant wegweisende Beschlüsse
Mit der Regulierung von KI beschäftigt sich neben der EU mit ihrem kürzlich veröffentlichten Vorschlag einer KI-Verordnung auch der Europarat, Europas führende Organisation für Menschenrechte. Mit seinen 47 Mitgliedstaaten hat der Europarat eine internationale Wirkkraft, die den gesamten europäischen Kontinent erfasst. Er hat 2019 einen Expertenausschuss für künstliche Intelligenz („CAHAI“) eingerichtet, der die Machbarkeit eines international harmonisierten Rechtsrahmens für Künstliche Intelligenz auf der Basis von Menschenrechten, Demokratie und Rechtsstaatlichkeit untersucht.
Am heutigen Freitag treffen sich zum Abschluss des deutschen Vorsitzes im Ministerkomitee des Europarates die Außenminister aller 47 Mitgliedstaaten, um wegweisende Beschlüsse für die weitere Arbeit des Europarates zu verabschieden. Entschieden wird hier u.a. über eine mögliche zeitnahe Mandatierung zur Aufnahme von Verhandlungen über eine völkerrechtlich bindende KI-Konvention. Wir unterstützen dieses Vorhaben ausdrücklich. Ein international harmonisiertes Rechtsinstrument würde entscheidend dazu beitragen, über die Landesgrenzen hinweg Vertrauen in der Bevölkerung herzustellen und gleichzeitig grenzüberschreitende Innovationen und einen fairen und wertebasierten Wettbewerb im Bereich KI zu ermöglichen. Eines ist klar: Ein kluger Einsatz von KI-Regulierung kann einen Beitrag zur Lösung globaler Herausforderungen wie der Bekämpfung des Klimawandels leisten. Ein weltweiter Rahmen kann zu diesem Ziel beitragen und die multilaterale Zusammenarbeit stärken.
Christian Kastrop ist beamteter Staatssekretär im Bundesministerium der Justiz und für Verbraucherschutz (BMJV).
