Standpunkt Notfalls brauchen wir Anwendungsverbote

Im Rahmen der KI-Regulierung der Europäischen Union plädiert die deutsche Justizministerin für klare Haftungsregeln und rechtlich verbindliche Anforderungen für Algorithmen und Trainingsdaten. Der Maßstab müsse die Charta der Grundrechte der Europäischen Union sein.

Lernen Sie den Tagesspiegel Background kennen

Sie lesen einen kostenfreien Artikel vom Tagesspiegel Background. Testen Sie jetzt unser werktägliches Entscheider-Briefing und erhalten Sie exklusive und aktuelle Hintergrundinformationen für 30 Tage kostenfrei.

Jetzt kostenfrei testen
Sie sind bereits Background-Kunde? hier einloggen

Forscherinnen und Forscher auf der ganzen Welt arbeiten derzeit mit intelligenter Software daran, Corona-Impfstoffe zu entwickeln und demnächst in kürzester Zeit durch die ganze Welt zu transportieren. Künstliche Intelligenz (KI) lässt uns Krebs besser erkennen. Intelligent geleitete Verkehrsflüsse machen unsere Luft sauberer. 

KI-Systeme sortieren die Nachrichten, die wir lesen, und haben Einfluss auf unsere Job- oder Partnersuche im Netz. Algorithmen können genauso Hass und digitale Gewalt verbreiten. Oder Verzerrungen und Vorurteile weitertransportieren, die sie ungefiltert aus Statistiken entnehmen. Etwa, wenn Frauen für den gleichen Job eine schlechtere Bezahlung angeboten bekommen als Männer.

Universelle Werte müssen auch im digitalen Leben gelten

Schon diese Beispiele zeigen: Wir brauchen im europäischen Recht dringend Regeln für Systeme mit Künstlicher Intelligenz, die Entscheidungen über Menschen treffen oder vorbereiten. Hinter Künstlicher Intelligenz steht menschliche Intelligenz. Diese Schlüsseltechnologie ist von Menschen gemacht und liegt in der Verantwortung von Menschen. Darin stecken riesige Chancen, aber auch erhebliche Risiken. 

KI kann Menschenleben schützen und zugleich in eine Gesellschaft führen, in der wir nicht leben wollen. Wir wollen nicht, dass jede unserer Bewegungen, Äußerungen und Wünsche unbemerkt erfasst und zu Geld gemacht wird. Unsere Demokratie braucht Schutz vor digitalen Trollarmeen und Bots, die Wahlen beeinflussen sollen. Wenn uns politische Werbung angezeigt wird, möchten wir wissen, von wem und wer dafür bezahlt. Wir wollen uns nicht von „Deepfakes“ täuschen lassen bis menschliche Sinne reale nicht mehr von verfälschten Inhalten unterscheiden können. Das ist keine Science-Fiction, sondern Realität.

Die Corona-Pandemie erinnert uns tagtäglich an den Wert der Menschenwürde und von persönlicher Freiheit. Diese Werte sind universell. Sie gelten im digitalen wie im analogen Leben. 

Für KI-Entscheidungen muss jemand haften

Wir sind der Technik nicht ausgeliefert. Hinter KI und ihrem Einsatz stehen Entscheidungen von Unternehmen oder Behörden. Für diese Entscheidungen müssen wir Verantwortlichkeiten und Haftung bestimmen. Es geht um Transparenz und Verständlichkeit. Risiken müssen vor dem Einsatz einer Technologie verlässlich eingeschätzt und unabhängig überprüft werden können, so wie bei Technik- und seit einiger Zeit auch Datenschutz-Folgeabschätzungen. 

Um Diskriminierungsrisiken wirksam zu begegnen, müssen konkrete und rechtlich verbindliche Anforderungen an die verwendeten Daten und Algorithmen gestellt werden. Das gilt vor allem für Trainingsdaten, mit denen KI-Systeme lernen. Autonomie muss durch menschliche Aufsicht, Eingriffsmöglichkeit oder Letztentscheidung sichergestellt sein. Gegen Entscheidungen durch KI-Systeme müssen sich Betroffene genauso rechtlich zur Wehr setzen können wie gegen Entscheidungen durch Menschen.

Verbote für grundrechtsgefährdende Technologien

In besonders sensiblen Bereichen brauchen wir auch Verbote: Eine massive Einschränkung menschlicher Freiheiten durch uferlose Überwachung im öffentlichen Raum müssen wir verhindern. Notfalls brauchen wir Anwendungsverbote für besonders grundrechtsgefährdende Technologien.

Verbindliche Regeln können wir nur als Europäische Union schaffen – und dadurch für Vertrauen, Akzeptanz und Rechtssicherheit sorgen. Europa hat es im Datenschutz schon einmal geschafft, einen weltweit beachteten Standard für die digitale Welt zu schaffen. Wir haben heute mehr Kontrolle über die digitalen Spuren, die wir mit jedem Klick im Netz hinterlassen.

Der europäische Weg für Künstliche Intelligenz achtet das Recht auf Privatsphäre und die Freiheit der Meinungsäußerung. Er gewährleistet das Recht, nicht diskriminiert zu werden. Er garantiert den Weg zu unabhängigen Gerichten, wenn man sich gegen die Entscheidung eines KI-Systems wehren will. Der Maßstab ist die Charta der Grundrechte der Europäischen Union: so wie für jede Rechtsetzung im Digitalen, die nur europäisch funktionieren kann.

Europäischer Rahmen für KI

Im kommenden Frühjahr will die Europäische Kommission den lang erwarteten Entwurf eines EU-Rechtsakts für KI-Systeme vorlegen. Das Europäische Parlament hat vor wenigen Wochen einen ethischen und rechtlichen Rahmen für KI vorgeschlagen: mit ambitionierten Bestimmungen, um menschliche Würde, Autonomie und Sicherheit zu wahren, soziale Verantwortung und die Gleichstellung der Geschlechter als Grundsätze zu verankern und in Risikobewertungen auch den CO2-Fußabdruck von riesigen Serverfarmen einzubeziehen. Auch der Europarat berät derzeit völkerrechtliche Instrumente für KI auf der Basis von Menschenrechten, Demokratie und Rechtsstaatlichkeit.

Das ist entscheidend für unsere offenen Gesellschaften. Zugleich ist es ein handfester Wettbewerbsvorteil für die europäische Digitalwirtschaft, für KI „made in Europe“. Innovation und Grundrechte gehören zusammen. Das ist der europäische Weg.  

Christine Lambrecht (SPD) ist Bundesministerin der Justiz und für Verbraucherschutz. Heute debattieren europäische Expertinnen und Experten hier ab 10 Uhr live bei einer Onlinekonferenz der deutschen Ratspräsidentschaft und der EU-Grundrechteagentur über KI und Grundrechte. 

Lernen Sie den Tagesspiegel Background kennen

Sie lesen einen kostenfreien Artikel vom Tagesspiegel Background. Testen Sie jetzt unser werktägliches Entscheider-Briefing und erhalten Sie exklusive und aktuelle Hintergrundinformationen für 30 Tage kostenfrei.

Jetzt kostenfrei testen
Sie sind bereits Background-Kunde? hier einloggen