Erweiterte Suche

Digitalisierung & KI

Standpunkt

Das Kontrollproblem der KI muss gelöst werden

Matthias Pfeffer, Buchautor
Matthias Pfeffer, Buchautor Foto: Heidi Scherm

Künstliche Intelligenz hat das Potenzial, unsere Demokratie in ihren Grundfesten zu erschüttern. Umso wichtiger ist es, dass wir jetzt Kontrollmechanismen einsetzen, schreibt Matthias Pfeffer.

von Matthias Pfeffer

veröffentlicht am 10.12.2021

Lernen Sie den Tagesspiegel Background kennen

Sie lesen einen kostenfreien Artikel vom Tagesspiegel Background. Testen Sie jetzt unser werktägliches Entscheider-Briefing und erhalten Sie exklusive und aktuelle Hintergrundinformationen für 30 Tage kostenfrei.

Jetzt kostenfrei testen
Sie sind bereits Background-Kunde? Hier einloggen

Künstliche Intelligenz ist eine Hochrisikotechnologie, ihr Gebrauch darf nicht dazu führen, dass künftige Generationen nicht mehr in Freiheit leben können. Die Einschränkung der Freiheit durch digitale Technologien kann ähnlich irreversibel sein wie der Klimawandel. Denn durch die Überwachungs- und Manipulationsmöglichkeiten ließe sich eine Rückkehr zur Freiheit ausschließen, ähnlich wie die Erhitzung der Erde über einen bestimmten Kipppunkt hinaus wohl kaum noch zu bremsen wäre.

Ein solcher Ablauf ist keinesfalls alternativlos – noch nicht. Eine umfassende Technologiefolgenabschätzung muss deshalb schon heute die Konsequenzen dieser mächtigen Technologie für künftige Generationen erforschen und klare Grenzen ziehen: Die Folgen von KI dürfen institutionelle Bedingungen für ein Leben in Freiheit nicht zerstören. Hierzu müssen bei der Entwicklung und dem Einsatz von KI ebenso rote Linien gezogen werden, wie bei der wachsenden Macht digitaler Konzerne.

KI und Demokratie: Wie geht das zusammen? 

Für ein menschenwürdiges Leben in der digitalen Zukunft wird es unverzichtbar sein, das Kontrollproblem der KI zu lösen. Und zwar in seinem Doppelsinn: Es muss technologisch gelöst werden, indem Wege und Mittel gefunden werden, die KI auch als potenzielle Superintelligenz kontrollierbar und beherrschbar machen. Und es muss bereits heute das politische Kontrollproblem gelöst werden über eine immense technologisch-ökonomische Macht, die sich digitalen Technologien und KI verdankt. Die Frage lautet, wie sich die ungeheure Überwachungs- und Manipulationsmacht, die durch KI-Systeme ermöglicht wird, demokratisch beherrschen lässt.

Fraglich ist, wie wirksam eine solche Kontrolle sein kann, wenn Machtakkumulation in einem Ausmaß wie während der vergangenen drei Jahrzehnte zugelassen wird. Die richtige Lehre aus dieser Machtkonzentration wäre es, das Prinzip der Gewaltenteilung auch in der Technologie einzuführen. Nicht was wir mit Technik tun können, sondern was wir tun sollen, um ihre Auswirkungen zum allgemein Guten zu nutzen, muss die Frage sein. Dazu muss die demokratisch legitimierte Gesetzgebung die Verantwortung für diese mächtige Technologie durch klare Regeln und harte Sanktionen einfordern, weil sie durch Selbstregulierung nicht erbracht werden kann.

Regeln für den digitalen Maschinenpark

Einige Vorschläge, die aus den vorangegangenen Überlegungen folgen, könnten Elemente der dringend erforderlichen Regeln für den digitalen Maschinenpark sein: Das Täuschungsspiel, mit dem KI-Anwendungen eine „überlegene“ Intelligenz vortäuschen, muss verbindlich enden, wo es um Wahrheitsfragen und um Meinungsbildung und damit um den Kern demokratischer Prozesse geht. Eine der zentralen Forderungen künftiger Regulierung muss deshalb sein, dass überall dort, wo uns KI gegenübertritt, eine absolute Kennzeichnungspflicht gelten muss. Wenn wir nicht mehr wissen, ob wir mit einem Menschen oder mit einer Maschine kommunizieren, ist die Demokratie am Ende.

Besonderen Schutz braucht deshalb die Sphäre der demokratischen Öffentlichkeit. Das Recht auf informationelle Selbstbestimmung muss gegen die derzeitige Praxis digitaler Bevormundung durchgesetzt werden. Zusätzlich zur Abwehr der Macht großer Plattformen braucht es zur Sicherung eines unabhängigen Journalismus eine ganze Palette von Anstrengungen, wie etwa die Schaffung von dem Allgemeinwohl verpflichteten Plattformen.

Europa braucht hierfür eine eigene technische Infrastruktur, um eine digitale Öffentlichkeit zu ermöglichen, die nach demokratiekonformen Prinzipien arbeitet und das sichert, was die klassische Aufgabe der Presse ist: unabhängige Beiträge zur Meinungsbildung und -vielfalt zu leisten. Eine solche Plattform würde den Zugang zu Qualitätsinhalten für alle Bürger:innen sichern und einen Austausch ohne Echokammern und Filterblasen ermöglichen. So könnten digitale Technologien etwa bei der raschen Übersetzung fremdsprachiger Inhalte und der Suche nach ihnen auch genutzt werden, um die Demokratie zu stärken, anstatt sie zu unterminieren.

Die Macht von Vorhersagesystemen auf der Basis persönlicher Daten muss eingeschränkt werden, um die Handlungsfreiheit der Einzelnen aber auch der politischen Systeme zu erhalten. Verhaltensvorhersagen über Menschen dürfen nur zu Zwecken des öffentlichen Interesses und auf gesetzlicher Grundlage erlaubt sein.

Wettbewerbskontrolle: Nicht erst wenn der Schaden angerichtet ist 

Um demokratische Prinzipien, Grundrechte und Rechtsstaatlichkeit zu sichern, muss die Hegemonie großer Plattformunternehmen durch wirksame Wettbewerbskontrolle eingeschränkt werden. Es braucht zudem klare Haftungsregeln, Transparenzvorschriften und eine kraftvolle Durchsetzung dieser Regeln. Angesichts der Dynamik von Plattformökonomien muss das gegenwärtige zu einem erneuerten, vorausschauenden Wettbewerbsrecht weiterentwickelt werden. Bisher dürfen die Wettbewerbshüter:innen nur eingreifen, wenn der Schaden schon angerichtet ist. Sie sollten aber ab einer bestimmten Größe der Konzerne und ab einer bestimmten Anzahl von Nutzer:innen auch vorbeugend regulieren können, um Schäden für Markt und Demokratie abzuwenden.

Entsprechend müssen große Plattformkonzene einerseits asymmetrisch und anderseits ex ante reguliert werden. Das bedeutet, dass große Unternehmen ab einem bestimmten Einflusslevel adressiert und kleinere entlastet werden müssen. Die im Wettbewerbsrecht vorherrschende Sanktionierung von Marktmissbrauch, der bisher immer nur im Nachhinein konstatiert werden kann, muss marktbeherrschenden Positionen vorbeugen.

Eine Regelung, die bereits im deutschen Medienrecht verankert ist, soll durch Konzentrationsschwellen bereits das Entstehen zu großer Meinungsmacht im Ansatz unterbinden. Weil, so das Bundesverfassungsgericht, sonst ein nicht mehr gutzumachender Schaden für die Demokratie entsteht. Konsequent wäre, wenn dieses Prinzip in Zukunft europaweit auch auf die Plattformen angewendet wird, sofern sie Infrastruktur der öffentlichen Meinungsbildung sind – dadurch würden sie älteren Medien gleichgestellt.

Um die zu Monopol- bzw. OIigopoltendenz der Plattformökonomie und ihres Prinzips „the winner takes it all“ zu brechen, muss eine Interkonnektivitätsverpflichtung kommen, die die Plattformen verpflichtet, sich anderen Anbietern zu öffnen. Wie wir von einem Telefonnetz zum anderen telefonieren können, müssen wir künftig auch Internetnachrichten von einem (sozialen) Netz in das anderen senden können. Nur so kann neuer Wettbewerb entstehen.

Ganz grundsätzlich muss die bindende Wirkung demokratisch legitimierten Rechts verteidigt werden. Die ständig versprochene Selbstregulierung der Industrie kann sie nicht ersetzen. Zuletzt wurde das mehr als deutlich, als das Oversight Board von Facebook, das aus unabhängigen Experten bestehen soll, die Entscheidung über Donald Trumps Plattformsperre an Marc Zuckerberg persönlich zurückgab. Eine solche Entscheidung darf nicht von Einzelpersonen und nach deren selbst gemachten Regeln getroffen werden. Solche Entscheidungen brauchen demokratisch legitimierte Regeln. Sie müssen durch Parlamente gemacht werden.

Die wichtigste Forderung besteht darin, das technische KI-Kontrollproblem zu lösen und ihm mindestens so viel Aufmerksamkeit und Entwicklungsanstrengung zu widmen, wie dem massiven Vorantreiben der KI-Entwicklung. Dann müssen klare rote Linien gezogen werden, was KI darf und was sie niemals darf. Strenge Sanktionen müssen insbesondere in den Hochrisikotechnologien gelten. Denn Freiheit bedeutet auch die Freiheit, zu bestimmten Folgen der Technik „Nein“ zu sagen.

Matthias Pfeffer, Jahrgang 1961, hat Philosophie studiert und als Journalist und TV Produzent gearbeitet. 2020 hat er zusammen mit Paul Nemitz, dem Chefberater der EU für Justitz „Prinzip Mensch, Macht, Freiheit und Demokratie im Zeitalter der Künstlichen Intelligenz“ veröffentlicht. Der Text stammt aus seinem neuen Buch „Menschliches Denken und Künstliche Intelligenz. Eine Aufforderung.“ 

Lernen Sie den Tagesspiegel Background kennen

Sie lesen einen kostenfreien Artikel vom Tagesspiegel Background. Testen Sie jetzt unser werktägliches Entscheider-Briefing und erhalten Sie exklusive und aktuelle Hintergrundinformationen für 30 Tage kostenfrei.

Jetzt kostenfrei testen
Sie sind bereits Background-Kunde? Hier einloggen