KI-Kontrolle : Warum leistungsfähige KI unabhängige Prüfungen und klare Grenzen braucht

Die Fähigkeiten Künstlicher Intelligenz (KI) entwickeln sich rasant. Die Antwort darauf darf nicht sein, Innovation pauschal auszubremsen. Doch wir müssen als Menschheit in der Lage sein, die eigenen Entwicklungen zu kontrollieren, um sicherzustellen, dass sie unseren Zwecken dienen. Dafür brauchen wir klare gemeinsame Anforderungen und rote Linien für KI-Entwicklungen, unabhängige Prüfungen und eine internationale KI-Sicherheitsarchitektur. Der aktuelle Aufruf von Staats- und Regierungschefs und die UN-Generalversammlung bieten die Chance, dafür jetzt die Weichen zu stellen.

Der Kern des Anliegens von 26 Staats- und Regierungschefs: Grenzen für die Entwicklung besonders leistungsfähiger KI festzulegen und Kontrollmechanismen greifen zu lassen, wenn diese Grenzen überschritten werden. Die leistungsfähigsten KI-Systeme müssen unter menschlicher Aufsicht und Kontrolle bleiben.

Das bedeutet, dass Entwicklung nicht um jeden Preis weitergehen darf. Wo wir die Risiken nicht mehr kontrollieren können, müssen wir Entwicklungsschritte bewusst nicht gehen. Es geht darum, mit den Fähigkeiten der Systeme auch unsere Fähigkeiten wachsen zu lassen, ihre Risiken zu erkennen und zu beherrschen.

Selbstkontrolle allein reicht nicht

Die großen KI-Anbieter haben selbst erkannt, dass die Fähigkeiten KI schneller wachsen als die Strukturen, mit denen ihre Sicherheit gewährleistet wird. Das gilt umso mehr mit dem Aufkommen agentischer KI, deren Fähigkeiten bis zur Manipulation und Täuschung der Entwickler selbst gehen.

Deshalb reicht Selbstkontrolle nicht aus. Das wäre ungefähr so, als würden Schülerinnen und Schüler ihre Klassenarbeiten selbst korrigieren und anschließend ihre eigene Note ins Zeugnis eintragen. Sie können das durchaus gewissenhaft tun. Eine unabhängige Bewertung ersetzt das trotzdem nicht.

Entwickler können sich nicht selbst Regeln geben, und sie anschließend auch selbst überprüfen. Es handelt sich dabei um einen strukturellen Interessenkonflikt. Im globalen KI-Wettlauf geht es um Milliardeninvestitionen, Marktanteile und technologische Führerschaft. Entwicklungszyklen werden kürzer und der Druck steigt, immer leistungsfähigere Modelle schnell auf den Markt zu bringen.

Für solche Situationen haben wir in anderen Technologiebereichen ein bewährtes Prinzip: Der Hersteller trägt die Verantwortung für die Sicherheit seines Produkts. Wo die Risiken besonders hoch sind, kommt eine unabhängige Prüfinstanz hinzu. So haben wir es in Europa auch mit der KI-Verordnung gehandhabt. Und sie folgt einem Prinzip, das sich in der Technikgeschichte bewährt hat.

Der Dampfkessel des digitalen Zeitalters

Die Geschichte der Tüv-Unternehmen begann vor rund 160 Jahren mit einer technologischen Revolution. Dampfmaschinen ermöglichten Produktivitätssprünge und brachten neue Risiken mit sich. Nach schweren Kesselexplosionen gründeten Unternehmer unabhängige Überwachungsvereine.

Das Prinzip dahinter ist bis heute aktuell: Eine disruptive Technologie wird nicht dadurch erfolgreich, dass wir ihre Entwicklung pauschal bremsen, sondern indem wir lernen, ihre Risiken zu beherrschen und Grenzen setzen, wo das nicht gelingt. Dieses Prinzip ist das Erfolgsrezept für die Skalierung von technischem Fortschritt.

Die Aufgabe bei KI ist vergleichbar: Wir müssen die Sicherheitsinfrastruktur im gleichen Tempo weiterentwickeln wie die Technologie selbst. Im Tüv AI Lab arbeiten Expertinnen und Experten daran, aus abstrakten Sicherheitsanforderungen konkrete und skalierbare Prüfverfahren zu entwickeln, vor allem mit Fokus auf der Prüfung von KI-Systemen, die Teil von Produkten und konkreten Anwendungen sind.

Anspruchsvoll heißt nicht unprüfbar

Natürlich lässt sich ein KI-Modell nicht wie ein Aufzug prüfen. Viele KI-Modelle verhalten sich dynamisch und die Systeme können selbstständig Aufgaben bearbeiten, Werkzeuge nutzen und Aktionen ausführen.

Das verändert auch die Vorgehensweise. Wir brauchen neue Verfahren, um die Robustheit, Cybersicherheit, unerwünschtes Verhalten und die Wirksamkeit von Schutzmechanismen zu prüfen. Und bei besonders leistungsfähigen Modellen müssen Prüfer unter Bedingungen Zugang zu den Modellen und anderen relevanten Informationen, zum Beispiel Trainingsdaten- und verfahren, erhalten. Im Fokus stehen dabei nicht nur die Modell-Prüfung an sich, sondern auch die Prüfung aller Sicherheitsmaßnahmen, sowie der Trainingspipelines und Prozesse der Modelle.

Europas Stärke bei KI-Sicherheit

Großbritannien hat die strategische Bedeutung dieser Fähigkeit erkannt und baut gezielt Kompetenzen für die Evaluierung hoch entwickelter KI auf. Rund um „AI Safety“, „AI Testing“ und „AI Assurance“ entsteht ein neuer Markt.

Europa startet in diesem Wettbewerb mit einer besonderen Stärke. Wir verfügen über international anerkannte Normungsinstitutionen und eine gewachsene Qualitätsinfrastruktur aus Normung, Akkreditierung, Marktüberwachung und unabhängiger Prüfung. Diese Infrastruktur ist ein Hidden Champion der europäischen Wirtschaft und kann uns jetzt helfen, im weltweit entstehenden AI‑Assurance-Markt ganz vorn mit dabei zu sein.

Mit dem AI Act hat Europa zudem einen Rechtsrahmen geschaffen, der für besonders leistungsfähige KI bereits Bewertungen, Sicherheitstests und Risikomanagement vorsieht. Er sieht bereits unabhängige Evaluationen der leistungsstärksten Frontier-Modelle vor.

KI-Sicherheit braucht internationale Regeln

Frontier-KI macht nicht an Staatsgrenzen halt. Deshalb kann ihre Kontrolle auf Dauer keine europäische Aufgabe sein. Zumal die Anbieter dieser Modelle überwiegend in den USA und China sitzen.

Die Debatte über KI-Governance muss jetzt konkreter werden: Wir brauchen international vereinbarte Mindeststandards für die Evaluierung besonders leistungsfähiger KI-Modelle und ihrer Absicherungsmaßnahmen, Zugangsmöglichkeiten für unabhängige Prüfer – auch vor dem Markteintritt – und gemeinsame Regeln für den Umgang mit festgestellten Risiken oder Überschreiten von Fähigkeitsgrenzen.

Die Vereinten Nationen bieten das richtige Forum, um daraus eine internationale Aufgabe zu machen. Europa sollte dabei seine Erfahrungen einbringen. Denn wenn KI eine Schlüsseltechnologie des 21. Jahrhunderts ist, wird auch die Fähigkeit, KI zuverlässig zu prüfen, zu einer Schlüsselkompetenz.

Dr. Dirk Stenkamp ist Präsident des Tüv-Verbands und Vorstandsvorsitzender der Tüv Nord AG.