Standards für KI in Europa : Wenn der Dieb den Tresor bewacht

Stellen Sie sich vor, Sie bewerben sich um eine Stelle und erhalten nie eine Rückmeldung, weil ein automatisiertes System Ihren Lebenslauf aussortiert hat, noch bevor ein Mensch ihn überhaupt zu Gesicht bekam. Oder ein Krankenhaus setzt ein KI-Tool zur Triage von Patienten ein, oder eine Sozialbehörde nutzt eines, um Leistungsanträge als verdächtig zu markieren. Europas AI Act soll Sie genau in solchen Situationen schützen. Ob dies tatsächlich gelingt, entscheiden einige Hundert technische Experten in Normungsgremien, also in einem Umfeld, in dem die von diesen Systemen am stärksten betroffenen Menschen kaum vertreten sind.

Dieses Gremium ist bei Cen/Cenelec angesiedelt, der offiziellen europäischen Normungsorganisation. Ihr wurde eine gewaltige Aufgabe übertragen: Sie soll die allgemeinen Versprechen der KI-Verordnung hinsichtlich der Grundrechte in konkrete „technische Spezifikationen“ übersetzen, an denen sich Unternehmen bei der Entwicklung orientieren. Hält sich ein Unternehmen an diese Vorgaben, gilt rechtlich die Vermutung, dass es die gesetzlichen Anforderungen erfüllt. In der Praxis werden diese Normen somit zum Maßstab; daher ist es von entscheidender Bedeutung, wer an diesem Prozess mitwirkt. Und hier bietet sich ein bedenkliches Bild.

Wer die meisten Experten schicken kann, wird belohnt

Die Normen entstehen in einem Konsensverfahren, bei dem sich Experten aus 34 nationalen Delegationen auf eine gemeinsame Position einigen müssen. Theoretisch ist dies ein demokratischer Prozess. In der Praxis belohnt er jedoch jene Akteure, die die meisten Experten entsenden und in den meisten Arbeitsgruppen vertreten sind – und die zudem über Jahre hinweg bei den Sitzungen das größte Durchhaltevermögen beweisen.

Dies begünstigt große, finanzstarke Industrieunternehmen, allen voran jene amerikanischen Technologiegiganten, die durch das Gesetz eigentlich in die Schranken gewiesen werden sollen. Branchenexperten – auch von den größten US-Unternehmen – bekleiden einflussreiche Positionen als Ausschussvorsitzende oder als Verfasser der Normen selbst. Vertreter der Zivilgesellschaft machen hingegen weniger als ein Zehntel der Teilnehmenden aus. Wir bitten also ausgerechnet jene Unternehmen, den Tresor zu bewachen, den sie aus eigenem Interesse am liebsten offenhalten würden.

Dabei handelt es sich nicht nur um eine theoretische Sorge. Die Verbraucherorganisation ANEC berichtete, dass Vertreter von Technologie-Großkonzernen zunächst versuchten, die Normung – bei der es um einen Rahmen für vertrauenswürdige KI geht – zu verzögern. Dieses Ungleichgewicht prägt auch den allgemeinen politischen Prozess: Untersuchungen von Corporate Europe Observatory (CEO) und LobbyControl ergaben, dass im Jahr 2025 rund sieben von zehn Treffen der Europäischen Kommission zu diesen Dossiers mit Wirtschaftsverbänden stattfanden, während weniger als zwei von zehn Gesprächen mit der Zivilgesellschaft geführt wurden. Wenn die Beiträge derart unausgewogen sind, gilt dies auch für die Ergebnisse.

Verzögerung als Strategie

Das bislang deutlichste Resultat ist eine Verzögerung. Die Normen hätten eigentlich schon lange vor dem Inkrafttreten der Vorschriften für Hochrisiko-KI im Rahmen des AI Act (im August 2026) fertiggestellt sein sollen. Dies war jedoch nicht der Fall. Diese Verzögerung wurde nun gesetzlich festgeschrieben. Aufgrund neuer, im Frühjahr vereinbarter EU-Regelungen wurde der Zeitplan für Hochrisiko-KI-Systeme – etwa solche, die bei der Personalauswahl, im Gesundheitswesen, in Medien, im Bildungswesen oder beim Zugang zu wesentlichen Dienstleistungen zum Einsatz kommen – auf Dezember 2027 verschoben. Für KI-Komponenten in regulierten Produkten gilt nun der August 2028 als Termin.

Offiziell wird dies damit begründet, dass die Normen noch nicht fertiggestellt seien. Das trifft zwar zu, entspricht aber auch genau dem Ergebnis, auf das jene Unternehmen hingearbeitet hatten, die am meisten von einem Aufschub profitieren. Ebenjene Akteure, die den Prozess dominierten – an dessen Ende keine fertigen Normen standen –, hatten sich am nachdrücklichsten für die Verzögerung eingesetzt, die dann wiederum mit dem Fehlen dieser Normen begründet wurde. Die Europäer müssen nun länger auf Schutzmaßnahmen warten, die eigentlich bereits gesetzlich verankert waren.

Erfolge der Zivilgesellschaft

Das alles bedeutet nicht, dass die Situation hoffnungslos ist. Die Beteiligung der Öffentlichkeit, auch durch unsere Organisation und andere, bewirkt einen echten Unterschied – sowohl innerhalb als auch außerhalb des Normungsprozesses. Nehmen wir die Norm zum Risikomanagement, die festlegt, wie ein KI-System mit hohem Risiko die von ihm ausgehenden Gefahren identifizieren und minimieren muss.

In ihrer ursprünglichen Fassung forderte sie Entwickler primär auf, Risiken für sich selbst, also für ihre eigene Organisation, zu managen. Wir setzten uns für eine Erweiterung dieser Definition ein, sodass das System auch Schäden für die betroffenen Personen und Gruppen berücksichtigen muss. Der Unterschied ist konkret. Nach der engeren Fassung müsste ein Unternehmen, das ein biometrisches Identifizierungssystem einsetzt, beispielsweise für den Zugang zu Gesundheitsdienstleistungen, nur die Risiken kontrollieren, die das Unternehmen selbst gefährden. Nach der von uns geforderten Fassung müssen Risikokontrollen auch für die identifizierte Person implementiert werden. Hier liegt die Lücke zwischen dem Schutz der Bilanz und dem Schutz der Menschenrechte.

Beschwerde beim Ombudsmann

Darüber hinaus beschwerten sich mehrere Organisationen des öffentlichen Interesses beim Europäischen Bürgerbeauftragten über die mangelnde Transparenz und Rechenschaftspflicht bei der Erstellung dieser Normen. Die Untersuchung läuft noch, hat aber bereits Wirkung gezeigt: Beamte des KI-Büros der Kommission nehmen nun regelmäßiger an den Sitzungen teil, haben einige Verzögerungstaktiken öffentlich benannt und trotz des Drucks der Industrie dazu beigetragen, die Arbeit voranzutreiben.

Das ist die eigentliche Lehre. Eine wichtige Schutzmaßnahme gegen die Gefahren der KI kann wie ein trockenes technisches Normendokument aussehen und dennoch lebenswichtige Entscheidungen für uns alle beeinflussen. Diese Regeln, die in verschlossenen Räumen verfasst werden, spiegeln die Interessen derjenigen wider, die sich die Mühe machen oder es sich leisten können, diese Räume zu füllen. Bislang waren das hauptsächlich die Unternehmen, die durch die Regeln eingeschränkt werden sollen.

Das muss nicht so bleiben. Die Normen sind noch nicht fertig; der Prozess ist noch nicht abgeschlossen. Jedes Mal, wenn sich die Öffentlichkeit Gehör verschafft hat, hat sich der Handlungsspielraum dieser Systeme verändert. Die Aufgabe besteht nun darin, weiterhin präsent zu sein und sicherzustellen, dass die Menschen, die mit diesen KI-Systemen leben müssen, an der Ausarbeitung der sie regulierenden Regeln mitwirken können.

Wenn Sie ein Akteur im öffentlichen Interesse sind und sich an Cen/Cenelec beteiligen möchten, finden Sie hier die Anleitung von Article 19.

Tanu I ist als Expertin für gemeinwohlorientierte Technologie bei Article 19 tätig. Sie setzt sich dafür ein, die Lücke zwischen Technologie und deren Auswirkungen auf die Rechte der Menschen zu schließen. Aufgrund ihres Hintergrunds in der Informatik und ihrer Berufserfahrung im Silicon Valley bringt sie wertvolle Einblicke in ihre Arbeit ein.

Corinne Cath ist Kulturanthropologin und erforscht die IT-Branche; ihre Arbeit konzentriert sich auf Cloud-Computing, KI und Internetnetzwerke. Sie promovierte an der Universität Oxford und absolvierte ihre Postdoc-Phase im Rahmen des Projekts „Programmable Infrastructures“ an der Technischen Universität Delft. Derzeit ist sie als Interims-Direktorin für den digitalen Bereich bei Article 19 tätig.