AI Act : Warum „Trustworthy AI“ zum Investmentkriterium wird

Künstliche Intelligenz boomt: Weltweit flossen 2024 laut Stanford AI Index rund 252 Milliarden Dollar in KI – ein Zuwachs von 26 Prozent gegenüber dem Vorjahr. Doch mit dem Wachstum steigen auch die Sorgen: Dieselbe Studie zählt 233 dokumentierte Zwischenfälle mit KI-Systemen – mehr als je zuvor. Ob Deepfakes, fehlerhafte Diagnosen oder weitreichende gesellschaftliche Folgen – das Vertrauen in KI ist fragil.

Genau dieses Vertrauen wird nun zur Voraussetzung für wirtschaftliche Skalierung. Unternehmen und Investoren erkennen zunehmend: Wer mit und an KI arbeiten will, muss nicht nur innovativ sein – sondern vertrauenswürdig. Das Konzept der „Trustworthy AI“ rückt ins Zentrum.

Was bedeutet „Trustworthy AI“?

Der Begriff bezeichnet KI-Systeme, die nicht nur leistungsfähig, sondern auch nachvollziehbar, gerecht, sicher und ethisch verantwortungsvoll sind. Die EU formuliert in ihrem AI Act sieben Grundprinzipien für vertrauenswürdige KI – darunter Transparenz, Datenschutz, menschliche Aufsicht und Robustheit. Auch OECD, ISO und G7 verankern Trust als neues Grundprinzip digitaler Innovation.

Was auf den ersten Blick wie ein ethischer Appell klingt, ist längst ein harter Wettbewerbsfaktor. Wer auf Trust-by-Design setzt, kann regulatorische Risiken vermeiden, Haftung reduzieren, bessere Talente gewinnen – und die gesellschaftliche Lizenz zum Skalieren sichern.

Der Trend ist messbar

Immer mehr Kapitalgeber:innen und Fonds integrieren Vertrauen und Verantwortung in ihre Investmententscheidungen – oft unter dem Begriff „Responsible Tech“ oder „Impactful AI“. Laut Dealroom ist die Zahl der europäischen Tech-Fonds mit ESG-Kriterien 2023 um 45 Prozent gegenüber dem Niveau vor der Pandemie gestiegen.

Investor:innen wie Aenu, Ananda und Norrsken entwickeln bereits spezifische Kriterienkataloge, um Wirkung und Werte frühzeitig zu bewerten. In Deutschland fördert das Bundeswirtschaftsministerium Projekte zur vertrauenswürdigen KI, etwa mit dem „AI Trust“-Cluster oder über Gaia-X-Initiativen.

Das BMWK betonte in seiner Pressemitteilung zur KI-Verordnung zudem: „Sie zielt darauf ab, Innovationen zu fördern, gleichzeitig das Vertrauen in KI zu stärken und sicherzustellen, dass diese Technologie in einer Weise genutzt wird, die die Grundrechte und die Sicherheit der Bürgerinnen und Bürger der EU respektiert.“

​Was bedeutet das für Investor:innen?

Der Wertewandel macht sich besonders in der Frühphase bemerkbar: Investor:innen müssen künftig andere Fragen stellen: Wie transparent ist das KI-Modell? Welche Nebenwirkungen hat die Technologie? Was würde das Team tun, wenn sich negative gesellschaftliche Effekte zeigen?

Ein zusätzlicher Impuls für diese Diskussion kommt vom kürzlich veröffentlichten Praxisleitfaden der EU-Kommission für Allzweck-KI-Anbieter. Anbieter, die sich freiwillig an den Transparenzkodex des Leitfadens halten, geben ein positives Signal: Sie signalisieren Verantwortung und Verlässlichkeit. Für Investor:innen könnte dies ein entscheidender Vorteil sein, denn klare Transparenzvorschriften erhöhen nicht nur die regulatorische Sicherheit, sondern schaffen auch eine solide Grundlage für ethische Bewertungen.

Vertrauen ja – aber mit Augenmaß

Ein häufiger Kritikpunkt: Wichtige Transparenzverpflichtungen wurden im finalen Leitfaden gestrichen. So erhalten Öffentlichkeit und Stakeholder keinen verbindlichen Einblick in Sicherheitsmaßnahmen oder konkrete Modellberichte. Das sorgt für Frust, insbesondere bei all jenen, die Transparenz zur Grundvoraussetzung vertrauenswürdiger KI machen wollen.

Aber: Gerade für Start-ups kann überbordende Regulatorik zur Innovationsbremse werden. Der finale Leitfaden sendet auch ein positives Signal – nämlich, dass Europa bereit ist, Verantwortung mit Augenmaß zu denken. Weniger starrer Overhead, mehr Freiraum für glaubwürdige Eigenverantwortung.

Chancen für neue Standards

In diesem regulatorischen Vakuum können Investor:innen eigene Maßstäbe für Transparenz und Verantwortung entwickeln. Ansätze wie ethische Trust-Metriken, detaillierte Risikobewertungen oder verbindliche Offenlegungspflichten in Investitionsverträgen machen Vertrauen messbar und greifbar, ohne in der Frühphase zu überfordern. So wird Vertrauen nicht zur Bürokratielast, sondern zum echten Wettbewerbsfaktor.

Dies verdeutlicht: Es gibt keinen einheitlichen Ansatz für vertrauenswürdige KI. Vielmehr gestalten sich die Annäherungen an „Trustworthy AI“ dynamisch aus den unterschiedlichen Perspektiven der Regulierenden und der Investor:innen – und gerade diese Vielfalt kann langfristig den Weg für glaubwürdige Standards ebnen.

Solche Überlegungen lassen sich in der Due Diligence, aber auch in Gesellschafterverträgen oder Impact-Klauseln abbilden. Erste Fonds experimentieren mit ethischen Beiräten, verbindlichen Wirkungsmessungen oder Exit-Klauseln bei Zweckverfehlung. Das Ziel: Verantwortung messbar machen und Vertrauen nicht dem Zufall überlassen. Neben der Investorenperspektive stellt sich auch die Frage: Wie kann Europa im globalen Wettbewerb bestehen und was macht Trustworthy AI zum strategischen Vorteil?

Vertrauen in KI kann zum Standortvorteil für Europa werden

Besonders für Europa ist Trustworthy AI nicht nur Wertefrage, sondern Standortstrategie. Während die USA rund 70 Prozent der weltweiten KI-Rechenleistung kontrollieren, kommt Europa laut AI Index auf lediglich vier Prozent. Hinzu kommen bis zu dreifach höhere Energiekosten. Ein struktureller Nachteil, der nur durch Differenzierung aufgefangen werden kann.

Dabei ist das wirtschaftliche Potenzial enorm: Laut Grand View Research lag das Marktvolumen für KI in Europa 2024 bereits bei 66,4 Milliarden Euro – mit einer prognostizierten jährlichen Wachstumsrate von über 30 Prozent bis 2030. Auch die EU selbst plant Investitionen in Höhe von 200 Milliarden Euro in den KI-Bereich, darunter 50 Milliarden an öffentlichen Mitteln. Impact-orientierte Investitionen werden dabei eine zunehmend strategische Rolle spielen – nicht zuletzt, weil Vertrauen immer häufiger zur Markteintrittsvoraussetzung wird.

Die Chance liegt darin, europäische Stärken – Datenschutz, Rechtsstaatlichkeit, pluralistische Perspektiven – zur technologischen Stärke zu machen. Wer hier glaubwürdige Standards etabliert, wird in einem sensiblen Wachstumsmarkt Vertrauen binden können.

Unternehmen und Politik müssen Verantwortung übernehmen

„Trustworthy AI“ ist somit kein Wohlfühlbegriff. Es wird zur neuen, harten Währung für Unternehmen, die KI nicht nur schnell, sondern nachhaltig skalieren wollen. Der Trend ist da, die Instrumente entwickeln sich. Jetzt braucht es Klarheit, Standards und die Bereitschaft, Verantwortung als Wirtschaftsfaktor ernst zu nehmen. Von Politik und Unternehmen. Wer jetzt Verantwortung ernst nimmt, investiert in die Zukunftsfähigkeit des gesamten europäischen Ökosystems.

Tina Dreimann ist Mitgründerin und Geschäftsführerin von Better Ventures, einem Netzwerk für Impact-Unternehmer:innen. Vor ihrer Zeit als Investorin hat Dreimann verschiedene Start-ups mit aufgebaut. Sie war Mitglied im früheren Digital-Beirat „Junge Digitale Wirtschaft“ des Wirtschaftsministeriums.