Fida und Bafin als KI-Katalysator : Warum KI-Regularien Innovationen fördern

Scheinbar gehört es in der Politik zum guten Ton, ganz allgemein auf die „Bürokratie“ zu schimpfen. Andererseits genießen wir in Deutschland im hochregulierten Bankensektor als Kunden die Gewissheit, dass unserem Geld kaum etwas passieren kann. Klare, strenge Regeln sorgen dafür, dass Banken nicht beliebig spekulieren können und sie Risikovorsorge betreiben müssen.

Die gesetzlichen Vorgaben sorgen also für finanzielle Nachhaltigkeit und Vertrauen in das Finanzwesen. Dass das notwendig ist, hat die Bankenkrise 2008 gezeigt, bei der gerade die Institute ins Straucheln kamen, die über eine zu geringe Kapitaldecke und zu „wagemutige“ Broker verfügten. Die gescholtene Bürokratie sorgt also für die Leitplanken, damit es nicht zu Auswüchsen oder gar Zusammenbrüchen kommt.

KI-Agenten auf dem Sprung in die reale Finanzwelt

Mit dem zukünftig autonomen Einsatz von Künstlicher Intelligenz (KI) bei Finanztransaktionen, Kreditentscheidungen und anderen Arbeitsabläufen entstehen neue Anwendungsfelder. Viele Prozesse lassen sich enorm beschleunigen. Auch den Fachkräftemangel kann KI deutlich entschärfen. Dies gilt insbesondere dann, wenn KI nicht nur befragt oder zur Beurteilung von Anträgen oder der Einhaltung gesetzlicher Prüfpflichten eingesetzt wird, sondern als KI-Agent selbst handelt – eventuell sogar im Team mit anderen KI-Agenten.

Das bietet enorme Vorteile, hat aber auch diverse Risiken. Wenn ChatGPT, Gemini und Co. im Gespräch halluzinieren, ist das zwar ärgerlich. Aber wenn die gleiche KI Geld verbrennen, Milliarden in die Karibik umschichten und sich im Wettlauf mit anderen rasant verspekulieren würde, würde jeder fragen: Warum gibt es da keine rechtlichen Rahmenbedingungen, die festlegen, was erlaubt ist und was nicht?

Diese sollten festlegen, wie eine KI zu arbeiten hat, damit sie überhaupt eingesetzt werden darf. Dazu gehört eine transparente Entscheidungsfindung: Jede KI-Aktion muss erklärbar, nachvollziehbar und lückenlos protokolliert werden. Sie muss den Datensicherheits- und Datenschutzvorgaben entsprechen, damit sie nicht manipuliert werden kann, konform mit der Datenschutzgrundverordnung ist und rollenbasierte Zugriffsrechte berücksichtigt.

Argumentation umkehren: KI darf, was erlaubt wird

Bisher lief die aktuell rasante KI-Entwicklung weitgehend ungezügelt und mit maximaler Innovationsgeschwindigkeit. Je mehr die KI nicht nur als „interessanter Gesprächspartner und Content-Produzent“ gesehen, sondern produktiv eingesetzt wird, muss deren Einsatz durch Regularien abgesichert werden. Es reicht eben nicht, darauf zu hoffen, dass sie „keinen Mist baut“. Anbieter müssen gewährleisten, dass sich eine KI an alle Vorgaben hält, die für eine ordnungsgemäße Funktion unabdingbar sind. Dies gilt insbesondere im hochregulierten Finanzbereich.

Das klingt zwar im ersten Moment nach einer Einschränkung, aber das genaue Gegenteil ist der Fall. Die Regulierung macht KI für Finanzdienstleister und Banken überhaupt erst vernünftig nutzbar. Sie bildet die Basis, um Dienste und Produkte anzubieten, die rein von KI gemanagt werden und trotzdem sicher und zuverlässig funktionieren.

Höhere Zuverlässigkeit statt neuer Features

Die rechtlichen Rahmenbedingungen geben den Entwicklern von KI-Systemen die Leitlinien, wohin sich eine KI entwickeln sollte, um in der Praxis einsatzfähig zu sein. Sie sorgen dafür, dass Anbieter fehlende Funktionen hinzufügen und die Zuverlässigkeit verbessern.

Es geht darum, ein Konzept wie „Security by Design“ zu etablieren. Daraus resultieren robuste Anwendungen, die personenbezogene Daten schützen, interoperabel sind und Datensicherheit von Anfang an berücksichtigen. Das Ziel ist Privacy, Security and Compliance by Design.

Notwendige Vorgaben von Fida, Bafin und EU

Unter diesen Gesichtspunkten sind die Vorgaben der kommenden EU-Regulierung für Financial Data Access (Fida) keine Einschränkung, sondern sie sorgen für notwendige Innovationen:

• Die Pflicht, Kundendaten unverzüglich, kontinuierlich und in Echtzeit über Programmierschnittstellen (APIs) bereitzustellen, sorgt für bessere Verfügbarkeit der Daten über standardisierte Formate, von denen KI-Anwendungen profitieren
• Die Einführung spezifischer Einwilligungen erzwingt eine Data Governance, die auch beim Einsatz von KI notwendig ist und die DSGVO einhält
• Die hohen IT-Security-Anforderungen an Datenübertragung, Schutz und Sicherheit sind für KI-Anwendungen (mit ihren großen Datenmengen) notwendig
• Die hohen Sanktionen bei Nichteinhaltung führen für KI-Anwendungen zur Pflicht von Monitoring, Reporting, Audit- und Retraining.

Da Fida primär aus Verbrauchersicht erarbeitet wurde, führt die Beschäftigung damit zu einem kundenzentrierten Denken und zu einem besseren Kundenverständnis. Die Vorgaben sind nötig, damit die Versicherten von Innovationen profitieren können, ohne auf den unabdingbaren Datenschutz zu verzichten.

Was zählt, ist Belastbarkeit

KI-Systeme, die ausschließlich auf großen Sprachmodellen basieren, stoßen im Finanzsektor schnell an Grenzen. Der Grund ist weniger technischer Natur als fachlich. Risikomanagement besteht nie nur aus Modellrechnungen und genauso wenig nur aus Interpretation. Es lebt vom Zusammenspiel harter Daten und fachlicher Einordnung. Genau diese doppelte Perspektive lässt sich nicht durch ein rein sprachbasiertes System abbilden, das auf Wahrscheinlichkeiten in Textkorpora optimiert ist.

Die Bundesanstalt für Finanzdienstleistungsaufsicht (Bafin), der AI Act der EU und künftig Fida verlangen Entscheidungen, die prüfbar, datenbasiert und nachvollziehbar sind.

Das bedeutet: Modelle müssen Muster in historischen Daten erkennen, Abweichungen belastbar messen und anschließend erklären, was das für den konkreten Fall bedeutet. Ohne diese Verbindung bleibt KI im Finanzbereich ein beeindruckendes Werkzeug, aber kein verlässliches.

Heiko Beier ist Geschäftsführer vom Software-Unternehmen Moresophy und Professor für digitale Medienkommunikation und Künstliche Intelligenz an der Internationalen Hochschule SDI München mit mehr als 25 Jahren Erfahrung in der KI-gestützten Datenanalyse und Automatisierung von Geschäftsprozessen.