Künstliche Intelligenz (KI) : Rechtliche Weichen für erfolgreiche KI-Plattformen

Die Nutzung von KI-Lösungen in der Wirtschaft ist ein entscheidender Faktor für die Sicherung der internationalen Wettbewerbsfähigkeit – und zwar für alle Branchen und Unternehmensgrößen. Damit auch kleine und mittlere Unternehmen KI für sich nutzen können, werden immer häufiger KI-basierte Services über digitale Plattformen zur Verfügung gestellt.

Das bestätigt auch ein Blick in die aktuelle Liste der Forschungsprojekte des vom Bundesministerium für Wirtschaft und Klimaschutz (BMWK) geförderten „KI-Innovationswettbewerb“: Im Projekt Aiqnet wird ein digitales Ökosystem zur datenschutzkonformen und sektorübergreifenden Nutzung medizinischer Daten entwickelt. Das Projekt Bimkit soll sicheren Zugriff auf die Daten von Bestandsgebäuden ermöglichen und diese für KI-Anwendungen auswertbar machen. Diese Vorhaben zeigen, dass die digitale Plattform das Mittel der Wahl ist, um KI-Anwendungen für den Mittelstand verfügbar zu machen.

Die Vorteile von KI-Plattformen im Mittelstand

Indem KI-Plattformen Wissen vermitteln und Anwendungen bereitstellen, versetzen sie auch kleine und mittlere Betriebe in die Lage, die Potenziale von Technologien wie KI niedrigschwellig zu nutzen. Das hat zahlreiche Vorteile:

Da die Mehrzahl der KMU keine oder nur kleine eigene IT-Abteilungen haben, sind die Ressourcen begrenzt. Außerdem mangelt es an Fachkräften. KI-Plattformen bieten in der Regel eine kostengünstige Möglichkeit, KI-Funktionen und -Technologien zu nutzen, ohne umfangreiche interne Ressourcen oder Investitionen in die Entwicklung eigener KI-Systeme bereitstellen zu müssen. Außerdem bieten sie oft Unterstützung und Expertise in Bezug auf die Entwicklung und Implementierung von KI-Lösungen.

KI-Plattformen bieten mittelständischen Unternehmen Zugang zu fortgeschrittenen KI-Tools und -Technologien, die normalerweise für kleinere Unternehmen schwer zugänglich wären. Sie können von vorgefertigten Modellen, Algorithmen und Datenverarbeitungsfunktionen profitieren. Dabei ermöglichen KI-Plattformen häufig die bedarfsgerechte Skalierung von Anwendungen und Projekten – und sichern so Flexibilität für das jeweilige Unternehmen.

Wertschöpfung und Rechtskonformität bedingen einander

Blicken wir von den Nutzern hin zu Anbietern, wird schnell klar: Wer KI-Plattformen anbietet, muss die rechtlichen Rahmenbedingungen und Regelungen, die für den Einsatz und die Verwendung von Künstlicher Intelligenz in Plattformen gelten, beachten. Konkret befassen sich deshalb viele Anbieter mit dem Entwurf des KI-Gesetzes und dem Data Governance Act (DGA) der EU.

Da KI-Plattformen eine Vielzahl von Anwendungen haben, reicht die Bandbreite der rechtlichen Fragestellungen vom Recht zur Datennutzung, Datenschutz und Haftung bis hin zu Ethik und Diskriminierung. Wie also finden Verantwortliche heraus, wie sie ihr Angebot rechtskonform gestalten? Grundsätzlich ist eine isolierte Betrachtung von Recht auf einer Plattform nicht sinnvoll. Die Governance der Plattform sollte nicht nur an ihre Legal Governance gebunden werden, es empfiehlt sich vielmehr, zunächst im Detail zu analysieren:

1. Wie das eigene Geschäftsmodell aussehen soll

Hier geht es um die zentrale Frage, ob die Wertschöpfung aus dem Anbieten von Daten, von Services oder einer Kombination aus beiden entsteht. Bei einer Kombination wäre es beispielsweise nach dem DGA nötig, zwei getrennte Plattformen zu entwickeln, wenn der Datenaustausch auf einer offenen Plattform mit einer Vielzahl von Partnern stattfinden soll. Geht es nur um Wertschöpfung aus Daten schließen sich Fragen wie: „Will ich Daten in geschlossenen Projekten anbieten? Besteht ein geschlossenes Lieferantennetzwerk, innerhalb dessen ich Daten austausche?“

In diesen Fällen wäre der DGA nicht von Relevanz, entstünden die Werte aber direkt durch den Austausch von Daten, beispielsweise bei Trainings oder wenn Datenbestände für KI-Anwendungen für mehrere Nutzende angeboten werden, müssten die Bestimmungen des DGA berücksichtigt werden. Wird die Plattform in Form eines Betreibermodells aufgesetzt, ist zudem relevant, was zur Wertschöpfung beiträgt, welche Märkte es dafür gibt und was nachhaltig ist. Wie beispielsweise das Projekt „Reif“ zur Entwicklung von KI-basierten Lösungen zur Reduktion der Lebensmittelverschwendung auf dem KI-Sommercampus des BMWK gezeigt hat, ist die Frage nach dem Geschäftsmodell deshalb besonders wichtig, weil sie die konzeptionellen Möglichkeiten der Legal Governance für Plattformen bedingt.

2. Welche Technologien zur Umsetzung dieses Modells eingesetzt werden

Die Frage nach der technischen Umsetzung des Geschäftsmodells ist insofern wichtig, als sie bestimmt, welche juristischen Regelungen beachtet werden müssen. Ist die technische Umsetzung des Geschäftsmodells beispielsweise KI-basiert, schließt sich die Frage an, ob diese in den Bereich der Hochrisiko-KI reicht oder KI für allgemeine Zwecke eingesetzt wird. Gerade im Bereich der Hochrisiko-KI sind dann besondere organisatorische Strukturen für die Datenqualität, aber auch ein strenges Risiko- und Qualitätsmanagement notwendig. Hier wird zukünftig der Verordnungsentwurf des AI Act relevant werden.

Die Fragen, was genau auf der Plattform angeboten werden soll und wie die technologische Umsetzung erfolgt, geben gewissermaßen die Rechtsbereiche vor, mit denen Verantwortliche sich im Sinne einer Legal Governance beschäftigen müssen. Hier unterstützt die Nutzung von Entscheidungsbäumen die Wahl des passenden Rechtsrahmens.

Erschwerter Markteintritt für Start-ups und kleine Betriebe?

Eine große Aufgabe, gerade auch für kleine Unternehmen und Start-ups, die KI-Plattformen anbieten wollen. Dabei ist die zugrundeliegende Systematik bereits aus dem Bereich der Medizinprodukte bekannt. Auch dort gibt es ein System der Selbstzertifizierung für die höheren Risikoklassen und alternativ die Möglichkeit der Fremdzertifizierung durch die „benannten Stellen“, also vom Staat autorisierte Stellen, die Prüfungen und Bewertungen durchführen und entsprechende Zertifizierungen ausstellen.

Das Problem für Unternehmen mit überschaubaren Ressourcen: In den Fällen des offenen Datenaustauschs werden die Betriebe aufgrund des DGA zwei Rechtspersonen gründen müssen. Dies ist mit einem Aufwand verbunden, den gerade Unternehmen mit geringen Ressourcen, beispielsweise weil sie noch am Anfang stehen, nur schwer leisten können. Hinzu kommt die Klassifizierung als Hochrisikosystem. Im aktuellen Entwurf des KI-Gesetzes wird der Begriff sehr weit gefasst. Die Zugehörigkeit zu einer hohen Risikogruppe bedeutet dann – genau wie im Medizinproduktebereich – eine Fremdzertifizierung.

Das ist mit hohen Kosten verbunden. Die Befürchtung besteht also, dass eine zu starke Regulierung durch das kommende KI-Gesetz zu einer Hürde für den Markteintritt werden kann und Innovationen so gebremst werden. Entgehen kann man diesem Problem, indem nicht ganze Bereiche pauschal mit eingeschlossen werden, sondern wirklich sehr genau schauen, welche Risiken sich überhaupt in welchen Anwendungen verwirklichen und welche Risikoklasse in diesem Fall angemessen ist. Selbstverständlich ist damit eine Wertediskussion verbunden, in der Innovation gegenüber Schutz des Einzelnen, da wo notwendig verbunden.

Recht transportiert Werte, die Diskussion um den DGA und den Entwurf der KI-Verordnung sind also keine Rechts-, sondern Wertediskussionen. Wenn wir die Weichen hier richtigstellen, wird der Rechtsrahmen zu Leitplanken für den flächendeckenden Einsatz von Zukunftstechnologien.