Künstliche Intelligenz (KI) : Was der AI Act für das autonome Fahren bedeutet

Die Europäische Kommission hat mit dem AI Act, der am 13. März 2024 verabschiedet wurde, einheitliche Regeln für KI-Systeme (Künstliche Intelligenz) innerhalb der EU eingeführt. Diese gelten für alle, die KI-basierte Produkte oder Services für den EU-Markt entwickeln und vertreiben und schützen deren Anwender vor Datenmissbrauch.

Im Gegensatz dazu verfolgen die USA einen föderalen Ansatz, bei dem die Vorgaben in jedem Bundesstaat variieren. Es gibt keinen einheitlichen rechtlichen Rahmen auf Bundesebene, und einige Bundesstaaten gewähren Ausnahmen an Unternehmen, die sich nach dem Prinzip der herstellerseitigen Selbstzertifizierung qualifizieren. Eine solch inkonsistente Regulierung ist ein Laissez-faire-Ansatz.

Tödliche Unfälle und die Debatte um die Sicherheit autonomer Fahrzeuge

In den Staaten Arizona, Texas, Nevada und Michigan gelten die liberalsten Regelungen für den Einsatz vollautomatisierter Fahrzeuge. Dort sind bereits seit mehreren Jahren Testfahrten oder sogar der Regelbetrieb ohne Sicherheitsfahrer auf öffentlichen Straßen erlaubt. Diese Vorreiterrolle hat jedoch ihre Schattenseiten, denn verheerende Unfälle haben erhebliche Sicherheitsbedenken hervorgerufen.

Der erste tödliche Unfall mit einem autonomen Fahrzeug ereignete sich im Jahr 2018 in Arizona. In einem selbstfahrenden Uber-Auto hat die KI eine Fußgängerin, die im Dunkeln die Straße überqueren wollte, nicht als solche erkannt. Da die Fahrerin den Unfall durch manuelles Eingreifen hätte verhindern können, wurde Uber strafrechtlich nicht zur Verantwortung gezogen.

Das Unternehmen stellte den Testbetrieb von selbstfahrenden Fahrzeugen vorübergehend ein, um seine Algorithmen zur Objekterkennung zu verbessern. Erst im Oktober 2023 erfasste ein Robotaxi der Firma Cruise, einer Tochterfirma von General Motors, eine Fahrradfahrerin in San Francisco, die schwer verletzt wurde.

Auch im Bereich teilautomatisierter Fahrzeuge traten zahlreiche Unfälle auf, darunter bei Tesla. Im Jahr 2023 gewann Tesla einen Gerichtsprozess nach einem tödlichen Unfall. Die Geschworenenjury argumentierte, dass menschliches Versagen für den Unfall verantwortlich war. 2023 publizierte das Center vor AI Safety, Zentrum für KI-Sicherheit in San Francisco, einen offenen Brief, in dem hunderte KI-Expertinnen und Experten ausdrücklich vor den Bedrohungen und Risiken von KI-Systemen warnten.

Deutsche Unternehmen sind verunsichert

Eine aktuelle Umfrage von msg zeigt, dass in deutschen Unternehmen erhebliche Unsicherheit beim Einsatz von Künstlicher Intelligenz besteht. Insbesondere in der Automobilbranche äußerten 43,7 Prozent der Befragten Bedenken hinsichtlich rechtlicher Aspekte.

Diese Ereignisse und Einschätzungen demonstrieren die Notwendigkeit eines regulativen Rahmens, sowohl zur Gewährleistung eines reibungslosen Testbetriebs wie auch zur Vorbereitung auf die anstehende Kommerzialisierung. Dazu gehören die Umsetzung verpflichtender und einheitlicher Sicherheitsstandards, Normen sowie transparenter Bewertungsverfahren – wie sie beispielsweise im AI Act gefordert werden.

Der AI Act stuft KI-Technologien grundsätzlich als Hochrisikosysteme ein, da sie eine erhebliche Bedrohung für die Gesundheit, Sicherheit und Grundrechte jedes Einzelnen darstellen können. Eine spezifische Risikobewertung findet dabei keine Berücksichtigung – ein Kritikpunkt der Automobilbranche, der zukünftig durch eigene Regelungen für diesen Sektor behoben werden könnte.

Bis dahin sind Betreiber verpflichtet, vor der Inbetriebnahme eines KI-Systems eine gründliche Risikoanalyse durchzuführen und die potenziellen Auswirkungen auf die Grundrechte umfassend zu bewerten. Hochrisikosysteme müssen dabei zahlreichen Anforderungen genügen, insbesondere gilt es sicherzustellen, dass sie stets zuverlässig und robust arbeiten.

Außerdem sollen vor dem Markteintritt Mindeststandards für die Datensätze erfüllt und geeignete Schnittstellen für die Überwachung und Nachvollziehbarkeit der Ergebnisse bereitgestellt werden. Diese umfangreichen Regularien können zu erheblichen Kosten führen. Die genauen Auswirkungen des AI Acts hängen maßgeblich von der Umsetzung der Risiko- und Konformitätsbewertung ab. Testmöglichkeiten für die KI-Technologien sind im AI Act ebenfalls vorgesehen, müssen aber noch von den einzelnen Mitgliedstaaten umgesetzt werden.

Erfolgsfaktor Regulierung: Warum ein geordneter Markteintritt entscheidend ist

Die gesetzlichen Anforderungen stärken das Vertrauen von Kunden, Investoren, Behörden und Öffentlichkeit in KI-Technologien. Insbesondere für Early Adopters entsteht ein Wettbewerbsvorteil, da sie durch Einhaltung der Regulatorik ihre Position auf dem Markt deutlich festigen können. Dadurch heben sie sich von anderen Unternehmen ab, die möglicherweise Schwierigkeiten haben, den Anforderungen des AI Act gerecht zu werden.

Zudem ermöglicht ein regulierter Markteintritt den Zugang zu weiteren Märkten, in denen ähnliche Richtlinien umgesetzt werden. Early Adopters profitieren hier von einem einfacheren Marktzugang, da sie bereits mit den Bestimmungen vertraut sind. Sie können Risiken besser einschätzen und langfristige Strategien entwickeln, die zu einer stabilen und nachhaltigen Geschäftsentwicklung beitragen. Insbesondere die großen Automobilhersteller sind hier gefordert, die neuen Regelungen für ihre KI-Systeme umzusetzen und können die Anforderungen als Qualitätsmerkmal ihrer Lösungen nutzen. Start-ups und kleinere Unternehmen profitieren von Ausnahmeregelungen, um neue Innovationen nicht zu gefährden.

Andere Länder werden nachziehen

Wir befinden uns an einem Wendepunkt zwischen der Entwicklungsphase, in der Innovatoren ihre Ideen vorantreiben, und der Einführungsphase in der Early Adopters neue Technologien auf den Markt bringen. Diese Transformation birgt ihre eigenen Herausforderungen. Das langfristige Potenzial dieser Technologie ist, die Sicherheit auf den Straßen zu verbessern, indem sie menschliche Fahrfehler reduziert. Allerdings müssen KI-Systeme, die dies ermöglichen, selbst anspruchsvollen Anforderungen genügen.

Das KI-Gesetz legt ambitionierte Standards fest und betont die entscheidende Bedeutung von Sicherheit, Transparenz und dem Schutz aller Beteiligten. Einige Stimmen äußern Bedenken, dass die EU-Verordnung die Entwicklung von autonomen Fahrzeugen bremsen könnte. Diese sind unbegründet, da insbesondere beim autonomen Fahren Mindeststandards essenziell sind, um die Sicherheit der Konsumenten zu gewährleisten und die gesellschaftliche Akzeptanz zu fördern.

Außerdem müssen auch internationale Unternehmen die Anforderungen umsetzen, um den Zugang zu dem wichtigen europäischen Markt nicht zu verlieren. Zusätzlich ist davon auszugehen, dass andere Länder mit ähnlichen Gesetzesregelungen nachziehen werden. Eine enge Zusammenarbeit zwischen Regulierungsbehörden und Industrie könnte helfen, Bedenken zu adressieren und die Balance zwischen Regulierung und Innovation im Automobilsektor zu finden.