Regulierung kann als Hemmschuh wirken. Andererseits können kluge Regeln auch Chancen für Wettbewerb, Innovation und die nachhaltige und breitenwirksame Anwendung einer Technologie eröffnen. Dies gilt besonders für Methoden der Künstlichen Intelligenz (KI), die als Querschnittstechnologie weite Teile der Gesellschaft und Wertschöpfung prägen können und zugleich einen regulatorisch und technologisch noch wenig ausgetretenen Pfad präsentieren.
Bei Überregulierung drohen andere Regionen an Europa vorbeizuziehen und den Vorsprung, den sie durch erfolgreiche Plattformunternehmen erworben haben, bis zur Uneinholbarkeit auszubauen. Passgenaue Rahmenbedingungen sind dagegen nicht nur kein Hemmnis, vielmehr können sie Innovation sogar maßgeblich befördern – indem aktuelle Techniken in der Breite praxistauglich gemacht und kommenden Techniken ein Spielfeld für Entwicklung und Erprobung bereitet wird. Besonders deutlich zeigt sich beides im Bereich der Medizin.
Medizinische KI braucht passgenaue Regulierung
Die Ausgestaltung der KI-Regulierung auf europäischer Ebene nimmt mit dem neuen Kommissionsvorschlag für einen „Artificial Intelligence Act“ nun erstmals konkrete Formen an. Nachdem erst das sogenannte „White paper“ entsprechende Befürchtungen ausgelöst hatte, nähert sich der Kommissionsvorschlag dem Thema dankenswerterweise stärker von der Perspektive, spezifische KI-Anwendungen statt „KI an sich“ und global regulieren zu wollen. Dementsprechend geht der Kommissionsvorschlag nicht bei allen Aspekten in allen Anwendungsfeldern in die Tiefe.
Umso bedeutsamer ist es, innerhalb der Anwendungsbereiche den Kommissionsvorschlag spezifisch auszugestalten, um jeweils passgenaue Rahmenbedingungen und möglichst sogar ein Ökosystem für nachhaltige Innovationen zu schaffen. Einer dieser Aspekte betrifft die Überwachung bereits eingeführter Systeme („Post-market monitoring“).
Black box statt erklärbare KI in der Medizin
Moderne Techniken der KI lernen anhand von Beispieldaten und produzieren dabei Systeme, die Aufgaben lösen können, für die man vermeintlich menschliche Intelligenz benötigte. Die Anwendungen, insbesondere in medizinischen Anwendungsfeldern, liegen auf der Hand: Während menschliche Mediziner in ihrem Leben vielleicht Zehntausende Patienten sehen und anhand dieser ihren Blick schulen, kann ein Computer ohne Weiteres Millionen von Bildern oder Fällen berücksichtigen. Entsprechende Software wird den Arzt nicht ersetzen, kann ihm aber helfen, in zig Röntgenbildern den einen Lungentumor oder nach Dutzenden Darmspiegelungen den einen Polypen nicht zu verpassen. Zugleich können ähnliche Systeme auch dabei helfen, „Übertherapie“ zu vermeiden: Wo anhand ähnlicher Bilder und Fälle der Krankheitsverlauf präziser eingeschätzt wird, kann im richtigen Moment eine abwartende einer invasiven Therapie vorgezogen werden. Solche Art KI ersetzt nicht den Arzt, sondern unterstützt ihn als „Assistenzsystem“. Derartige Systeme sind etabliert und unter Labor- sowie vereinzelt bereits Realbedingungen ausführlich getestet.
In gewissem Sinne konfrontieren die Systeme den Nutzer allerdings mit einer, wenn auch sehr leistungsfähigen „black box“. Wieso ein Röntgenbild als gefährlich eingeordnet wurde und das andere nicht, ist bei Millionen von internen Parametern von außen kaum nachvollziehbar. Es gibt Fortschritte beim Verständnis von KI-Systemen – aber zumindest aktuell kommen die im Ergebnis erfolgreichen „black box“-Techniken schneller zum Patienten als dass äußerlich nachvollziehbare Systeme („explainable AI“) sie ablösen würde.
Regelmäßige Anpassungen müssen mitbedacht werden
Das Problem: KI-Systeme arbeiten selten isoliert. Die Radiologen-KI erhält Röntgenbilder von eben einer bestimmten Röntgenröhre, die gewartet und erneuert wird. Die Polypen-KI arbeitet mit den vom Endoskop aufgezeichneten Bildern – das Gerät jedoch wird irgendwann ersetzt. Woher wissen wir, dass das einmal entwickelte und sauber getestete System noch genauso gut funktioniert, wenn man es Jahre später bei einer neuen Röntgenröhre oder bei einem neuen Endoskop einsetzt? Die ehrliche Antwort ist – wir wissen es nicht (immer). Und wie soll das alles erst werden, wenn nicht ein einmal fertig entwickeltes, getestetes und zugelassenes System zum Einsatz kommt, sondern eines, das sich im praktischen Einsatz immer weiter selbst verbessern soll („adaptive Systeme“)?
„Post-market monitoring“, das im aktuellen Kommissionsvorschlag eine wichtige Rolle einnimmt, sollte daher im Bereich medizinischer Anwendungen einschließen, dass die Systeme regelmäßig in ihrer aktuellen Umgebung re-evaluiert werden – das heißt anhand von mit aktuellen Geräten gewonnene Daten. Passende Testdatensätze fallen jedoch nicht einfach vom Himmel, zumal sie als eine Art „rollierender Benchmark“ fortlaufend aktualisiert und an den Stand des technischen Kontextes angepasst werden müssen. Die Notwendigkeit für regelmäßiges „Benchmarking“ muss frühzeitig bedacht werden, um entsprechende Datensätze und einen Modus für ihre Pflege und ihre Aktualisierung bereits jetzt einzurichten.
Fachgesellschaften könnten wichtige Aufgabe übernehmen
Zur konkreten Umsetzung wäre denkbar, unabhängige Fachgesellschaften wie etwa die deutsche oder europäische Gesellschaften für Gastroenterologie mit dem Benchmarking und der Re-Zertifizierung der Systeme zu betrauen und die Finanzierung über Gebühren der Hersteller für diesen Service sicherzustellen. Eine gut etabliertes Benchmarking-System reduziert die Notwendigkeit, KI-Systeme in immer neuen Patientenstudien überprüfen oder miteinander vergleichen zu müssen.
In diesem Sinne kann derartige Infrastruktur auch kleinen und mittleren Unternehmen eine Umgebung für realitätsnahe Test unterhalb von klinischen Studien bieten. Die Einführung rollierender, das heißt stets aktueller, Benchmarks reduziert zudem ganz erheblich die Hürde, um adaptive Systeme, vom rein experimentellen Stadium in die breite und Praxisanwendung zu bringen. Der Kommissionsvorschlag strebt derartige Ökosysteme unter dem Titel der „Sandboxes“ explizit an – rollierende und von den Fachgesellschaften kurierte Benchmarks könnten in der Medizin eine konkrete Perspektive dafür bilden.
Wesentliche Meilensteine der KI haben sich entlang öffentlich verfügbarer Datensätze entwickelt: So führte erst die Einrichtung des „ImageNet“-Datensatz bestehend aus Millionen Alltagsbildern mit entsprechenden Klassifikationen („Flugzeug“, „Katze“, „Toaster“, ...) erst zum Durchbruch der aktuellen KI-Techniken für das maschinelle Sehen. Und während Benchmarking-Datensätze geheim gehalten werden müssen, kann dieselbe Infrastruktur genutzt werden, um parallel und mit geringem Zusatzaufwand öffentlich verfügbare Trainingsdaten für die (Früh-)Entwicklung neuer Systeme zu sammeln. Öffentlich verfügbare Trainingsdatensätze, sozusagen „anwendungsspezifische ImageNets“, können und sollten beim Einrichten der Benchmarking-Datensätze von Anfang und als positiver Nebeneffekt mitgedacht werden.
Benchmarking als Teil des „Post-market monitoring“ ist so ein Beispiel dafür, wie Anwendungsbereiche und Industrien Aspekte der EU-Regulierung aufgreifen und derart ausgestalten können, dass neben einer wirksamen Regulierung auch neue Möglichkeiten für Wissenschaft, Industrie und Nutzer in Europa geschaffen werden. Die Gelegenheit dafür ist jetzt – und die Chancen einer wirksamen und zugleich permissiven KI-Regulierung sind evident. Im Nebel aus immer mehr Daten und immer mehr und spezifischeren Diagnosen kann KI uns helfen, für den einzelnen Patienten das Fahrwasser zwischen dem „zu viel an Medizin“ und dem „zu wenig an Medizin“ zu finden. Die Chancen in vielen anderen Feldern stehen kaum dahinter zurück.
Rüdiger Schmitz ist Arzt und theoretischer Physiker. Nach Studium in Hamburg, Cambridge und Zürich arbeitet und forscht er nun am Universitätsklinikum Hamburg-Eppendorf in der Inneren Medizin/Gastroenterologie und Endoskopie mit wissenschaftlichem Schwerpunkt im Bereich Künstliche Intelligenz und maschinelles Sehen.
