Künstliche Intelligenz (KI) : KI-Revolution – aber nur, wenn wir sie zulassen

Die Möglichkeiten der Künstlichen Intelligenz werden das Gesundheitswesen in den kommenden Jahren transformieren. Expert:innen sind sich sicher, dass KI die Art und Weise, wie medizinische Dienstleistungen erbracht werden, grundlegend verändern wird. Vor allem die Fähigkeit, große Mengen medizinischer Daten zu analysieren, wird die Effizienz und Genauigkeit der medizinischen Versorgung für Patient:innen in Zukunft deutlich verbessern. Medizinische Bereiche wie Onkologie, Gynäkologie und Neurologie, die unter anderem auf bildgebende Verfahren angewiesen sind, haben bereits begonnen, von der Implementierung von KI zu profitieren. Hier können KI-Tools beispielsweise auf Basis von bildgebenden Verfahren beim Hautkrebs-Screening oder bei Mammographien Muster erkennen und Anomalien identifizieren, um potenzielle Krebsfälle frühzeitig zu diagnostizieren und damit die Heilungschancen zu steigern.

Aber auch die personalisierte Diagnostik ist ein beliebtes Anwendungsgebiet für KI. Vordiagnosen mithilfe von KI-Tools helfen Menschen bereits heute, den richtigen Diagnoseweg einzuschlagen. So können beispielsweise Patient:innen durch Apps zur Selbstdiagnose und Prävention von Krankheiten besser einschätzen, ob sie mit ihrem Anliegen einen Arzt aufsuchen sollten.

Künstliche Intelligenz kann neben der Anwendung in der Diagnostik von Krankheiten zudem dazu beitragen, die Prozesse im Gesundheitswesen zu verbessern. Im Bereich des Krankenhaus-Managements können sie etwa dazu eingesetzt werden, um ganze Abläufe zu automatisieren und signifikante Potenziale zum Wohle der Patient:innen zu realisieren. Dies ermöglicht eine finanzielle Entlastung und einen effektiveren Einsatz von Ressourcen. Somit wird nicht nur die Patient:innen Journey, sondern auch die Effizienz und die Reputation der Krankenhäuser verbessert.

Falsche Diagnose – Wer ist verantwortlich, wenn die KI falsch liegt?

Mit der Etablierung digitaler Technologien im Gesundheitswesen gewinnen auch ethische Fragestellungen zunehmend an Bedeutung. Eine dieser moralischen Leitlinien besagt etwa, dass sich die Nutzung digitaler Technologien nicht zum Nachteil der Patient:innen auswirken darf. Vor allem aufseiten der Ärzt:innen gibt es daher noch große Unsicherheiten. Zu groß ist die Sorge, dass die Modelle falsche Diagnosen stellen könnten. Doch wie berechtigt ist diese Skepsis?

Die Qualität der KI-Diagnose hängt unter anderem von den verfügbaren Daten und dem trainierten Modell ab. Sind die Daten von unzureichender Qualität, kann die KI bei der Diagnosestellung natürlich auch falsch liegen. Da eine falsche Behandlung fatal sein könnte, ist die Transparenz ein wichtiger Faktor bei der Nutzung von KI. Ärzt:innen dürfen sich nicht „blind“ auf die Systeme verlassen, sondern müssen die Ergebnisse auf Validität überprüfen. Einzelne Schritte und mögliche Fehler im Prozess sollten nachvollziehbar sein. Das sogenannte Black-Box-Problem erschwert diese Transparenz aktuell jedoch häufig. So ist bei den meisten KI-Modellen teilweise nicht ersichtlich, wie der Algorithmus überhaupt zu seiner Entscheidung kommt. Dies macht die Fehlersuche deutlich komplizierter. Entscheidungshilfen, die auf KI basieren, sollten daher in Zukunft Argumente mitliefern, um ihre Entscheidungen zu erklären.

KI-Tools, die in der medizinischen Praxis eingesetzt werden, müssen zukünftig zudem einer gründlichen Prüfung gemäß geltender medizinischer Standards unterzogen werden. Um KI-Systeme vollständig in die klinische Diagnostik zu integrieren, bedarf es einer transparenten Verantwortlichkeitsstruktur und klarer Regelungen, die eine umfassende Rechtssicherheit für Ärzt:innen gewährleistet. Außerdem ist es unerlässlich, dass Patient:innen immer darüber informiert werden, wenn KI im medizinischen Prozess eingesetzt wird (Informed Consent). Fehlt den Patient:innen dieses Wissen, können ebenfalls rechtliche Probleme entstehen.

„Im Spannungsfeld von Datenschutz und Innovation“

KI kommt ohne die Verarbeitung großer Datenmengen schlicht nicht aus. Gerade im Gesundheitswesen bilden besonders sensible Gesundheitsdaten die Grundlage für Diagnosen. Mit zunehmendem Einsatz im medizinischen Bereich stellt sich daher die Frage, wie mit sensiblen Daten in Zukunft umgegangen wird. Wem gehören die Daten nach der Erhebung – insbesondere, wenn sie durch Dritte erhoben werden. Wo werden sie gespeichert oder aufbewahrt? Hier braucht es konkrete und zeitgemäße Regulierungen, die den Schutz der Daten gewährleisten, ohne die Einsatzmöglichkeiten in der medizinischen Versorgung zu behindern. 

Gesetze und Verordnungen wie die DSGVO müssen harmonisiert und an die aktuellen Gegebenheiten angepasst werden. Zusätzlich braucht es konkrete Bestimmungen zum Einsatz von KI, die so schnellstmöglich dazu führen, dass die Nutzung in einem gesicherten Rechtsrahmen erfolgt. Die EU hat deshalb den AI-Act verabschiedet, der Mitte 2024 in Kraft treten soll. Fraglich ist allerdings, ob dieser ausreicht oder ob es darüber hinaus länderspezifischer Gesetze bedarf. In jedem Fall ist es wichtig, dass die Politik schnell handelt. Denn wenn KI in der Lage ist, Leben zu retten, sollten wir sicherstellen, dass diese Daten zugänglich sind, um die bestmögliche medizinische Versorgung für alle Menschen zu gewährleisten.

Dr. Alexander Müller ist als Berater im Gesundheitssektor bei der Unternehmensberatung Detecon tätig. Bei der Beratung von Unternehmen und Institutionen in diesem Bereich konzentriert sich Müller vor allem auf Digitalisierungsprojekte, Ökosysteme und digitale Geschäftsmodelle. Er hat Biologie und Neurowissenschaften in Bonn studiert und in molekularer Biomedizin promoviert.