Standpunkt : Potenziale, Hürden und die Rolle der User Experience

Während herkömmliche KI- und Machine Learning-Ansätze vor allem Muster erkennen und klassifizieren, kann generative KI (Gen AI) – wie schon der Name andeutet – eigenständig Inhalte, Lösungen, Prozeduren oder Datenpunkte erzeugen. Durch die Verarbeitung natürlicher Sprache auf einem neuen Niveau können zum Beispiel personalisierte Behandlungspläne erstellt und Gesundheitsdaten automatisch zusammengefasst werden – für Ärzt:innen eine große Entlastung. Smarte Assistenten und digitale Chatbots wiederum verbessern die Patientenkommunikation, indem sie individuelle Antworten auf medizinische Fragen liefern, die an die Sprache und den Wissensstand der Patient:innen angepasst sind. Als unterstützende und begleitende Maßnahme zur Betreuung durch Fachpersonal können diese Anwendungsmöglichkeiten eine große Bereicherung für Nutzende sein.

Ein entscheidender Mehrwert von generativer KI in der Therapiebegleitung besteht darin, dass sie die Customer Experience, also das Nutzererlebnis, deutlich verbessert. Mittels der sogenannten Large Language Models (LLMs), Basis vieler gen AI-Lösungen, lassen sich viele Kommunikationsbarrieren überwinden, beispielsweise durch die Übersetzung von Fachjargon in einfache Sprache. Ein Beispiel ist der generative KI-Chatbot ISA, entwickelt vom Pharmakonzern Berlin-Chemie in Zusammenarbeit mit der Digital Experience Agentur IBM iX. Er basiert auf wissenschaftlich fundierten Daten rund um die Lungenkrankheit COPD und bietet Patient:innen eine maßgeschneiderte Therapiebegleitung. ISA beantwortet individuelle Fragen auf verständliche Weise – basierend auf verifizierten medizinischen Inhalten aus dem Patientenportal TheraKey.

Der Zugang zu umfangreichen medizinischen Informationen wird dadurch viel einfacher, wovon Patient:innen und medizinisches Fachpersonal profitieren. Ein weiteres Beispiel ist der KI-gestützte Symptom-Checker ADA, der Patient:innen bei der Selbsteinschätzung von Symptomen unterstützt und eine Liste möglicher Diagnosen bereitstellt – dies jedoch noch ohne den Einsatz generative KI. Beim US-Start-up Hippocratic AI begleiten Gen AI-gestützte Gesprächsagenten Patient:innen durch unterschiedliche medizinische Indikationen. Von der Vorbereitung auf OPs über das Entlassmanagement bis hin zur Begleitung chronischer Krankheiten.

In der Therapiebegleitung wird die Stärke von Gen AI, nämlich die Verarbeitung natürlicher Sprache, deutlich. Man erhält weit mehr Informationen als mit strukturierten Fragenbögen. Auch werden die Antworten der KI von Nutzenden oft als verständlicher und empathischer bewertet. Die KI unterstützt zudem bei der Zusammenfassung und Aufbereitung von Inhalten für medizinische Fachkräfte. Insgesamt verbessert sich so die Patientenkommunikation deutlich.

Customer Experience entscheidend für Akzeptanz

Die Gestaltung des Nutzenerlebnis ist ein entscheidender Faktor für die erfolgreiche Implementierung und Nutzung von KI-Angeboten in der digitalen Therapiebegleitung. Das fängt bei der Auswahl des Use-Cases an. Wo erzielt generative KI den höchsten Mehrwert – sowohl für Patient:innen als auch Fachkräfte? Welche Art von Benutzeroberfläche und Aufbereitung von Informationen ist für die Zielgruppe am hilfreichsten? Welcher Einsatz lässt sich am besten erklären und ist ohne Risiko für die Nutzenden? Eine nutzerzentrierte User Experience ist ein entscheidender Faktor für die Akzeptanz von Patient:innen und medizinischem Fachpersonal. Die Lösungen sollten intuitiv bedienbar und nutzerfreundlich gestaltet sein. Im Idealfall fügen sich neue Anwendungen, Tools und Abläufe nahtlos in die bestehenden Abläufe ein.

Der Einsatzbereich der Therapiebegleitung beinhaltet jedoch weitere spezielle Herausforderungen. Bestehende Modelle, auf denen gen AI-Lösungen basieren (LLMs oder andere Foundation Models), sind schon zu vielem fähig, aber es sind ein hohes Maß an Feinabstimmung, Training und hochqualitative Daten notwendig. Auch ist fraglich, ob bestehende Regularien die EU-Vorgaben umsetzen und wie das Medizinproduktegesetz und der bald in Kraft tretende EU AI Act diese Art von Begleitung durch generative KI-Lösungen (wie die von Hippocratic AI) derzeit möglich machen würden.

Wenn, wie bei generativer KI, Eingaben und Antworten theoretisch unbegrenzt sind, ist Sicherheit nur schwer zu gewährleisten. Aber unmöglich ist sie nicht und das Maß an benötigter Sicherheit auch abhängig vom gewählten Use Case. Der Chatbot ISA beispielsweise greift auf umfangreiche qualitativ gesicherte medizinische Inhalte zurück. Und verfügt über eine spezielle Retrieval Augmented Generation (RAG) Architektur, die nur den Zugriff auf diese gesicherten Inhalte erlaubt. Mit dem zusätzlichen Einsatz von festgelegten Testfragen, werden sogenannte Halluzinationen und damit Fehlinformationen eines gen AI-Models in den allermeisten Fällen unterbunden.

Fazit und Ausblick

Die Integration von Services, die mit generativer KI arbeiten, ist ein umfangreicher Prozess, der viel Vorarbeit und Planung erfordert. Das gilt zum einen für das Aufsetzen einer fundierten Datenstruktur und -architektur. Es ist empfehlenswert, klein anzufangen und dann Schritt für Schritt vorzugehen. Zunächst wird die generative KI beispielsweise nur für einen sehr spezifischen Anwendungsfall, auf einer begrenzten speziell selektieren Datenmenge, implementiert. Mit dem Sammeln erster Erfahrungen kann der Anwendungsfall und die Infrastruktur dann mitwachsen.

Hier kann zum Beispiel eine Plattform wie watsonx helfen, eine Vielzahl von Datenquellen zu verwalten, aufzubereiten, zu trainieren und feinzutunen. Das erleichtert auch die Gewährleistung ethischer Standards, bei denen sich unter anderem folgende Fragen stellen: Was für einen Service nutze ich? Auf welcher Basis kriege ich Antworten und Inhalte angezeigt? Was passiert mit den Daten, die ich mit dem Service teile? Wichtig ist beim Einstieg in die generative KI auch, alle relevanten Stakeholder einzubinden – dazu zählt medizinisches Fachpersonal, Rechtsabteilungen, Datenschützer etc.

Zusammenfassend zeigt sich, dass generative KI in der Therapiebegleitung enormes Potenzial besitzt, um die Patientenversorgung zu verbessern und medizinisches Fachpersonal zu entlasten. Durch die Entwicklung und Implementierung von KI-Anwendungen, die ethischen, datenschutzrechtlichen und qualitativen Anforderungen gerecht werden, kann diese vielversprechende Technologie in der digitalen Therapiebegleitung erfolgreich genutzt werden. Der Einstieg kann dabei auch in kleinen Schritten erfolgen. Eine herausragende Customer Experience ist dabei ein entscheidender Faktor, um sicherzustellen, dass KI-Angebote von Patient:innen und Fachpersonal angenommen und effektiv eingesetzt werden.

Oliver Keigel ist Director Healthcare & Life Sciences und Ingo Werren Director Digital Health bei IBM iX.