Klinische Entscheidungsfindung KI-Agenten unterstützen Entscheidungen in der Krebsmedizin

Anbieter zum Thema

TU Dresden

d.velop AG

xSuite Group GmbH

Esker Software Entwicklungs-und Vertrieb

Forscher vom Else Kröner Fresenius Zentrum (EKFZ) für Digitale Gesundheit an der TU Dresden haben in Zusammenarbeit mit weiteren Partnern einen autonomen KI-Agenten entwickelt getestet, der klinische Entscheidungen in der Onkologie unterstützen kann.

Künftig könnten KI-Agenten medizinisches Fachpersonal dabei unterstützen, komplexe medizinische Daten zu analysieren und fundierte, personalisierte Behandlungsentscheidungen für Krebspatientinnen und -patienten zu treffen. Die Ergebnisse hat das Forschungsteam vom Else Kröner Fresenius Zentrum (EKFZ) für Digitale Gesundheit an der Technischen Universität Dresden in der Fachzeitschrift Nature Cancer veröffentlicht.

Die klinische Entscheidungsfindung in der Onkologie ist anspruchsvoll und erfordert die Auswertung verschiedener Datentypen – von der medizinischen Bildgebung und genetischen Informationen bis hin zu Patientenakten und Behandlungsleitlinien. Um die medizinische Praxis wirksam zu unterstützen, müssen KI-Modelle deshalb multimodale Daten verarbeiten können und über Problemlösungsfähigkeiten verfügen, die menschlichen Denkprozessen ähneln.

Sprachmodell GPT-4 um digitale Werkzeuge erweitert

Für die Entwicklung ihres autonomen KI-Agenten für die Präzisionsmedizin erweiterten die Forscher das Sprachmodell GPT-4 um verschiedene digitale Werkzeuge – darunter die Erstellung von Radiologieberichten auf Basis von MRT- und CT-Scans, die medizinische Bildanalyse, die Vorhersage genetischer Veränderungen direkt aus histopathologischen Gewebeschnitten sowie Suchfunktionen auf Plattformen wie PubMed, Google und OncoKB. Um sicherzustellen, dass Entscheidungen auf dem aktuellen medizinischen Wissensstand beruhen, erhielt das Modell Zugriff auf etwa 6.800 Dokumente aus offiziellen onkologischen Leitlinien und klinischen Ressourcen.

Autonome KI-Agenten an simulierten Patientenfällen getestet

Die KI-Agenten wurde anhand von 20 realistischen, simulierten Patientenfällen in einem zweistufigen Verfahren getestet: Zunächst wählte das System geeignete Hilfsmittel (Tools) aus, anschließend recherchierte es relevante medizinische Informationen, um fundierte Schlussfolgerungen zu treffen. Die Ergebnisse wurden von medizinischen Expertinnen und Experten hinsichtlich ihrer Genauigkeit, Vollständigkeit und korrekten Quellenangabe überprüft. Der KI-Agent kam in 91 Prozent der Fälle zu korrekten klinischen Schlussfolgerungen und zitierte in mehr als 75 Prozent der Fälle die relevanten onkologischen Leitlinien korrekt.

Hervorzuheben ist, dass der Einsatz von spezialisierten Werkzeugen und die Verwendung zugrundeliegender medizinischer Fachinformation die Leistung des Modells erheblich verbesserten. Dadurch konnten sogenannte „Halluzinationen“ – also plausibel klingende, aber falsche Aussagen – deutlich reduziert werden. Gerade im sensiblen Bereich der Gesundheitsversorgung ist dieses Ergebnis von großer Bedeutung.

Dyke Ferber, Erstautor der Veröffentlichung, erklärt: „KI-Agenten sollen medizinisches Fachpersonal unterstützen und wertvolle Zeit für die Patientenversorgung schaffen. Sie könnten im Alltag helfen, fundierte Entscheidungen zu treffen und Ärztinnen und Ärzte dabei unterstützen, stets über die neuesten Behandlungsempfehlungen informiert zu sein – und dadurch zur optimalen personalisierten Therapie von Krebspatientinnen und -patienten beizutragen.“

KI-Agenten sollen medizinisches Fachpersonal unterstützen und wertvolle Zeit für die Patientenversorgung schaffen.

Dyke Ferber

KI-Agenten: Künftige Unterstützung im Klinikalltag

Die Studie zeigt, dass KI-Agenten grundsätzlich in der Lage sind, Onkologinnen und Onkologen im klinischen Alltag zu unterstützen. Trotz der vielversprechenden Ergebnisse weisen die Forschenden auf bestehende Einschränkungen ihrer Studie hin. Das System wurde nur an einer kleinen Anzahl von simulierten Fällen getestet und muss noch weiter validiert werden. Zukünftige Arbeiten sollen sich auf die Integration von Konversationsfähigkeiten mit menschlichem Feedback – sogenannten „Human-in-the-Loop“-Interaktionen – sowie auf datenschutzkonforme Anwendungen auf lokalen Servern konzentrieren.

„Um das Potenzial von KI-Agenten in Zukunft voll auszuschöpfen, wird es entscheidend sein, sie reibungslos und mit minimalen Störungen in den klinischen Alltag zu integrieren. Herausforderungen wie die Interoperabilität mit bestehenden Systemen, Datenschutzanforderungen, notwendige Zulassungsverfahren als Medizinprodukte und Fragen der Verantwortlichkeit müssen dafür gelöst werden“, erklärt Prof. Jakob N. Kather, Professor für Clinical Artificial Intelligence am EKFZ für Digitale Gesundheit der TU Dresden und Onkologe am Dresdner Universitätsklinikum Carl Gustav Carus.

Um das Potenzial von KI-Agenten in Zukunft voll auszuschöpfen, wird es entscheidend sein, sie reibungslos und mit minimalen Störungen in den klinischen Alltag zu integrieren.

Prof. Jakob N. Kather

Einsatz der KI-Agenten in weiteren medizinischen Bereichen

Langfristig halten es die Forscher für denkbar, dass KI-Agenten auch in anderen medizinischen Bereichen eingesetzt werden könnten – vorausgesetzt, sie werden mit den jeweils passenden Tools und Daten ausgestattet. Prof. Kather betont: „Für eine erfolgreiche Implementierung medizinischer KI-Agenten müssen die Medizinerinnen und Mediziner darin geschult werden, effektiv mit diesen Systemen zusammenzuarbeiten – bei gleichzeitigem Erhalt der vollständigen Entscheidungsverantwortung. Diese Agenten sollen das Klinikpersonal unterstützen, es aber keinesfalls ersetzen.“

Insgesamt unterstreicht die Studie das große Potenzial von Sprachmodellen in Kombination mit Präzisionsonkologie- und Suchwerkzeugen und schafft damit eine solide Grundlage für den zukünftigen Einsatz von KI-gestützter, personalisierter Unterstützungssysteme in der klinischen Praxis.

Die Ergebnisse der Studie wurden unter dem Titel „Development and validation of an autonomous artificial intelligence agent for clinical decision-making in oncology” in Nature Cancer 2025 von folgenden Autoren veröffentlicht: Dyke Ferber, Omar S. M. El Nahhas, Georg Wölflein, Isabella C. Wiest, Jan Clusmann, Marie-Elisabeth Leßmann, Sebastian Foersch, Jacqueline Lammert, Maximilian Tschochohei, Dirk Jäger, Manuel Salto-Tellez, Nikolaus Schultz, Daniel Truhn und Jakob Nikolas Kather.

Das 2019 gegründete Else Kröner Fresenius Zentrum (EKFZ) für Digitale Gesundheit an der TU Dresden und dem Universitätsklinikum Carl Gustav Carus Dresden wird mit einer Fördersumme von 40 Millionen Euro für eine Laufzeit von zehn Jahren von der Else Kröner-Fresenius-Stiftung gefördert. Das Zentrum konzentriert seine Forschungsaktivitäten auf innovative, medizinische und digitale Technologien an der Schnittstelle zu den Patientinnen und Patienten. Das Ziel ist dabei, das Potenzial der Digitalisierung in der Medizin voll auszuschöpfen.

KI-gestütztes Gesundheitswesen

Living Labs in der Medizin: Neue Testumgebung für digitale Innovationen