Potenzial agentischer KI in Klinikalltag und Forschung ist riesig
Das deutsche Gesundheitssystem steht vor großen Herausforderungen: Fachkräftemangel, demografischer Wandel, steigende Anforderungen an eine flächendeckende Versorgung, hoher Verwaltungsaufwand und Defizite bei der Digitalisierung klinischer Daten und Prozesse.
Agentische KI kann innerhalb eines vorgegebenen – und von Menschen verantworteten – Rahmens selbstständig agieren. Mögliche Einsatzfelder reichen von Diagnostik und Therapie über die Überwachung des Gesundheitszustands von Patientinnen und Patienten bis hin zu Terminplanung, Dokumentation und der Steuerung von Behandlungsschritten, erklärt die Nationale Akademie der Wissenschaften Leopoldina im Policy Brief „Agentische KI im Gesundheitssystem: Chancen und Herausforderungen“.
„Sogar bei der Versorgung chronisch kranker Menschen kann agentische KI künftig eine Rolle spielen, etwa als digitaler Co-Pilot für Patientinnen und Patienten. In Disziplinen wie Pathologie und medizinischer Bildgebung könnten KI-gestützte Analysen die Konsistenz und Reproduzierbarkeit diagnostischer Prozesse erhöhen sowie verschiedene Patientendaten verknüpfen und Entscheidungsempfehlungen für mögliche Therapien geben.“
Der Bericht ist in der Reihe „Leopoldina Fokus“ erschienen. In dieser Reihe werden aktuelle Themen aus wissenschaftlicher Perspektive eingeordnet. Der Policy Brief wurde in der Leopoldina-Fokusgruppe Medizin verfasst. Die Fokusgruppe beobachtet und erörtert aktuelle Trends und Entwicklungen in medizinischer Forschung und Versorgung und sondiert Themen auf ihren wissenschaftsbasierten Beratungsbedarf in Politik und Gesellschaft hin.
Nach Einschätzung der Autorinnen und Autoren ist agentische KI insbesondere dafür geeignet, „wissensbasierte Prozesse“ zu automatisieren, also Abläufe, die sich aus medizinischem Wissen wie Leitlinien, standardisierten Arbeitsanweisungen (Standard Operating Procedures), Medikamenten- und Interaktionsregeln ableiten. In Kombination mit KI-Sprachmodellen kann sie dieses Wissen mit unstrukturierten Patientendaten verbinden, nötige Schritte oder Werkzeuge zur Umsetzung koordinieren und bei Bedarf bestimmte Vorgänge an Fachpersonal weiterleiten.
Integration agentischer KI ins Gesundheitswesen zeichnet sich bereits ab
Die Integration agentischer KI in das Gesundheitswesen sei kein fernes Zukunftsszenario, sondern zeichne sich bereits jetzt ab, heißt es. Deshalb sollten aus Sicht der Autorinnen und Autoren schon jetzt die Voraussetzungen für einen verantwortungsvollen Einsatz geschaffen werden. Sie empfehlen, agentische KI als strategisches Schwerpunktthema in der Hightech Agenda der Bundesregierung zu verankern, domänenspezifische KI-Systeme für die Medizin gezielt zu fördern, regionale Kompetenzzentren aufzubauen, rechtssichere Erprobungsräume zu schaffen und die digitale Infrastruktur im Gesundheitswesen auszubauen.
Die Publikation betont, dass dabei die Kontrolle über medizinische Prozesse letztlich beim Menschen verbleiben muss. Transparenz und Nachvollziehbarkeit seien zentrale Voraussetzungen, um Verantwortlichkeit sicherzustellen und Vertrauen in die Technologie zu schaffen.
Europäische Systeme schaffen es oft nicht bis zur Marktreife
Ein zentrales Thema der Publikation ist zudem die technologische Souveränität. Die Grundlagenforschung im Bereich agentischer KI sei in Deutschland und Europa stark, doch gelinge es zu selten, deutsche oder europäische Produkte bis zur Marktreife zu entwickeln und entsprechend zu skalieren. Die Autorinnen und Autoren sprechen sich daher für Partnerschaften zwischen Universitätskliniken, Forschungseinrichtungen und Industrie aus.
Für den verantwortungsvollen Einsatz agentischer KI brauche es zudem pragmatische und verlässliche regulatorische Rahmenbedingungen. Diese müssten die Nutzung innovativer KI-Anwendungen ermöglichen und zugleich Nachvollziehbarkeit, Verantwortlichkeit, den Schutz sensibler Gesundheitsdaten sowie faire Entscheidungsprozesse sichern. Aufsichtsbehörden sollten dabei nicht allein als Kontrollinstanzen auftreten, sondern ihre Beratungsfunktion stärker wahrnehmen und Innovatoren bei der rechtssicheren Implementierung von KI-Anwendungen begleiten.
Die Deutsche Akademie der Naturforscher Leopoldina e. V. – Nationale Akademie der Wissenschaften ist die älteste naturwissenschaftlich-medizinische Gelehrtengesellschaft im deutschsprachigen Raum und die älteste dauerhaft existierende naturforschende Akademie der Welt. Sie wurde 1652 gegründet und ist hat mehr als 1.700 Mitglieder aus nahezu allen Wissenschaftsbereichen. Sie wurde 2008 zur Nationalen Akademie der Wissenschaften Deutschlands ernannt. In dieser Funktion hat sie zwei besondere Aufgaben: die Vertretung der deutschen Wissenschaft im Ausland sowie die Beratung von Politik und Öffentlichkeit.
