Wie wird KI unsere Versorgung verändern?

Beim „JAMA Summit on AI“, einem Gipfeltreffen zum Thema Künstliche Intelligenz, das letztes Jahr vom „Journal of the American Medical Association“ in Chicago ausgerichtet wurde, kamen zahlreiche Experten zusammen, darunter Kliniker, Vertreter von Technologieunternehmen, Aufsichtsbehörden, Versicherer, Ethiker, Anwälte und Ökonomen. Sie alle diskutierten darüber, wie KI im Gesundheitswesen entwickelt, bewertet, reguliert, verbreitet und überwacht werden sollte.

In dem jüngst veröffentlichten Bericht heißt es: „Viele KI-Tools sind bereits weit verbreitet, insbesondere in der medizinischen Bildgebung, mobilen Gesundheit, in Geschäftsabläufen im Gesundheitswesen und als Hybridfunktionen, etwa zum Aufzeichnen ambulanter Besuche."

Alle diese Tools könnten gute oder schlechte Auswirkungen auf die Gesundheit haben, doch würden diese Folgen werden häufig nicht quantifiziert: Bewertungen seien extrem schwierig oder nicht erforderlich, was teilweise darauf zurückzuführen sei, dass viele dieser Tools nicht der behördlichen Aufsicht der US-amerikanischen Food and Drug Administration unterliegen.“

„Für Kliniker bedeutet Wirksamkeit in der Regel bessere Gesundheitsergebnisse, aber es gibt keine Garantie dafür, dass die Aufsichtsbehörde einen entsprechenden Nachweis verlangt“, kritisiert Erstautor Prof. Derek Angus von der Universität Pittsburgh in Pennsylvania. Eine große Herausforderung bei der Bewertung von KI-Tools bestehe zudem darin, dass die Auswirkungen eines Tools stark von der Mensch-Computer-Schnittstelle, der Benutzerschulung und der Umgebung, in der das Tool verwendet wird, abhängen.

„Sobald KI-Tools verfügbar sind, können sie auf unzählige unvorhersehbare Weise in unterschiedlichen klinischen Umgebungen, bei unterschiedlichen Patienten und von Nutzern mit unterschiedlichen Qualifikationsniveaus eingesetzt werden. Es gibt kaum eine Garantie dafür, dass das, was in der Vorabzulassung als gute Idee erscheint, in der Praxis auch tatsächlich umgesetzt wird.“

Der Bericht zeigt außerdem, dass viele der aktuellen Bewertungsansätze teuer und umständlich sind. Wichtig sei daher, Mittel bereitzustellen, um die Leistungsfähigkeit von KI-Tools im Gesundheitswesen angemessen bewerten zu können, betont Angus.

Investitionen in die digitale Infrastruktur seien dabei ein Schlüsselbereich. Während des Gipfels wurde auch darauf hingewiesen, dass die am besten bewerteten Tools am wenigsten genutzt werden, und die am häufigsten genutzten Tools am wenigsten evaluiert.

Untersucht wurden auch die damit verbundenen rechtlichen Bedenken. Mitautor Prof. Glenn Cohen von der Harvard Law School in Cambridge, Massachusetts, betont, dass Patienten möglicherweise Probleme damit haben werden, Fehler bei der Nutzung oder beim Design eines KI-Produkts nachzuweisen. Wie soll nachgewiesen werden, dass ein schlechtes Ergebnis durch das KI-System selbst verursacht wurde?

„Das Zusammenspiel der Parteien kann auch Herausforderungen für die Einreichung einer Klage mit sich bringen. Sie können sich gegenseitig die Schuld zuweisen. Möglicherweise haben sie auch eine bestehende Vereinbarung, die die Haftung vertraglich neu verteilt, oder sie reichen Schadensersatzklagen ein“, warnt Cohen.

Mitautorin Prof. Michelle Mello von der Stanford Law School in Kalifornien ist überzeugt, die Gerichte seien gut gerüstet, um Rechtsfragen zu lösen. „Das Problem ist, dass es Zeit braucht und in der Anfangsphase zu Inkonsistenzen kommt. Diese Unsicherheit erhöht die Kosten für alle Beteiligten im Feld KI-Innovation und -Einführung.“

Dennoch sehen die Experten „enorme Potenziale“. KI werde in den kommenden Jahren „jeden Bereich des Gesundheitswesens und der Gesundheitsversorgung revolutionieren“, heißt es im Bericht. Vier Beispiele werden konkret genannt:

• In den Biowissenschaften eingesetzte KI-Tools könnten die biomedizinische Forschung verbessern: etwa in der Arzneimittelforschung, bei der Durchführung randomisierter Studien oder zur Abfrage von Gesundheitsdaten.

• KI-Tools, die im sozialen Bereich eingesetzt werden, könnten die Gesundheit in der Folgezeit verändern: etwa bei der Bezahlbarkeit von Wohnraum oder der Ernährungssicherheit.

• Algorithmen, die auf Social-Media-Plattformen eingesetzt werden, könnten die psychische Gesundheit beeinträchtigen, Informationen (oder Desinformationen) über Gesundheit verbreiten und beispielsweise die Einstellung zu Impfungen beeinflussen.

• Die Verwendung allgemeiner Effizienz-Hacks durch Biomediziner und Angehörige der Gesundheitsberufe, wie etwa die Verwendung von ChatGPT zum Verfassen biomedizinischer Berichte oder Gemini für Internetsuchen, könnte Auswirkungen darauf haben, wie medizinische Informationen zusammengefasst, verteilt und verwendet werden.

„Angesichts der vielen langjährigen Probleme im Gesundheitswesen stellt diese Revolution eine enorme Chance dar“, heißt es abschließend in dem Bericht. „Die Chancen, dass diese Revolution die Gesundheit aller Menschen verbessert, hängen jedoch stark von der Schaffung eines Ökosystems ab, das schnell, effizient, robust und verallgemeinerbar Erkenntnisse über die Auswirkungen dieser Tools auf die Gesundheit gewinnen kann.“