Patienten vertrauen Menschen mehr als KI-Systemen

Wichtige Entscheidungen bei medizinischen Befunden oder Kreditvergaben werden häufig erst nach Einbeziehung externer Expertise getroffen. Jene kommt oft von Kolleginnen und Kollegen, wird immer häufiger aber auch durch automatisierte Systeme bereitgestellt.

Forschende der TU Berlin haben nun mit einer Serie von Online-Experimenten mit 823 Teilnehmenden untersucht, wem sie mehr vertrauen: der Technik oder dem Menschen. Erkenntnisse früherer Studien legen den Autoren zufolge nahe, dass das Vertrauen gegenüber Technologien sogar höher ist als gegenüber Menschen, weil man annimmt, dass technische Systeme unfehlbar sind.

Das überraschende Ergebnis war jedoch: Entgegen der Vermutung zeigte sich über alle drei abgefragten Szenarien (Kreditvergabe, Medizinische Diagnostik und Bildverarbeitung in der Prozessindustrie) hinweg ein höheres Vertrauen gegenüber menschlichen Interaktionspartnern.

Wie bei der Untersuchung zur Kreditvergabe und Bildverarbeitung in der Prozessindustrie lag das Gesamtniveau der wahrgenommenen Zuverlässigkeit im Experiment zur Röntgenbildeinschätzung mit 77,04 Prozent signifikant unter der nachweisbaren Zuverlässigkeit der technischen Unterstützung (90 bis 100 Prozent), schreiben die Autoren. Dabei sollten die Teilnehmer die Anzahl bösartiger Zellen in simulierten Röntgenbildern einschätzen sollten.

Dieses Ergebnis sei insbesondere für die technischen Systeme überraschend, da die Aufgabe - die Bildverarbeitung - gut für eine automatisierte Analyse geeignet war. „Diese Lücke zwischen wahrgenommener und tatsächlicher Zuverlässigkeit technischer Systeme könnte ein Grund dafür sein, warum die Interaktion zwischen Mensch und Technik ihr symbiotisches Potenzial nicht ausschöpfen kann, und erklärt zum Teil, dass die gemeinsame Leistung von Mensch und Technik oft schlechter ist als das, was die Technik allein erreichen kann.

Die Teilnehmenden vertrauten von Kollegen unterstützten Menschen bei der Beurteilung von Röntgenaufnahmen deutlich mehr (82,60 Prozent) als einer von Künstlicher Intelligenz (65,74 Prozent) oder klassischen softwarebasierten Entscheidungsunterstützungssystemen (69,57 Prozent) unterstützten Entscheidung.

Wichtig sei, die Mensch-Technik-Interaktion nicht nur aus der Perspektive der beruflichen Kooperation zu denken, sondern auch zu berücksichtigen, dass Menschen zunehmend von Technologien beurteilt werden. Vor dem Hintergrund technologischen Fortschritts und sich stetig verbessernden Systemen bleibe eine der größten offenen Fragen, wie viel Vertrauen angemessen ist.

Rieger, T., Roesler, E. & Manzey, D., „Challenging presumed technological superiority when working with (artificial) colleagues. Sci Rep 12, 3768 (2022).https://doi.org/10.1038/s41598-022-07808-x