KI in der ZahnarztPraxis – Teil 5

Wer haftet, wenn die KI sich irrt?

136689-flexible-1900
Heftarchiv Zahnmedizin
Ausgabe 11/2022
Neue Perspektiven für ZFA

Was ist ein Irrtum der KI?

Für die Haftung des Herstellers einer KI-basierten Technologie kommt es darauf an, ob das Ergebnis der KI überhaupt „falsch“ war. Die im Markt erhältlichen KI-Anwendungen erstellen jedoch – wie oben beschrieben – keine Diagnose, sondern berechnen Wahrscheinlichkeiten und unterstützen damit den Zahnarzt. Dabei greift die KI auf gelerntes Expertenwissen zurück: Irrt die KI in ihrem Vorschlag, muss das ja nicht zwingend heißen, dass die detektierte Struktur nicht viele Eigenschaften (zum Beispiel einer Kariesläsion) aufweist. Die abgeleitete, fehlerhafte Diagnose stammt dann aber nicht von der KI, sondern vom Nutzer. Warum das Ergebnis der KI danebenlag, lässt sich im Nachhinein zudem nicht immer ermitteln – das hängt vom Design der KI („Erklärbarkeit“, siehe Teil 4 dieser Serie), der Komplexität der Entscheidung und den Besonderheiten des konkreten Falles ab.

 haftet die KI?

Die Haftung für KI wird relevanter, wenn Systeme angeboten werden, die die verantwortliche Entscheidung der behandelnden Person ersetzen sollen oder in Medizinprodukten integriert sind. Hier bestehen aber sehr hohe regulatorische Hürden. Systeme müssen ihre Sicherheit im Vergleich zum menschlichen Experten und anderen KI-Anwendungen am Markt demonstrieren. 

Außerdem wird großes Augenmerk darauf gelegt, voraussehbare Risiken abzufangen. In einem KI-gestützten System zur Teleoperation könnten beispielsweise durch fest einprogrammierte Algorithmen die Handlungsmöglichkeiten der KI so beschränkt werden, dass Fehlentscheidungen möglichst wenig Schaden anrichten. Bei Unterstützungssystemen ist zum Beispiel auf die eingeschränkte Zuverlässigkeit und die Notwendigkeit der Überprüfung hinzuweisen.

Was ist mit Datenschutz?

Anforderungen ergeben sich beim Einsatz von KI-Technologien auch aus dem Datenschutz. Hier sind vor allem die Datenverarbeitungen des Herstellers betroffen. Für den Anwender gelten weiter die allgemeinen Anforderungen zum Umgang mit Patientendaten. Bei der Verwendung von Cloud-Anwendungen ist beispielsweise die Verschlüsselung eine wichtige Maßnahme zur Sicherstellung des Schutzes der Betroffenen.

Fazit

Im Ergebnis entstehen durch den Einsatz von KI-Technologien in der Zahnarztpraxis bislang wenig Besonderheiten. Verantwortlich bleibt die behandelnde Person. Die KI ist (noch) ein Hilfsmittel, dessen technische Grenzen beim Einsatz berücksichtigt werden müssen. Für „Fehlentscheidungen“ der KI werden die Hersteller selten erfolgreich in Anspruch genommen werden können – jedenfalls solange nur Wahrscheinlichkeiten versprochen werden. 

Melden Sie sich hier zum zm-Newsletter des Magazins an

Die aktuellen Nachrichten direkt in Ihren Posteingang

zm Heft-Newsletter

Sie interessieren sich für einen unserer anderen Newsletter?
Hier geht zu den Anmeldungen zm Online-Newsletter und zm starter-Newsletter.