KI in der ZahnarztPraxis – Teil 5

Wer haftet, wenn die KI sich irrt?

Die Anwendung von Software mit „künstlicher Intelligenz“ löst auch mit Blick auf die Haftung große Unsicherheiten aus. Wer haftet, wenn die KI sich irrt und dem Patienten ein Schaden entsteht? Wann ist ein Ergebnis der KI überhaupt „falsch“? Ein Thema, das komplizierter erscheint, als es in Wirklichkeit ist.

Selbst eine milliardenschwere Forschung hat das völlig autonom fahrende Auto noch nicht ermöglicht – und auch in der Zahnmedizin sind wir von autonom agierender KI noch weit entfernt. Die Verantwortung bleibt bei den Behandlern! AdobeStock_scharfsinn86

Wer haftet, wenn die KI zu einer falschen Entscheidung bei der Interpretation eines Röntgenbilds kommt? Interessanterweise ist die Antwort auf diese Frage zunächst einmal simpel: Da es bislang keine KI-spezifischen Gesetze zur Haftung gibt, gelten die üblichen Haftungsregeln. Die wichtigste Botschaft: Im Verhältnis zwischen Zahnarzt und Patient ergeben sich beim Einsatz von KI-Technologien als Hilfsmittel kaum Besonderheiten. Fehlentscheidungen auf der Grundlage einer fehlerhafter Hilfstechnik werden (zumeist) durch den Arzt verschuldet sein. Selbst wenn also die Vorhersage der KI falsch gewesen ist, entlastet das den Arzt ebenso wenig wie ein defektes Instrument bei operativen Eingriffen.


KI in der Zahnarztpraxis

Erfahren Sie, wie eine KI-Software ihre Empfehlungen generiert, wo die Grenzen der KI liegen und warum „dynamisch“ im Kontext der medizinischen KI kein Hinweis auf Qualität ist.

Hier geht's zum Artikel

Künstliche Intelligenz unterstützt, ersetzt jedoch nicht die zahnärztliche Diagnostik, weil die klinischen Informationen für die Diagnosestellung unverzichtbar bleiben.

Hier geht's zum Artikel

Sensitivität und Spezifität sind zwei wichtige Parameter für die Erkennungsgenauigkeit diagnostischer Methoden. Im Fall von KI-gestützter Diagnostik dienen sie auch als Maßzahl für die Qualität des Systems.

Hier geht's zum Artikel

Kann die KI „erklären“, wie sie zu Entscheidungen gelangt? Fragen, die auch jeder (menschliche) Kollege beantworten müsste, bevor er als klinischer Partner ernst genommen wird.

Hier geht's zum Artikel

Die Anwendung von Software mit „künstlicher Intelligenz“ löst auch mit Blick auf die Haftung große Unsicherheiten aus. Ein Thema, das komplizierter erscheint, als es in Wirklichkeit ist.

Hier geht's zum Artikel.


Eine spezielle KI-Haftung wird seit Jahren diskutiert. Erforderlich scheint das jedoch nicht, denn die vorhandenen Rechtsgrundlagen lassen sich – bislang jedenfalls – gut auf medizinische KI anwenden. Erst wenn in die Praxis Anwendungen kommen, die ähnlich einem vollkommen autonom fahrenden Auto den Anspruch erheben, ärztliche Tätigkeiten tatsächlich ersetzen zu können, müsste über eine solche spezielle KI-Haftung nachgedacht werden. Umgekehrt gilt dann möglicherweise aber auch, dass KI durch ihre überzeugende Genauigkeit als Stand der Technik und der medizinischen Erkenntnisse anzusehen ist – und Ärzte und Zahnärzte dann gute Gründe brauchen, um von der KI-Meinung abzuweichen.

Was ist ein Irrtum der KI?

Für die Haftung des Herstellers einer KI-basierten Technologie kommt es darauf an, ob das Ergebnis der KI überhaupt „falsch“ war. Die im Markt erhältlichen KI-Anwendungen erstellen jedoch – wie oben beschrieben – keine Diagnose, sondern berechnen Wahrscheinlichkeiten und unterstützen damit den Zahnarzt. Dabei greift die KI auf gelerntes Expertenwissen zurück: Irrt die KI in ihrem Vorschlag, muss das ja nicht zwingend heißen, dass die detektierte Struktur nicht viele Eigenschaften (zum Beispiel einer Kariesläsion) aufweist. Die abgeleitete, fehlerhafte Diagnose stammt dann aber nicht von der KI, sondern vom Nutzer. Warum das Ergebnis der KI danebenlag, lässt sich im Nachhinein zudem nicht immer ermitteln – das hängt vom Design der KI („Erklärbarkeit“, siehe Teil 4 dieser Serie), der Komplexität der Entscheidung und den Besonderheiten des konkreten Falles ab.

Wann ist sie mangelhaft?

Ob die KI einen „Mangel“ im Sinne der Gewährleistung aufweist, hängt zudem davon ab, welche „Beschaffenheit“ vereinbart wurde. Oftmals kommen KI-Anwendungen ja unter Verweis auf Genauigkeitsmetriken auf den Markt – wobei aber immer auch Fehlertoleranzen angegeben werden. Die Käufer dürfen demnach eine Funktionsfähigkeit innerhalb dieses Rahmens erwarten: „Fehlerhaft“ sind demzufolge Produkte, die nicht eine „erwartbare Sicherheit“ oder Funktion aufweisen.

KI IN DER ZAHNARZTPRAXIS

Erste Anwendungen mit Künstlicher Intelligenz (KI) für die Zahnarztpraxis gibt es inzwischen, doch noch immer herrscht viel Unsicherheit darüber, was KI eigentlich ist und leisten kann. Was können Zahnärztinnen und Zahnärzte vom Einsatz einer KI im Alltag erwarten? Welchen Mehrwert kann ein solches Werkzeug bringen? In der Reihe „KI in der Zahnarztpraxis“ erörtern Experten Fragen zum Verständnis der KI.

Bei neuen Technologien gibt dies den Gerichten einen weiten Beurteilungsspielraum. Produkte sind nicht allein deswegen fehlerhaft, weil sie mit einer bestimmten Wahrscheinlichkeit falsche Ergebnisse produzieren, wobei gerade bei Medizinprodukten schon eine kritische Messlatte angelegt wird.

 haftet die KI?

Die Haftung für KI wird relevanter, wenn Systeme angeboten werden, die die verantwortliche Entscheidung der behandelnden Person ersetzen sollen oder in Medizinprodukten integriert sind. Hier bestehen aber sehr hohe regulatorische Hürden. Systeme müssen ihre Sicherheit im Vergleich zum menschlichen Experten und anderen KI-Anwendungen am Markt demonstrieren. 

Außerdem wird großes Augenmerk darauf gelegt, voraussehbare Risiken abzufangen. In einem KI-gestützten System zur Teleoperation könnten beispielsweise durch fest einprogrammierte Algorithmen die Handlungsmöglichkeiten der KI so beschränkt werden, dass Fehlentscheidungen möglichst wenig Schaden anrichten. Bei Unterstützungssystemen ist zum Beispiel auf die eingeschränkte Zuverlässigkeit und die Notwendigkeit der Überprüfung hinzuweisen.

Was ist mit Datenschutz?

Anforderungen ergeben sich beim Einsatz von KI-Technologien auch aus dem Datenschutz. Hier sind vor allem die Datenverarbeitungen des Herstellers betroffen. Für den Anwender gelten weiter die allgemeinen Anforderungen zum Umgang mit Patientendaten. Bei der Verwendung von Cloud-Anwendungen ist beispielsweise die Verschlüsselung eine wichtige Maßnahme zur Sicherstellung des Schutzes der Betroffenen.

Fazit

Im Ergebnis entstehen durch den Einsatz von KI-Technologien in der Zahnarztpraxis bislang wenig Besonderheiten. Verantwortlich bleibt die behandelnde Person. Die KI ist (noch) ein Hilfsmittel, dessen technische Grenzen beim Einsatz berücksichtigt werden müssen. Für „Fehlentscheidungen“ der KI werden die Hersteller selten erfolgreich in Anspruch genommen werden können – jedenfalls solange nur Wahrscheinlichkeiten versprochen werden. 

Fachanwalt für IT-Recht, HK2 Rechtsanwälte

Hausvogteiplatz 11A, 10117 Berlin 

Abteilung für Orale Diagnostik, Digitale Zahnheilkunde und
Versorgungsforschung CharitéCentrum 3 für Zahn-, Mund- und Kieferheilkunde
MVZ Charité Zahnheilkunde Charité – Universitätsmedizin
Berlin

64680996455793645580364558046468100 6466279 6455807
preload image 1preload image 2preload image 3preload image 4preload image 5preload image 6preload image 7preload image 8preload image 9preload image 10preload image 11preload image 12preload image 13preload image 14preload image 15preload image 16preload image 17preload image 18preload image 19preload image 20preload image 21preload image 22preload image 23preload image 24preload image 25preload image 26preload image 27preload image 28preload image 29preload image 30preload image 31preload image 32preload image 33preload image 34preload image 35preload image 36preload image 37preload image 38preload image 39preload image 40preload image 41preload image 42preload image 43preload image 44preload image 45preload image 46preload image 47preload image 48preload image 49preload image 50preload image 51preload image 52preload image 53preload image 54preload image 55preload image 56preload image 57preload image 58preload image 59preload image 60preload image 61preload image 62preload Themeimage 0preload Themeimage 1preload Themeimage 2preload Themeimage 3preload Themeimage 4preload Themeimage 5preload Themeimage 6preload Themeimage 7preload Themeimage 8preload Themeimage 9preload Themeimage 10preload Themeimage 11preload Themeimage 12preload Themeimage 13preload Themeimage 14preload Themeimage 15preload Themeimage 16preload Themeimage 17preload Themeimage 18preload Themeimage 19preload Themeimage 20preload Themeimage 21preload Themeimage 22preload Themeimage 23preload Themeimage 24preload Themeimage 25preload Themeimage 26preload Themeimage 27preload Themeimage 28
Bitte bestätigen Sie
Nein
Ja
Information
Ok
loginform
Kommentarvorschau
Kommentarvorschau schliessen
Antwort abbrechen
Ihr Kommentar ist eine Antwort auf den folgenden Kommentar

Keine Kommentare