Welche Folgen hat KI für die zahnmedizinische Forschung?

Generative KI hat laut einer neuen Übersichtsarbeit das Potenzial, die Forschung erheblich zu verbessern, indem sie Daten abruft, analysiert, zusammenfasst und kontextualisiert: „Sie kann die Dokumentation, Kommunikation und Reproduzierbarkeit verbessern, Zeit sparen und neue Erkenntnisse beschleunigen“, stellen Autoren um Prof. Falk Schwendicke, Direktor der Poliklinik für Zahnerhaltung und Parodontologie am LMU Klinikum München in der neuen Studie fest.

Gleichzeitig stelle generative KI die zahnmedizinische Forschung vor viele ethische, gesellschaftliche und wissenschaftliche Herausforderungen, darunter:

1. Risiken der übermäßigen Abhängigkeit, der Automatisierungsverzerrung und der Fehlerfortpflanzung, die nur dadurch behoben werden können, dass Menschen die Ausgabe einer KI verstehen und bestätigen.

2. Plagiat, Betrug und Probleme der Quellenangabe.

3. Verzerrungen, die in den gelernten Daten begründet sind und die identifiziert und proaktiv abgemildert werden müssen.

4. Mangelnde Reproduzierbarkeit und Herausforderungen bei der Überprüfung der Ergebnisse einer KI, insbesondere angesichts des Risikos der „Halluzination“ durch generative KI.

Um diese Probleme zu überwinden, seien Transparenz nötig, robuste Verifizierungsprozesse, die Einhaltung ethischer Standards und eine klare Dokumentation, die synthetische von realen Daten unterscheidet. Die Forschenden empfehlen daher für die zahnmedizinische Forschung:

• Wissenschaftler sollten die Verwendung von generativer KI offenlegen und Details zu den verwendeten Werkzeugen, Algorithmen und Einstellungen angeben, um sicherzustellen, dass die Leser die Beiträge von Menschen und KI zuordnen können.

• Sie sollten proaktiv Methoden anwenden, um KI-generierte Inhalte zu verifizieren, mögliche Verzerrungen zu identifizieren und unterstützende echte Belege bereitzustellen.

• KI-generierte (synthetische) Daten sollten klar gekennzeichnet und von echten Beobachtungen unterschieden werden.

• Forschende sollten sich an Richtlinien bezüglich Quellenangabe, geistigem Eigentum, Datenschutz und Einwilligung halten und Verzerrungen in KI-Systemen angehen, die Schaden verursachen und Ungleichheiten verstärken können. Menschliche Aufsicht und Verantwortlichkeit bleiben in relevanten wissenschaftlichen Prozessen, darunter das Peer-Review-Verfahren, von zentraler Bedeutung.

• Wissenschaftler sollten gemeinsam mit anderen Akteuren aus Forschung, Industrie, Regierung und Zivilgesellschaft diese Grundsätze aktiv und kontinuierlich durchsetzen.

Da generative KI zunehmend in den Alltag und wissenschaftliche Arbeitsabläufe Einzug hält, dürfe ihr Missbrauchspotenzial nicht unterschätzt werden: Große Sprachmodelle könnten zur Fälschung wissenschaftlicher Inhalte missbraucht werden, da die derzeitigen Schutzmechanismen die Verbreitung von Desinformation nicht wirksam verhindern. Mithilfe von KI lassen sich demzufolge ganze, glaubwürdig wirkende Artikel erstellen, die jedoch häufig sachliche oder methodische Fehler enthalten. Dies erschwere es Forschenden zunehmend, authentische Arbeiten von gefälschten Inhalten zu unterscheiden, wenn sie wissenschaftliche Literatur lesen und bewerten.

Der Missbrauch generativer KI umfasse auch die unbefugte oder nicht offengelegte Manipulation von Texten und Ergebnissen sowie die Fälschung von Daten. Besonders besorgniserregend seien sogenannte „Paper Mills“, die generative KI nutzen, um Artikel zu erstellen, um sie fälschlicherweise glaubwürdigen Autoren zuzuschreiben, die in keinerlei Verbindung zu der betrügerischen Arbeit stehen. Die Bekämpfung solcher betrügerischer Publikationen oder Zeitschriften erfordere „ein koordiniertes Vorgehen“ der gesamten wissenschaftlichen Gemeinschaft.

„Die Folgen betrügerischer Veröffentlichungen, einschließlich solcher, die auf dem unsachgemäßen Einsatz generativer KI beruhen, umfassen die Fehlleitung wissenschaftlicher Forschung, die Verzerrung von Evidenzsynthesen und potenzielle Schäden für die Patientenversorgung. Darüber hinaus können sie dem Ruf von Personen oder Institutionen schaden, die fälschlicherweise beschuldigt oder deren Arbeit falsch dargestellt wurden“, resümieren die Autoren.

„Die Chancen und Risiken generativer KI für die Wissenschaft lassen sich derzeit nicht vollständig abschätzen; Richtlinien müssen sich angesichts der Dynamik des Feldes anpassen und weiterentwickeln“, bilanzieren sie. Forschende, Gutachter, Herausgeber und Leser der Fachzeitschrift seien somit unerlässlich, um die Einhaltung der Richtlinien zu gewährleisten und die optimale Nutzung von KI in der Zahnmedizin und Mundgesundheit zu gestalten.