Falsche KI-Ärzte geben falsche Tipps in Sozialen Medien

278430-flexible-1900 — Auf dem Portal Instagram finden sich eine Vielzahl von Kanälen mit den Namensbestandteilen „health“, „doctor“ und oder „advice“, auf denen KI-generierte Videos von vermeintlichen Ärzten zu finden sind, die Gesundheits- und Beautytipps geben. Das Profil doctorsadvice.ai (Screenshot) ist mit 212.000 Followern einer der reichweitenstärksten. Instagram - doctorsadvice.ai

14.11.2023

Gesellschaft

Die Instagram-Profile heißen „doctorhelpai“ oder „hindi.health.tips“ und haben eines gemeinsam: Hier geben KI-generierte Avatare in der Arztrolle unseriöse bis falsche Gesundheitstipps, die tausendfach geklickt werden.

Die meisten der Profile liefern Inhalte in Hindi, darunter auch eindeutige Falschnachrichten, hat eine Überprüfung der Deutschen Welle ergeben. Etwa die Botschaft, dass Chia-Samen Diabetes „unter Kontrolle bringen können“. Manchmal geben die mithilfe Künstlicher Intelligenz (KI) generierten Videos aber auch einfach abwegige Schönheits-Tipps, wie sie auf YouTube und TikTok seit Jahren weit verbreitet sind. Die Botschaft: Egal, ob das Knie schmerzt, der Bartwuchs schwächelt oder die Zahnfarbe nicht dem gängigen Schönheitsideal entspricht – der digitale Doktor weiß Abhilfe.

Indien als Standort der Fake-Ärzte-Profile verwundert auf den zweiten Blick nicht. Laut einer kanadischen Studie liegt das Land bei der Verbreitung von Falschnachrichten auf Platz eins vor den USA, Brasilien und Spanien. Weiter schreiben die Autoren, die sozialen Medien produzieren 84,9 Prozent aller ausgewerteten Fehlinformationen, allein 66,8 Prozent entfallen auf Facebook. Immerhin: Bei Facebook sind einige der erwähnten Fake-Arzt-Profile bereits blockiert mit dem Hinweis, dass es sich um Fehlinformationen handelt.

Vier Klicks genügen, um Instagram den Verdacht auf Fehlinformationen zu melden.© Instagram - helath_tips_1

Nicht so auf Instagram – das wie Facebook ebenfalls von Meta Platforms betrieben wird. Hier plaudern die Herren mit ernstem Gesichtsausdruck, weißem Kittel und Stethoskop um den Hals munter weiter. Und laut Angaben der Plattform schauen Tausende die Tipps der Avatare. Das Ziel der unbekannten Urheber ist höchst wahrscheinlich, über möglichst niedrigschwellige Gesundheitsthemen im ersten Schritt eine große Reichweite zu generieren, die sich anschließend durch Product Placement und Werbung zu Geld machen lässt.

Justiziabel ist das Vorgehen der Betreiber wohl nicht. Schließlich wird an keiner Stelle über die Einblendung eines Namens und oder Titels der Anschein erweckt, ein real existierender Arzt gebe den Tipp. Offen bleibt zudem die Frage des Gerichtsstands. Einige Profile werden klar ersichtlich von Indien aus betrieben, bei anderen ist der Standort des Betreibers unklar.

Nun liegt es am Verhalten der Nutzer-Community. Jeder Inhaber eines Instagram-Kontos kann die Profile der Fake-Ärzte finden, mit nur vier Klicks bei Instagram melden und deren Überprüfung auf Fehlinformationen veranlassen.