Es werden immer mehr und sie werden immer perfekter: Deepfakes – mithilfe künstlicher Intelligenz (KI) täuschend echt erzeugte Bilder, Videos oder Audios. Kriminelle stehlen die Identität prominenter Mediziner, um ahnungslose Menschen abzuzocken. Doch es formiert sich Widerstand.
Der Begriff Deepfakes kombiniert hochentwickeltes maschinelles Lernen (›Deep Learning‹) mit Fälschung (›Fake‹). Auf Plattformen wie TikTok oder Instagram, Chat-Diensten wie WhatsApp, in der Google-Suche, aber auch im Kleinanzeigen-Dschungel seriöser Medienportale wimmelt es von Deepfakes, die mit dem Renommee bekannter Ärztinnen und Ärzte Kasse machen.
Es geht um überteuerte ›Wundermittel‹, die Probleme mit Übergewicht, Diabetes, Blutdruck, Gelenkschmerzen oder Potenz mühelos und ohne Rezept lösen.
Glauben Sie mir nicht, wenn ich Ihnen Medikamente verkaufe.
Ein prominentes Opfer des Identitätsdiebstahls ist der Medizinjournalist und Arzt Dr. Eckart von Hirschhausen. Er wehrt sich juristisch und öffentlich. »Glauben Sie mir nicht, wenn ich Ihnen Medikamente verkaufe«, warnte er in einer ARD-Dokumentation über die Deepfake-Mafia. Das dürfte er ohnehin nicht: Das Heilberufegesetz verbietet es, die ärztliche Autorität für Produktempfehlungen zu verwenden. Für die Apotheken-Umschau war Hirschhausen zuletzt das Gesicht einer Kampagne gegen ›Medfakes‹. Mitstreiter sind unter anderen ›TV-Ernährungs-Doc‹ Dr. Matthias Riedl und die im Fernsehen und in sozialen Netzwerken als ›Doc Caro‹ bekannte Notfallmedizinerin Dr. Carola Holzner.
Hase und Igel lassen grüßen
Neben der massiven Zunahme bereitet es Riedl Sorgen, dass Bilder und Töne aus Videos oder TV inzwischen täuschend echt manipuliert werden können. »Manchmal brauche ich selbst eine oder zwei Sekunden, um zu erkennen, dass ich das nicht sage. Meine Frau vielleicht vier. Menschen, die mich nicht kennen, zweifeln gar nicht erst«, sagte er der Apotheken Umschau. Holzner sieht sich einer Flut von Anfragen oder Beschwerden ausgesetzt, die auf das Konto ihres Fake-Doubles gehen, das erfolgreich so teure wie nutzlose Abnehmpillen bewirbt. Sie ärgert sich, dass die Plattformen an der Fake-Werbung verdienen. Und sie fordert: »Wenn KI-Inhalte mit meinem Gesicht auftauchen, müsste eigentlich sofort Kontakt mit mir aufgenommen werden.« Doch selbst wenn eine Plattform Inhalte löscht, tauchen diese leicht verändert schnell wieder auf – Hase und Igel lassen grüßen.
Verbraucherinnen und Verbraucher sind in gesundheitlichen oder persönlichen Krisensituationen häufig besonders empfänglich für zweifelhafte Gesundheitsversprechen.
Der Missbrauch prominenter Köpfe und Stimmen ist das Eine. Die andere Seite sind die Betrogenen. »Verbraucherinnen und Verbraucher sind in gesundheitlichen oder persönlichen Krisensituationen häufig besonders empfänglich für zweifelhafte Gesundheitsversprechen«, erläutert der Verbraucherzentrale Bundesverband (vzbv). »Ängste und Sorgen werden gezielt angesprochen, um sie zum Erwerb von Produkten zu bewegen, deren Wirksamkeit wissenschaftlich nicht belegt ist und die unter Umständen sogar gesundheitliche Risiken bergen.« Der Fakeshop-Finder der Verbraucherzentralen liefert Informationen, ob ein Anbieter bereits negativ aufgefallen ist. Auch die unabhängige Organisation MedWatch hilft online beim Entlarven großspuriger Heilsversprechen.
Kampagne gegen ›Medfakes‹
»Medfakes verleiten Menschen einerseits dazu, Geld für bestenfalls wirkungslose Präparate auszugeben. Andererseits bringen sie die betrogenen Menschen in Gefahr, wenn sie der Empfehlung nachgehen, die angepriesenen Produkte einnehmen und dafür ihre bisherigen Medikamente absetzen«, sagt der Arzt und Experte für Gesundheitskompetenz Prof. Dr. Kai Kolpatzik. Er befürchtet, dass die Deepfakes auch »das Vertrauen in die evidenzbasierte Medizin, in Ärztinnen und Ärzte sowie öffentliche Institutionen« untergraben und verschwörungstheoretische Narrative fördern – »etwa, dass das Gesundheitssystem und die Pharmaindustrie der Bevölkerung Wissen über wirkungsvolle Produkte vorenthalten«.
Wer bei den dubiosen Anbietern anbeißt, wird häufig von nicht in EU-Ländern ansässigen Callcentern unter Druck gesetzt. Selbst wenn es zu keinem Kauf kommt, können die Strippenzieher immer noch mit geschickt herausgekitzelten Gesundheitsdaten krumme Geschäfte machen. Weil niemand gerne zugibt, Betrügern aufgesessen zu sein, wirbt Kolpatzik dafür, »Betroffene und Betrogene aus der Schamecke herauszuholen. Sichtbarkeit und wertschätzende Kommunikation helfen, damit andere nicht ebenfalls darauf reinfallen.«
›Trusted Flagger‹ melden Verstöße
Für alle in der EU aktiven Online-Dienste setzt seit Anfang 2024 der ›Digital Services Act‹ (DSA) die Regeln. Er sieht vor, dass vertrauenswürdige Hinweisgeber (›Trusted Flagger‹) den Plattformen illegale Inhalte melden können. In Deutschland gehört der vzbv zu den vier von der Bundesnetzagentur zertifizierten Trusted Flaggern. Der Verband meldet regelmäßig rechtswidrige Inhalte. »Darunter befinden sich auch Social-Media-Posts, in denen mit irreführenden Gesundheitsversprechen Produkte beworben werden, wie etwa Nahrungsergänzungsmittel oder KI-generierte Deepfakes«, erläutert vzbv-Digitalexperte Dennis Romberg. Allerdings sind laut DSA allein die Anbieter »dafür verantwortlich, über Mitteilungen zu entscheiden und, soweit gerechtfertigt, Inhalte zu entfernen«. Romberg sieht »dringenden Handlungsbedarf bei der konsequenten Durchsetzung bestehender Regelungen durch die Plattformen«. Zugleich müsse die EU-Kommission die Anbieter zur Einhaltung des DSA verpflichten.
Gesetz schreibt Kennzeichnung vor
Einen Ansatz bietet das neue KI-Gesetz der EU. Seit August müssen Deepfakes und andere mithilfe von KI generierte oder bearbeitete Inhalte eindeutig gekennzeichnet werden. Ausnahmen gelten für Satire, künstlerische oder private Inhalte, wenn sie keine Drittrechte verletzen. Bei Verstößen drohen Bußgelder von bis zu 15 Mio. Euro. Für das Durchsetzen der Transparenzvorschriften ist das KI-Büro der EU-Kommission gemeinsam mit den nationalen Behörden zuständig. Kritiker bemängeln, dass das Verfahren viel zu langsam ist – zumal für Betrüger, die in Echtzeit operieren und sich nicht um Gesetze scheren. Mit dem Gesetz gegen digitale Gewalt will die Bundesregierung den Persönlichkeitsschutz über den EU-Rahmen hinaus verbessern. Der Entwurf sieht als einen von drei neuen Straftatbeständen die ›Verletzung von Persönlichkeitsrechten durch täuschende Inhalte‹ vor. Das Gesetz soll es den Betroffenen erleichtern, gegen Rechteverletzungen vorzugehen, und soll auch juristische Hürden für Account-Sperren senken. Gesundheitskompetenz – ein Teil der Lösung Auch bei der Bundesärztekammer (BÄK) ist das »zunehmende Aufkommen von Fake News und Deepfakes im medizinischen Bereich« ein Thema. Aktuell bereitet die Spitzenorganisation der Ärzteschaft eine Ergänzung ihrer ›Handreichung für Ärztinnen und Ärzte in sozialen Medien‹ vor. Belastbare Erkenntnisse zum konkreten Umfang des Missbrauchs liegen der Kammer nicht vor. Betroffene Ärztinnen und Ärzte will die BÄK jetzt bitten, Vorkommnisse zu dokumentieren und bei den Plattformen anzuzeigen. »Insbesondere bei strukturellen Desinformationsmustern, die über einen Einzelfall hinausgehen«, solle zudem die zuständige Landesärztekammer eingeschaltet werden.
Die Kammer empfiehlt zugleich, Patienten »durch Aufklärung und die Stärkung der Gesundheitskompetenz widerstandsfähiger gegen solche Falschinformationen zu machen«. Ein Anliegen, das Kai Kolpatzik seit Langem umtreibt: »Gesundheitskompetenz ist nicht nur die zentrale Schlüsselqualifikation für ein gesundes Leben, sondern kann im Zusammenspiel mit mehr Medienkompetenz auch dazu beitragen, Medfakes und anderen Onlinebetrügern das Wasser abzugraben.« Doch um die Gesundheitskompetenz ist es hierzulande schlecht bestellt. Laut einer gemeinsamen Studie der Technischen Universität München und des Wort & Bild-Verlages hat sie sich zwischen 2014 und 2024 um 20% verschlechtert. »Drei von vier Erwachsenen haben erhebliche Schwierigkeiten im Umgang mit Gesundheitsinformationen«, warnt Kolpatzik. Deshalb gehöre auch dieses Thema bei der anstehenden Debatte über Strukturreformen im Gesundheitswesen auf den Tisch.
