|
09.09.2026 16:20 Uhr |
KI-generierte Deepfakes mit bekannten Ärztinnen, Ärzten und Medienpersönlichkeiten werden zunehmend genutzt, um fragwürdige Gesundheitsprodukte glaubwürdig wirken zu lassen. Für Nutzerinnen und Nutzer wird es damit schwieriger zu erkennen, ob ein Video, eine Stimme oder ein angebliches Expertenzitat echt ist – oder Teil einer betrügerischen Werbekampagne.
„Was auf uns zukommt, ist so viel größer als das, über das wir momentan diskutieren. Und ich glaube, dass es ein riesiges gesellschaftliches Thema sein wird […]. Es ist nicht nur gesundheitsgefährdend, sondern auch demokratiegefährdend“, sagte Andreas Arntzen, Vorsitzender der Geschäftsführung der Wort & Bild Verlagsgruppe, bei einer Diskussionsrunde zur Initiative #StopMedFakes der Apotheken Umschau.
Ein bekanntes Gesicht, eine vertraute Stimme oder ein vermeintlich medizinisch fundierter Rat reichen oft aus, um einer Anzeige Glaubwürdigkeit zu verleihen. Genau darauf setzen Anbieter zweifelhafter Abnehmprodukte, Nahrungsergänzungsmittel und angeblicher Wundermittel. Sie verwenden Bilder, Namen und Stimmen bekannter Ärztinnen, Ärzte, Journalistinnen oder Wissenschaftsjournalisten, um den Eindruck zu erwecken, ein Produkt sei medizinisch geprüft oder öffentlich empfohlen worden.
Oft handelt es sich um manipulierte Inhalte: Ausschnitte aus echten Interviews werden in neue Zusammenhänge gesetzt, Bilder nachbearbeitet oder Stimmen mit Künstlicher Intelligenz imitiert. Die Personen, die darin zu sehen oder zu hören sind, haben das beworbene Produkt häufig nie getestet, empfohlen oder überhaupt erwähnt.
Das Problem ist damit nicht nur ein Fall von Identitätsmissbrauch, sondern Teil eines skalierbaren Werbe- und Betrugsmodells: Mit automatisiert erzeugten Anzeigen, Zielgruppenansprache und täuschend echt wirkenden Landingpages lassen sich Fakes schnell vervielfältigen und ausspielen. Damit wird eine Unterscheidung schwieriger, die lange selbstverständlich schien: Ist das, was ich sehe, echt? Hat diese Person das wirklich gesagt? Ist das eine journalistische Information, Werbung – oder gezielte Täuschung?
Arntzen zufolge gehe es nicht um wenige isolierte Anzeigen oder um einen einzelnen unseriösen Online-Shop. Gesundheitsbezogene Falschinformationen erreichten über soziale Netzwerke, Suchmaschinen und digitale Werbeumfelder ein großes Publikum. Mit den technischen Fortschritten bei KI-generierten Bildern, Videos und Stimmen wachse zudem die Geschwindigkeit, mit der solche Inhalte produziert und verbreitet werden könnten.
Wer eine große Reichweite habe, müsse verständlich erklären, wie Gesundheitsfakes funktionieren und warum sie gefährlich werden können. Aufklärung sei dabei auch Teil des Verbraucherschutzes. Die Folgen betreffen nicht nur Personen, deren Gesicht oder Stimme missbraucht wird. Wer ein vermeintliches Wundermittel bestellt, kann Geld verlieren, möglicherweise gesundheitsschädliche Produkte einnehmen oder eine wirksame Behandlung verzögern beziehungsweise abbrechen. Die Grenze zwischen einem unseriösen Verkaufsversprechen und einem realen Gesundheitsrisiko kann dabei schnell verschwimmen.
Dr. Julia Fischer, Ärztin und Medfluencerin, berichtete von gefälschten Anzeigen, in denen ihr Gesicht für angebliche Abnehmprodukte eingesetzt wurde. Darin würden teils spektakuläre Studienergebnisse angepriesen oder bekannte Persönlichkeiten als vermeintliche Unterstützer präsentiert. Die Absurdität mancher Zusammenstellungen sei auf den ersten Blick erkennbar, sagte Fischer. Zugleich zeige die Verbreitung solcher Inhalte, dass sie bei vielen Menschen dennoch funktionieren. Das liege auch daran, dass Gesundheitsfragen selten rein sachlich entschieden würden. Krankheit, Übergewicht, Schmerzen oder die Angst vor einer Diagnose seien Situationen, in denen Menschen besonders empfänglich für schnelle Lösungen seien. Wer lange nach Hilfe gesucht hat oder sich mit einem Problem allein gelassen fühlt, kann sich von dem Versprechen angesprochen fühlen, es gebe doch noch einen einfachen Ausweg.
Fischer riet zu einem kurzen Moment des Innehaltens – gerade dann, wenn Inhalte starke Emotionen auslösen. „Wenn es Ekel oder Angst erregt, ist das ein Punkt. Und immer dann, wenn wir denken: Wow, kann das stimmen? Dann müssen wir innehalten“, sagte sie. Auch ein Verkaufsinteresse sei nicht per se verkehrt, aber ein Anlass zum Gegencheck. Entscheidend sei, nicht unmittelbar zu klicken, zu kaufen oder die eigene Behandlung zu verändern, sondern die Information über weitere Quellen einzuordnen.
Der Rat klingt einfach, ist im Alltag aber nicht immer leicht umzusetzen. Während bei der Buchung einer Reise viele Menschen Preise, Bewertungen und Plattformen vergleichen, treffen sie im Gesundheitsbereich häufig unter Zeitdruck oder emotionaler Belastung auf Informationen. Dazu kommt, dass Fakes professionell gestaltet sein können: mit Logos, vermeintlichen Medienzitaten, wissenschaftlich wirkenden Grafiken und vertrauten Gesichtern.
Wie ernst die Folgen medizinischer Desinformation sein können, verdeutlichte Dr. Eckart von Hirschhausen. Der auch als Moderator bekannte Arzt warnte davor, dass Menschen wirksame Behandlungen aus Misstrauen unterlassen oder auf fragwürdige Präparate setzen. Sichtlich berührt erinnerte er an seine Zeit als Kinderarzt und daran, wie Masern-Spätfolgen das Gehirn von Kindern schrumpfen ließen – man stehe dann am Bett und könne nichts mehr tun.
Hirschhausen selbst ist seit Jahren Opfer gefälschter Werbeanzeigen – unter anderem für angebliche Abnehmprodukte und Medikamente. Dabei werde nicht nur sein Bild missbraucht, sondern vor allem die Glaubwürdigkeit, die er sich über viele Jahre erarbeitet habe. Auf Werbeverträge habe er seit zwei Jahrzehnten bewusst verzichtet – und nun machten andere mit genau dieser Glaubwürdigkeit Geschäfte.
Medizinische Risiken müssen klar benannt werden. Gleichzeitig profitieren gerade irreführende Inhalte davon, dass sie Gefühle schneller ansprechen als differenzierte Erklärungen. Wer im Netz Orientierung sucht, steht deshalb oft vor der schwierigen Aufgabe, nicht nur Fakten zu prüfen, sondern auch die Wirkung einer Botschaft auf sich selbst einzuordnen.
Für Hirschhausen gehe es bei Deepfakes um mehr als den Missbrauch einzelner Persönlichkeiten. Wenn Videos, Bilder und Stimmen nicht mehr zuverlässig als echt gelten könnten, verliere eine wichtige Grundlage der öffentlichen Kommunikation an Stabilität. Was lange als naheliegender Beleg galt – „Ich habe es mit eigenen Augen gesehen“ –, werde im digitalen Raum zunehmend wertlos. Noch schwerer wiege für ihn die Manipulation von Stimmen: Heute reiche eine Stimmprobe von wenigen Sekunden, um jemanden täuschend echt nachzuahmen. Dabei sei gerade die Stimme das, woran Menschen einander erkennen.
Das kann nach seiner Einschätzung weitreichende Folgen haben. Wer wiederholt mit Fälschungen konfrontiert wird, zweifelt möglicherweise nicht nur an fragwürdiger Werbung, sondern irgendwann auch an seriösen journalistischen Angeboten, medizinischen Empfehlungen oder öffentlichen Institutionen. Damit wird die Frage nach der Echtheit eines Videos schnell zu einer Frage nach gemeinsamen Fakten.
Anna-Lena von Hodenberg, Mitgründerin von HateAid, hob ebenfalls den Vertrauensverlust hervor. Wenn Menschen sich nicht mehr auf Informationen verlassen könnten, werde es schwieriger, sich gesellschaftlich auf eine gemeinsame Realität zu verständigen. Das mache Menschen empfänglicher für Desinformation, Betrug und politische Manipulation.
Und auch die Inhalte etablierter Medien sind nicht frei von KI-generierten Inhalten. So verwendete das ZDF im „heute journal“ ein KI-generiertes Video, das eine Festnahme zeigte, die es so nicht gegeben hatte – erkennbar am eingeblendeten Logo des OpenAI-Videogenerators Sora, aber ohne Kennzeichnung durch den Sender. Das ZDF räumte den Fehler ein, entschuldigte sich am 17. Februar 2026 im heute journal und stellte den Beitrag richtig. Das zeigt, dass selbst dort, wo Redaktionen ausdrücklich vor Fälschungen warnen, KI-Material in die Produktionskette geraten kann.
KI ist, wie beispielsweise der Philosoph Rainer Mühlhoff bereits in früheren Diskussionen betont hatte, nicht bloß ein neutrales Werkzeug, sondern wird in konkreten wirtschaftlichen und gesellschaftlichen Strukturen entwickelt und eingesetzt. Wer über Daten, Reichweite, Werbesysteme und technische Infrastruktur verfügt, kann beeinflussen, welche Inhalte sichtbar werden und welche Interessen damit verbunden sind.
Die Forderung nach mehr Medien- und Gesundheitskompetenz ist zwar richtig, sie stößt jedoch dort an Grenzen, wo Informationen selbst für geübte Beobachterinnen und Beobachter schwer einzuordnen sind. Im Gesundheitsbereich ändern sich Studienlagen, Empfehlungen werden aktualisiert, Zuständigkeiten liegen bei unterschiedlichen Institutionen. Aussagen von Ministerien, Behörden, Fachgesellschaften, Krankenkassen oder wissenschaftlichen Einrichtungen können sich in Ton, Zeitpunkt und Schwerpunkt unterscheiden. Für Außenstehende kann das widersprüchlich wirken – selbst dann, wenn die Unterschiede fachlich erklärbar sind oder sich aus neuen Erkenntnissen ergeben.
Das gilt auch für die Kommunikation öffentlicher Stellen, etwa wenn Aussagen aus einem Ministerium wie dem Bundesministerium für Gesundheit und Einschätzungen von Fachverbänden unterschiedlich wahrgenommen werden. Für Journalistinnen und Journalisten ist es bereits eine anspruchsvolle Aufgabe, Antworten einzuholen, Quellen gegeneinander abzuwägen, offene Fragen kenntlich zu machen und Veränderungen in der Faktenlage nachvollziehbar zu erklären. Wenn Presseanfragen nur verzögert, knapp oder nicht eindeutig beantwortet werden, macht das die Einordnung nicht leichter.
Für gewöhnliche Nutzerinnen und Nutzer ist diese Lage erst recht herausfordernd. Wer keine Zeit, keine Rechercheerfahrung und kein medizinisches Vorwissen hat, kann kaum beurteilen, ob es sich bei unterschiedlichen Aussagen um einen tatsächlichen Widerspruch, eine noch offene wissenschaftliche Frage oder lediglich um verschiedene Perspektiven handelt. Genau diese Unsicherheit wird im Netz oft ausgenutzt: Unseriöse Anbieter präsentieren einfache Antworten dort, wo seriöse Medizin notwendigerweise differenzieren muss.
Das ist einer der Gründe, warum transparente Kommunikation so wichtig ist. Seriöse Stellen müssen nicht den Eindruck vermitteln, auf jede Frage sofort eine endgültige Antwort zu haben. Glaubwürdiger ist oft, klar zu benennen, was gesichert ist, wo Unsicherheiten bestehen und warum Empfehlungen sich mit neuen Erkenntnissen ändern können. Wissenschaftliche Korrektur ist kein Zeichen von Beliebigkeit – sie ist Teil eines Systems, das Erkenntnisse überprüft und weiterentwickelt.
Erschwerend kommt hinzu, dass fragwürdige Anzeigen nicht nur in sozialen Netzwerken auftauchen. Fischer berichtete, dass gefälschte Werbung mit ihrem Gesicht auch im automatisiert ausgespielten Werbeumfeld etablierter Medien erschienen sei, unter anderem bei bekannten Tageszeitungen und Magazinen. Sie habe die Redaktionen einzeln angeschrieben; teilweise habe es mehrere Anläufe gebraucht, bis die Anzeigen verschwanden. Für Leserinnen und Leser ist die Unterscheidung damit noch schwieriger: Wenn ein Fake im gewohnten Umfeld einer seriösen Publikation ausgeliefert wird, überträgt sich deren Glaubwürdigkeit unbeabsichtigt auf die Werbung.
Von Hodenberg schilderte den Fall einer Klientin, bei der sexualisierte Inhalte gegen ihren Willen ins Netz gestellt wurden. Über einen Zeitraum von rund drei Jahren seien in der Beratung etwa 1.500 Inhalte zusammengekommen, weil dieselben Aufnahmen immer wieder auf wechselnden Seiten auftauchten. Die Plattformen seien nicht verpflichtet, aktiv nach diesen Kopien zu suchen. Stattdessen müsse die betroffene Person selbst regelmäßig danach fahnden, jeden Fund melden und um Löschung bitten. Einen Fall, in dem sämtliche Inhalte dauerhaft aus dem Netz verschwunden seien, kenne sie aus ihrer Beratungspraxis nicht.
Aus technischer Sicht wirkt das schwer nachvollziehbar. Es handelt sich vielfach um identische oder nur leicht veränderte Dateien, die sich per Hash-Abgleich oder Ähnlichkeitssuche automatisiert wiedererkennen ließen – Verfahren, die Plattformen bei Urheberrechtsverletzungen, Spam oder bekannten Missbrauchsdarstellungen längst einsetzen. Dass ausgerechnet bei Deepfakes und Fake-Werbung weiterhin überwiegend das manuelle Melden durch Betroffene den Ausschlag gibt, ist damit weniger eine Frage des technisch Möglichen als eine der Priorisierung.
Wie stark öffentlicher Druck wirkt, zeigte sich im vergangenen Jahr am Fall der Moderatorin Collien Fernandes, die sexualisierte Deepfakes von sich öffentlich gemacht hat. Von Hodenberg verwies darauf, dass dieses Phänomen seit Jahren bekannt sei und viele Betroffene aus Scham schwiegen. Erst ein prominenter Fall habe die Debatte breiter in die Öffentlichkeit getragen. Das ist bemerkenswert – und zugleich ein strukturelles Problem: Wenn Reaktionen vor allem dann erfolgen, wenn Betroffene Reichweite mitbringen, bleiben alle anderen weitgehend auf sich gestellt.
Die technische Asymmetrie sei offensichtlich. Fälschungen können automatisiert erstellt, ausgespielt und vervielfältigt werden. Dagegen stehen häufig einzelne Menschen, die ihre Identität, ihren Ruf und ihre Sicherheit verteidigen müssen. Arntzen betonte, dass die großen Konzerne – er nannte Meta, Microsoft und Amazon – technologisch durchaus in der Lage wären, genau das zu stoppen. In der Praxis müssten Betroffene jedoch oft selbst tätig werden.
Prominente können sich dabei zumindest anwaltliche Unterstützung leisten, öffentlich Druck aufbauen oder Redaktionen direkt kontaktieren. Hirschhausen etwa habe zwei Jahre gegen Meta prozessiert und gewonnen – über einen Anwalt in Irland, weil es in Deutschland nicht einmal eine Anlaufstelle gebe. Geholfen habe es wenig: Die Zahl der Fake-Anzeigen mit seinem Gesicht sei seit Veröffentlichung seiner ARD-Dokumentation im Mai von rund 2.000 auf 4.700 gestiegen. Für Privatpersonen ohne juristische Beratung, ohne Reichweite und ohne Zeit ist derselbe Weg deutlich schwerer: Wer eine Fälschung entdeckt, muss Zuständigkeiten recherchieren, Meldeformulare finden, Fristen im Blick behalten und häufig mit standardisierten Antworten umgehen. Dieser Aufwand steht in keinem Verhältnis zu den wenigen Klicks, mit denen solche Inhalte erzeugt werden.
Dass hinter solchen Betrugsmodellen arbeitsteilige und professionell organisierte Strukturen stehen können, zeigen auch Ermittlungen im Bereich des Cybertrading-Betrugs. Dort richtete sich eine internationale Razzia nicht nur gegen Callcenter, sondern auch gegen Akteure, die mit gefälschter Prominentenwerbung Daten potenzieller Opfer generiert und weiterverkauft haben sollen.
Es fehlt damit nicht allein an Regeln. Der Umgang mit Deepfakes und betrügerischen Anzeigen ist ebenso ein Umsetzungsproblem: Meldewege sind für Betroffene oft aufwendig, Reaktionen können lange dauern, und entfernte Inhalte tauchen nicht selten erneut auf. Gerade bei großen Plattformen wie Meta entsteht so der Eindruck, dass zwar punktuell gehandelt wird, die Verfahren aber mit dem Tempo und der Skalierung der Fälschungen bislang nicht Schritt halten, und das, obwohl sie über die notwendigen Ressourcen verfügen.
Dr. Klaus Reinhardt, Präsident der Bundesärztekammer, verwies auf den Aufwand, den der Staat bei Bagatellen wie Falschparken betreibe – bis hin zu Bescheiden an Halter im Ausland –, während beim Vollzug gegen Deepfakes vergleichsweise wenig geschehe. Es brauche nicht nur einen gesetzlichen Rahmen, sondern auch dessen Durchsetzung.
Hirschhausen kritisierte, dass die Konzerne nach seiner Schätzung Werbevolumen in Höhe von Hunderten Milliarden Euro aus Europa abziehen, hier kaum Steuern zahlen und dass es keine Gesetze gebe, die sie wirksam in die Pflicht nähmen. „Wie lange wollen wir da noch zugucken?“, fragte er. Persönlichkeitsrechte allein hält er für einen schwachen Hebel; wirksamer wären aus seiner Sicht Markenschutz und Wettbewerbsrecht sowie eine Aktualisierung von Gesetzen, die aus vordigitaler Zeit stammten.
Auch zusätzliche Vorgaben auf EU-Ebene wären keine automatische Lösung. Digital Services Act, Digital Markets Act und KI-Verordnung schaffen zwar neue Pflichten und Aufsichtsstrukturen. Ihre Wirkung hängt jedoch davon ab, ob Verstöße erkannt, Verfahren zügig geführt und Anordnungen durchgesetzt werden. Bisherige Verfahren gegen große Plattformen zeigen, wie langwierig das sein kann – und wie viel juristische und technische Kapazität aufseiten der Konzerne bereitsteht. Hinzu kommt der politische Einfluss der Branche: Auswertungen von LobbyControl und Corporate Europe Observatory auf Basis des EU-Transparenzregisters weisen die Digitalwirtschaft seit Jahren als ausgabenstärkste Konzernlobby in Brüssel aus – zuletzt mit rund 151 Millionen Euro Lobbyausgaben pro Jahr, wobei Meta mit zehn Millionen Euro als Spitzenreiter gilt.
Deshalb plädierte von Hodenberg für verbindlichere Regeln. Plattformen dürften nicht erst dann reagieren, wenn ein Inhalt öffentlich Aufmerksamkeit erlange oder Betroffene jede einzelne Kopie nachweisen könnten. Wenn Geschäftsmodelle auf Reichweite und Werbeerlösen basierten, müsse auch die Verantwortung für die Folgen dieser Reichweite klarer geregelt werden.
Reinhardt richtete den Blick auf die Folgen für die medizinische Versorgung. Viele Patientinnen und Patienten informierten sich heute vor einem Arztbesuch online. Das sei grundsätzlich nicht negativ. Gut aufbereitete Informationen könnten helfen, Beschwerden besser zu verstehen und Fragen für das Gespräch in der Praxis vorzubereiten. Er empfinde es in seiner ärztlichen Tätigkeit als angenehm, wenn Patienten vorinformiert seien, weil ein Gespräch darauf aufbauen könne – und diese besser verstünden, warum sie ein Medikament einnehmen sollten oder auch nicht.
Problematisch werde es, wenn Menschen mit falschen oder manipulativen Informationen in die Praxis kämen. Dann müsse zunächst geklärt werden, welche Annahmen zuträfen und welche Behauptungen korrigiert werden müssten. Erst danach könne über Diagnosen, Therapien oder Medikamente gesprochen werden. Das koste Zeit und könne das Verhältnis zwischen Patient und Arzt belasten.
Reinhardt geht davon aus, dass der persönliche Kontakt dadurch zugleich wieder an Bedeutung gewinnen könnte. Eine Ärztin oder ein Arzt in der Praxis, eine Apothekerin oder ein Apotheker vor Ort seien greifbare Ansprechpartner. Dort lasse sich nachfragen, ob ein Angebot seriös ist, ob ein Medikament tatsächlich zugelassen ist oder ob eine Empfehlung medizinisch plausibel erscheint.
Helfen könnte seiner Ansicht nach der Ausbau digitaler Ersteinschätzungsangebote, die von Krankenkassen, Ärzteorganisationen, dem Gemeinsamen Bundesausschuss (G-BA) und dem Bundesgesundheitsministerium gemeinsam getragen und validiert werden. Solche Angebote könnten Menschen Orientierung geben, bevor sie in Suchmaschinen oder sozialen Netzwerken auf kommerzielle und möglicherweise irreführende Inhalte stoßen.
Trotz aller Kritik an Plattformen und Algorithmen plädierten die an der Diskussion Beteiligten nicht dafür, sich aus sozialen Netzwerken zurückzuziehen. Gerade jüngere Menschen begegneten Nachrichten und Gesundheitsinformationen häufig in ihren Feeds – oft nicht, weil sie gezielt danach suchten, sondern weil sie zwischen Unterhaltungsinhalten auftauchten. Fischer betonte, dass es keine Lösung sei, seriöse Informationen vollständig aus diesen Räumen abzuziehen. Wer dort nicht präsent sei, überlasse die Aufmerksamkeit denjenigen, die vereinfachen, zuspitzen oder täuschen. Es brauche deshalb Formate, die verständlich kommunizieren, ohne wissenschaftliche Standards aufzugeben.
Laut Arntzen müsse es sich immer lohnen, die Wahrheit zu sagen. Auch wenn Desinformation schneller Reichweite erziele und oft einfacher zu erzählen sei, dürfe man ihr das Feld nicht überlassen. Aufklärung, seriöser Journalismus und medizinische Kommunikation müssten sichtbar bleiben – gerade dort, wo Menschen ohnehin nach Orientierung suchen.
Gerade bei gut gemachten KI-Videos oder geklonten Stimmen kann es inzwischen schwierig sein, Manipulationen allein anhand sichtbarer Fehler zu erkennen. Umso wichtiger ist es, den Kontext eines Beitrags zu prüfen – also Absender, Quelle, Anlass und mögliche Verkaufsinteressen.
(mack)