Montagmorgen, 8 Uhr. Du schlürfst gerade deinen ersten Kaffee, als ein unerwarteter Teams-Anruf eingeht. Dein Chef erscheint auf dem Bildschirm, ernst und fast panisch. Er braucht dringend 10.000 €, um ein sensibles Projekt im Ausland zu retten. Du leitest die Überweisung ein. Schließlich erkennst du seine Stimme, sein Gesicht und selbst seine Mimik und Gestik wirken absolut vertraut.
Doch was, wenn dieser Anruf nie echt war?
Solche Fälle sind längst keine Fiktion mehr. 2024 wurde ein Mitarbeiter in Hongkong mit ebenso einem Deepfake getäuscht. In einer Videokonferenz mit vermeintlichen Kollegen und Vorgesetzten wies man ihn an, 25 Millionen US-Dollar zu überweisen. Das Geld blieb verschwunden.1
Deepfakes – Wenn die Grenzen zwischen Wahrheit und Lüge verschwimmen
Deepfakes sind mithilfe Künstlicher Intelligenz (KI) erzeugte, täuschend echte Fälschungen von Stimmen, Bildern oder Videos. Möglich wird das durch spezielle Modelle der generativen KI (GenAI), die beispielsweise gelernt haben, Sprache, Gesichtsausdrücke und Bewegungen zu imitieren. Damit lassen sich Menschen über verschiedene Medien hinweg nahezu perfekt kopieren – auch ohne ihre Zustimmung.
Aktuelles Videobeispiel: Finanzanalyst durch Deepfake auf Facebook imitiert
Ein Vorfall von 2024 verdeutlicht die Gefahren von Deepfakes: Der renommierte Finanzanalyst Michael Hewson wurde Opfer eines solchen Betrugs. Auf Facebook kursierte ein Video, in dem Hewson scheinbar für eine WhatsApp-Gruppe wirbt, die schnelle Investitionsgewinne verspricht. Dabei wurden sowohl sein Bild als auch seine Stimme mithilfe künstlicher Intelligenz manipuliert, um potenzielle Opfer zu täuschen.
Hewson stellt klar, dass er nie solche Angebote über WhatsApp machen würde. Meta, das Mutterunternehmen von Facebook, hat das Video inzwischen entfernt und arbeitet daran, solche betrügerischen Inhalte schneller zu identifizieren und zu löschen.2
Täuschend echt am Telefon: Die neue Gefahr durch Deepfake-Anrufe
Nicht nur Videos sind betroffen, auch Anrufe lassen sich heute täuschend echt fälschen. Bei sogenannten Deepfake-Anrufen nutzen Betrüger KI-gestützte Sprachmodelle, um sich als Angehörige, Kolleg:innen oder Vorgesetzte auszugeben. Die Stimme klingt vertraut, der Inhalt wirkt dringend und die Angst um seine Liebsten wird schamlos ausgenutzt. In Deutschland gab es zuletzt mehrere Fälle, in denen vermeintliche Familienmitglieder am Telefon um Hilfe baten – tatsächlich KI Fälschungen.
Wie erkennt man solche Deepfake-Anrufe rechtzeitig?
Typisch ist eine hohe Dringlichkeit: Die Anrufer setzen ihr Gegenüber unter Druck, schnell zu handeln, oft mit angeblichen Notfällen. Die Stimme klingt zwar vertraut, wirkt aber manchmal leicht unnatürlich – emotionslos oder monoton. Auch kleine Verzögerungen oder das wiederholte Ausweichen auf konkrete Rückfragen können Hinweise sein. Wer unsicher ist, sollte das Gespräch beenden und über eine bekannte Nummer zurückrufen oder eine Rückversicherung bei Kolleg:innen oder Angehörigen einholen.3
Gefährliche Täuschung: Wie KI-Desinformation gezielt Meinung manipuliert
Moderne KI-Modelle wie LLMs oder Diffusionsmodelle kommen immer häufiger in Desinformationskampagnen zum Einsatz. Sie erzeugen täuschend echte Fake-News, Videos oder Social-Media-Beiträge. Das Ziel: Unsicherheit stiften, Meinungen beeinflussen oder demokratische Prozesse gezielt untergraben. Eine besondere Gefahr besteht dadurch, dass beinahe jede Information über uns in den sozialen Medien verfügbar ist, denn KI-Modelle können Menschen nachweislich besonders dann überzeugen, wenn sie Zugriff auf ihre persönlichen Daten haben.
DeepSeek: Zwischen Zensur und Desinformation
Ein aktuelles Beispiel ist das chinesische KI-Modell DeepSeek. Es zensiert nachweislich sensible Themen und vertritt pro-chinesische Positionen. Selbst in der quelloffenen Version lassen sich diese Einschränkungen nur schwer entfernen. Damit steht DeepSeek im Verdacht, gezielt für staatliche Propaganda und Meinungslenkung genutzt zu werden.4
Fazit: Vertrauen ist gut – Kontrolle ist überlebenswichtig
Ob manipulierte Videos, Anrufe oder Nachrichten: Digitale Täuschung wird raffinierter – und gefährlicher. Wer Inhalte nicht hinterfragt, riskiert, Opfer moderner Betrugsmaschen zu werden.
Unternehmen wie auch Privatpersonen müssen sich mit KI-Risiken auseinandersetzen. Es braucht technische Schutzmaßnahmen – und vor allem eins: kritisches Denken, auch wenn die Stimme vertraut klingt.
