Sonntagmittag, der Tisch ist noch nicht abgeräumt, da reicht meine Mutter ihr Handy einmal um die Runde. Auf dem Bildschirm ein Video, neun Sekunden lang, ein bekannter Bankvorstand, der in ruhigem Ton erklärt, seine Bank werde ab sofort allen Kundinnen und Kunden einen Bonus von zwanzig Prozent auf Erspartes zahlen. Man müsse sich nur schnell über einen Link registrieren.
„Deine Tante hat das schon fast geglaubt“, sagt meine Mutter und lacht ein bisschen unsicher.
Das Video ist falsch. Der Mann hat das nie gesagt. Kein einziges Wort davon.
Was auf dem Bildschirm lief, war ein Deepfake: Gesicht, Stimme, Mimik, alles künstlich erzeugt aus echtem Bild- und Tonmaterial, das online frei verfügbar war. Interviews, Pressekonferenzen, ein paar Minuten Sprachaufnahme reichen mittlerweile, um ein Gesicht täuschend echt sprechen zu lassen. Sekunde für Sekunde von einer Maschine berechnet, kein einziger echter Moment.
Vor zwei Jahren hätte man so etwas noch an ruckelnden Lippen erkannt, an einem Blinzeln, das nicht passt, an einer Stimme, die zu glatt klingt. Heute reicht das nicht mehr aus. Die Technik ist zu gut geworden.
Seitdem scrolle ich anders durch meine Chats. Keine Trickliste mehr im Kopf, die angeblich jeden Fake entlarvt, so etwas veraltet ohnehin innerhalb weniger Monate. Stattdessen eine einzige Frage, die sich inzwischen fast von selbst meldet, bevor ich irgendetwas glaube.
Woher kommt dieses Video? Wer hat es zuerst gepostet? Berichten seriöse Medien auch darüber, oder taucht die Nachricht nur in der Familiengruppe auf? Fordert das Video zu einer schnellen Handlung auf, Geld überweisen, Daten eingeben, einen Link anklicken? Genau diese Dringlichkeit ist fast immer das Alarmsignal. Echte Ankündigungen von Banken, Behörden oder Unternehmen kommen selten als Neun-Sekunden-Clip in einer Weiterleitung.
Meine Schwester fragt mich, ob es nicht erschöpfend sei, jedes Video zu hinterfragen. Ja, ist es. Aber die Alternative ist schlimmer. Laut dem Bundesamt für Sicherheit in der Informationstechnik hat sich die Zahl gemeldeter Deepfake-Betrugsfälle in Deutschland innerhalb weniger Jahre vervielfacht, von gefälschten Video-Anrufen angeblicher Vorgesetzter bis zu manipulierten Promi-Videos, die zu Fake-Investments locken. Das betrifft nicht nur Prominente. Es betrifft jeden, dessen Gesicht oder Stimme irgendwo öffentlich zu finden ist, und das sind inzwischen die meisten von uns.
Die Europäische Union hat deshalb im AI Act eine Kennzeichnungspflicht für KI-generierte Inhalte verankert. Klingt beruhigend, hilft aber nur, wenn sich auch alle daran halten, und Betrüger halten sich naturgemäß an gar nichts.
Also bleibt am Ende doch der Mensch, der genauer hinschaut. Nicht aus Misstrauen gegen jede Neuigkeit, sondern aus der ruhigen Gewohnheit, kurz innezuhalten, bevor man teilt, klickt oder überweist.
Quellen
• Bundesamt für Sicherheit in der Informationstechnik (BSI, 2025). Deepfakes: Gefahren und Gegenmaßnahmen.
https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Kuenstliche-Intelligenz/Deepfakes/deepfakes_node.html
• Europäische Kommission (2024). EU AI Act: Transparenzpflichten für KI-generierte und manipulierte Inhalte.
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
