Woran erkenne ich KI-Fälschungen bei Bildern, Stimmen und Anrufen?

Was Deepfakes sind und warum sie zunehmen

Ein Deepfake ist ein Bild, ein Video oder eine Tonaufnahme, die mit Künstlicher Intelligenz (KI) erzeugt oder verändert wurde und echt wirken soll. Der Name setzt sich aus Deep Learning, einer Lernmethode von KI, und dem englischen Wort Fake für Fälschung zusammen.

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) unterscheidet bei Gesichtern drei Verfahren: Gesichter in Videos austauschen, die Mimik und Lippenbewegung einer echten Person steuern, und völlig neue Gesichter erfinden, die es gar nicht gibt. Bei Stimmen gibt es zwei Wege. Entweder liest die KI einen beliebigen Text mit der nachgeahmten Stimme vor, oder sie verwandelt die Stimme eines Sprechers in die einer anderen Person.

Dafür braucht es weniger Material, als viele denken. Nach Angaben des BSI genügen für einen Gesichtstausch wenige Minuten gutes Videomaterial. Bei Stimmen lässt sich der Bedarf auf wenige Minuten verkürzen, und die Forschung arbeitet an Verfahren, die mit Sekunden auskommen. Die Verbraucherzentralen beobachten, dass solche Fälschungen inzwischen auch mit kostenlosen Apps und ohne technisches Wissen möglich sind.

Hinweise bei Bildern und Videos

Das BSI nennt typische Fehler, sogenannte Artefakte, die bei manipulierten Gesichtern auftreten können:

Sichtbare Übergänge: Am Rand des Gesichts kann eine Naht zu sehen sein, Hautfarbe oder Hautstruktur wechseln, manchmal schimmern doppelte Augenbrauen durch.

Verwaschene Details: Zähne und Augen wirken oft unscharf, weil die KI scharfe Konturen schlecht nachbildet.

Begrenzte Mimik und unstimmiges Licht: Manche Gesichtsausdrücke oder Lichtverhältnisse gelingen nicht. Dreht sich der Kopf stark zur Seite, wird das Gesicht oft unscharf oder verzerrt.

Die Verbraucherzentralen ergänzen Lippenbewegungen, die nicht ganz zum Gesagten passen, und eine Stimme oder Betonung, die plötzlich anders klingt als gewohnt.

Wichtig ist aber die Warnung der Verbraucherzentralen: Deepfakes werden so gut, dass man sich nicht auf solche technischen Makel verlassen sollte. Ein sauberes Bild ist kein Beweis für Echtheit. Hilfreicher ist oft der Blick auf den Inhalt. Kriminelle nutzen bekannte Gesichter von Prominenten, um für angebliche Geldanlagen, Krypto-Angebote, Diätmittel oder Heilversprechen zu werben. Warnzeichen sind übertriebene Versprechen, fehlende Hinweise in seriösen Medien oder auf den offiziellen Kanälen der Person und Webseiten ohne Impressum.

Hinweise bei Stimmen und Anrufen

Bei künstlich erzeugten Stimmen beschreibt das BSI folgende mögliche Auffälligkeiten: ein metallischer Klang, falsch ausgesprochene Wörter, eine monotone Sprechweise, eine Betonung oder ein Akzent, der nicht zur echten Person passt, seltsame Geräusche und eine spürbare Verzögerung, bevor eine Antwort kommt.

Wie das in der Praxis aussieht, zeigt ein Fall, über den der Bayerische Rundfunk berichtet hat. Eine Seniorin bekam einen Anruf mit unterdrückter Nummer. Am Telefon war angeblich ihre Tochter, die nach einem Unfall weinte, und die Mutter war sich sicher, ihre Stimme zu hören. Danach übernahm eine falsche Polizistin und verlangte Geld. Die Familie wurde misstrauisch, rief die echte Tochter an und erreichte sie beim Einkaufen. Ein Angehöriger fiel zudem auf, weil der Name einer Nachbarstadt falsch ausgesprochen wurde. Die Familie vermutete, dass die Stimmen aus Sprachnachrichten und sozialen Medien stammten.

Das Muster ist das des klassischen Schockanrufs, nur mit gefälschter Stimme. Laut Polizei setzen die Täter auf Angst und Zeitdruck und halten Betroffene teils bis zur Geldübergabe in der Leitung, damit sie mit niemandem sprechen können. Genau dieser Druck ist das deutlichste Warnzeichen, deutlicher als jeder Klangfehler.

Warum Prüf-Apps und Kennzeichnungen nicht reichen

Es gibt Programme, die Deepfakes automatisch erkennen sollen. Das BSI weist aber darauf hin, dass sie oft nur unter bestimmten Bedingungen zuverlässig funktionieren und an neuen Fälschungsverfahren scheitern können. Bei einem großen Wettbewerb im Jahr 2020 lag das beste Erkennungsprogramm nur bei rund 65 Prozent Trefferquote, reines Raten hätte 50 Prozent ergeben. Die Verbraucherzentralen schreiben, dass es bislang keinen verlässlichen Schutz durch solche Werkzeuge gibt.

In der EU gilt seit dem 2. August 2026 Artikel 50 der KI-Verordnung. Danach müssen Anbieter KI-erzeugte Inhalte maschinenlesbar markieren, und wer Deepfakes einsetzt und verbreitet, muss sie in der Regel als künstlich kennzeichnen. Dazu hat die EU-Kommission Leitlinien veröffentlicht. Kriminelle halten sich an solche Regeln aber nicht. Ein fehlendes KI-Etikett beweist also nicht, dass etwas echt ist.

Einen anderen Ansatz verfolgen Herkunftsnachweise wie die Content Credentials. Dahinter steht ein Zusammenschluss namens C2PA, an dem laut eigenen Angaben über 500 Unternehmen beteiligt sind, darunter Adobe, Google und Microsoft. Solche Nachweise können zeigen, wie ein Bild entstanden ist und ob es bearbeitet wurde. Unsere Einordnung: Das ist hilfreich, wenn ein Nachweis vorhanden ist. Viele Bilder haben aber keinen, und auch hier gilt: Fehlt er, ist das kein Beweis für eine Fälschung.

Was wirklich schützt

Weil Fälschungen immer besser werden, lohnt es sich, weniger auf Bildfehler und mehr auf feste Gewohnheiten zu setzen. Die Polizei empfiehlt bei verdächtigen Anrufen:

Sofort auflegen. Das ist nicht unhöflich, sondern verschafft dir Zeit zum Nachdenken.

Selbst zurückrufen, und zwar unter einer Nummer, die du kennst, nicht unter einer, die dir im Gespräch genannt wird.

In der Familie ein Kennwort vereinbaren, das Anrufende in einer Notlage nennen müssen. Die Polizei Oberfranken schlägt außerdem Fragen vor, die nur die echte Person beantworten kann.

Niemals Geld oder Wertsachen an Unbekannte übergeben und keine Angaben zu Vermögen machen.

Bei Verdacht die Polizei über 110 informieren, und nach einem Betrug in jedem Fall Anzeige erstatten.

Für Bilder und Videos im Netz raten die Verbraucherzentralen: nicht auf Anzeigen klicken oder sich dort anmelden, prüfen, ob seriöse Medien über das Video berichten, verdächtige Inhalte mit einem Bildschirmfoto festhalten und über die Meldefunktion der Plattform melden.

Vorbeugend hilft Zurückhaltung mit der eigenen Stimme und dem eigenen Gesicht im Netz. Die Polizei weist darauf hin, dass öffentlich geteilte Sprachaufnahmen und Videos als Material für Fälschungen dienen können. Auch ein gekürzter oder gelöschter Telefonbucheintrag macht es Tätern schwerer.