KI-Stimme erkennen: Merkmale, Tests und ihre Grenzen

Das University College London hat 2023 einen einfachen Test gemacht. Die Forschenden erzeugten je 50 künstliche Sprachclips auf Englisch und auf Mandarin, spielten sie 529 Menschen vor und fragten, welche synthetisch seien. Die Trefferquote lag bei 73 Prozent. Training, worauf man achten soll, verbesserte das nur minimal. Die Autoren wiesen außerdem darauf hin, dass ihre Clips aus vergleichsweise alten Sprachmodellen stammten.

Diese Leute wussten, dass Fälschungen kommen. Bei einem normalen Anruf weißt du das nicht. Die nützlichere Frage lautet deshalb nicht „Kann ich es hören?”, sondern „Was kann ich im Gespräch tun, womit eine geklonte Stimme schlecht zurechtkommt?”.

Was KI-Stimmen noch falsch machen

Das BSI listet die Artefakte auf, die seine Fachleute in synthetischer Sprache beobachten (BSI):

• ein metallischer Klang
• falsche Aussprache, etwa von Fremdwörtern bei einem Modell, das auf Deutsch trainiert wurde
• monotone Sprechweise
• ein Akzent oder eine Betonung, die nicht zur echten Person passt
• unnatürliche Geräusche, zum Beispiel wenn ein Text-to-Speech-System einen zu langen Satz bekommt oder ein Stimmwandler auf Stille trifft
• eine spürbare Verzögerung bei Echtzeitsystemen, weil der Inhalt erst gesprochen werden muss, bevor er umgewandelt werden kann

Die Teilnehmenden der UCL-Studie beschrieben ihre eigenen Hinweise. Englischsprachige nannten am häufigsten das Atmen. Mandarin-Sprechende achteten auf Rhythmus und Pausen zwischen Wörtern. Beide Gruppen schnitten etwa gleich gut ab. Das spricht dagegen, dass es das eine sichere Merkmal gibt.

• Klang: metallisch, leicht hohl oder zu sauber für eine Handyverbindung
• Rhythmus: gleichmäßiges Tempo ohne Zögern oder Pausen an seltsamen Stellen
• Atmung: kein Luftholen bei langen Sätzen oder wie eingefügt klingende Atemzüge
• Betonung: Wörter, die die Person nie so betonen würde
• Namen: Stolpern über Familiennamen, Orte oder Fremdwörter
• Verzögerung: vor jeder Antwort ein Moment Stille, auch bei kurzen
• Hintergrund: Geräusche, die zwischen den Sätzen schlagartig verstummen

Jedes Merkmal kann eine harmlose Ursache haben. Schlechte Mobilfunkverbindungen lassen echte Stimmen blechern und verzögert klingen. Stress und Angst verändern, wie Menschen sprechen. Du suchst nach einer Häufung.

Tests, die im Live-Gespräch funktionieren

Echtzeit-Stimmwandler haben eine Schwäche: Sie müssen Sprache erst verarbeiten, bevor sie die geklonte Version ausgeben. Vorproduzierte Clips haben eine andere: Sie können nicht auf etwas reagieren, das der Betrüger nicht vorhergesehen hat. Beides lässt sich ohne Technik testen.

Kriterium	Entlarvt Echtzeit-Umwandlung	Entlarvt vorproduzierte Clips
Mitten im Satz unterbrechen und Thema wechseln	teilweise
Frage, die nur die echte Person beantworten kann
Um einen albernen, selbst gewählten Satz bitten	teilweise
Nach dem Familien-Codewort fragen
Auflegen und unter gespeicherter Nummer zurückrufen

Vorproduzierte Clips sind beim Schockanruf üblich. Die geklonte Stimme weint ein paar Sätze, dann übernimmt eine zweite Person. Beantwortet der angebliche Angehörige nie eine direkte Frage oder wird genau in dem Moment übergeben, in dem du eine stellst, ist das ein starkes Signal. Echtzeitsysteme können antworten, hängen aber nach und werden beim Unterbrechen schlechter.

Die letzten beiden Zeilen hängen überhaupt nicht von der Tonqualität ab. Wie du ein Codewort einrichtest, steht im Ratgeber Codewort für die Familie. Den Rückruf beschreibt der Artikel zum Schockanruf mit KI-Stimme.

Der Inhalt verrät oft mehr als der Klang

Betrüger können eine Stimme klonen. Das Wissen eines Menschen zu klonen ist viel schwerer. Viele gefälschte Anrufe scheitern am Inhalt, bevor jemandem der Klang auffällt: der „Enkel”, der seine Oma mit Vornamen anspricht, die „Chefin”, die den internen Projektnamen nicht kennt, der „Kollege”, der siezt, obwohl ihr euch seit Jahren duzt.

Achte auch auf den Kanal. Würde deine Tochter von einer unbekannten Nummer anrufen, ohne vorher zu schreiben? Würde dein Finanzchef um 19 Uhr per WhatsApp eine Überweisung anordnen? Anfragen über einen ungewöhnlichen Weg verdienen dasselbe Misstrauen wie eine seltsame Stimme, und das lässt sich leichter beurteilen. Eile, Geheimhaltung und eine ungewöhnliche Zahlungsart zusammen sind das klassische Betrugsmuster, egal wie die Stimme klingt.

Aufnahmen und Sprachnachrichten prüfen

Aufnahmen verschaffen dir Zeit. Hör sie mit Kopfhörern, erst in normaler Geschwindigkeit, dann verlangsamt. Viele Audioprogramme, auch das kostenlose Audacity, zeigen ein Spektrogramm. Synthetische Sprache zeigt dort manchmal auffällig saubere Lücken zwischen Wörtern oder abgeschnittene hohe Frequenzen. Spektrogramme sicher zu deuten braucht aber Übung, und die Komprimierung im Telefonnetz erzeugt ähnliche Muster. Betrachte es als Kuriosität, nicht als Beweis.

Ein konkreteres Signal liefert die Gemini-App. Lad die Datei hoch und frag, ob sie mit Google-KI erstellt wurde. Googles SynthID-Prüfung deckt Audiodateien bis zu einer Stunde ab (Gemini-Hilfe). Ein Treffer bedeutet, dass Googles Werkzeuge den Ton erzeugt oder bearbeitet haben. Kein Treffer sagt über andere Generatoren nichts.

Manche Anbieter von KI-Stimmen bieten Prüfwerkzeuge an, die erkennen, ob ein Clip aus ihrem eigenen Dienst stammt. Die sind auf dieselbe enge Art nützlich: Sie können ihr eigenes Produkt bestätigen, aber keine fremden ausschließen.

Warum Erkennungstools enttäuschen

Allgemeine Audio-Deepfake-Detektoren haben dasselbe Problem wie Bild- und Videodetektoren. Sie lernen die Fingerabdrücke der Generatoren aus ihren Trainingsdaten, und jede neue Generation von Stimmmodellen verändert diese Abdrücke. Das BSI schreibt, dass automatische Verfahren schlecht verallgemeinern und sich durch gezielt angepasste Fälschungen täuschen lassen.

Telefonton macht es schlimmer. Gespräche werden auf ein schmales Frequenzband komprimiert, was viele Details entfernt, auf die Detektoren und Menschen angewiesen sind. Clips, die ein Detektor in Studioqualität klar markiert, können nach dem Weg durchs Mobilfunknetz unauffällig wirken.

Privat heißt das: Tools als zweite Meinung für Aufnahmen nutzen, nie als Urteil über ein Live-Gespräch. Für Firmen mit vielen Anrufen, etwa Banken und Kundenservice, kann Erkennung eine Schicht unter mehreren sein. Wer so eine Prüfung in ein Contact Center einbauen will, kann mit einem Studio wie OnlineBuilders sprechen, zusammen mit Abläufen, die nicht davon abhängen, dass das Modell recht hat.

Vorbeugen: weniger Material, weniger Angriffsfläche

Je weniger saubere Sprachaufnahmen von dir öffentlich herumliegen, desto schwerer wird ein guter Klon. Das FBI rät, Profile mit Videos und Sprachaufnahmen auf privat zu stellen. Ersetz außerdem eine persönliche Mailbox-Ansage durch die Standardansage des Anbieters, denn jeder, der dich anruft, kann sie mitschneiden.

Bietet deine Bank eine Anmeldung per Stimme an, frag nach Alternativen wie einer Bestätigung in der App. Das FBI nennt Stimm-Authentifizierung bei Bankkonten ausdrücklich als Angriffsziel für geklonte Stimmen.

Wann du aufhören solltest zu analysieren

Will der Anrufer Geld, Passwörter, Codes aus deiner Banking-App oder Fernzugriff auf deinen Rechner, hör auf, nach Artefakten zu lauschen. Leg auf und ruf die Person oder Organisation unter einer Nummer zurück, die du schon hast. Das funktioniert, ob die Stimme gefälscht ist, echt, aber erzwungen, oder einfach ein Betrüger mit Schnupfen.

Vermutest du hinter einem geschäftlichen Anruf eine gefälschte Führungskraft, gilt das Verfahren aus dem Ratgeber CEO-Fraud mit Deepfakes. Bei Videocalls kommen die Prüfungen aus Deepfake erkennen dazu. Und wer eine Familienregel will, die jeden zweifelhaften Anruf in zehn Sekunden klärt, richtet heute das Codewort ein.

Häufige Fragen

Gibt es eine App, die KI-Stimmen im Telefonat erkennt?

Einige Sicherheitsprodukte und Smartphone-Hersteller bieten Funktionen, die verdächtige synthetische Sprache melden sollen. Zuverlässig genug, um Geld darauf zu verwetten, ist keine. Behandle eine Warnung als Anlass zum Prüfen und fehlende Warnung als keine Information.

Können KI-Stimmen atmen und Gefühle zeigen?

Zunehmend ja. Neuere Modelle fügen Atmen, Lachen und Schluchzen ein. Deshalb werden klangliche Merkmale schwächer und inhaltliche Prüfungen wichtiger, etwa Fragen, die nur die echte Person beantworten kann.

Wie prüfe ich eine Sprachnachricht, die mir jemand geschickt hat?

Lad sie in der Gemini-App hoch und frag, ob sie mit Google-KI erstellt wurde. Das liest das SynthID-Wasserzeichen aus. Prüf dann den Inhalt: Würde diese Person das so sagen, auf diesem Weg? Wenn es um Geld geht, ruf sie an.

Funktionieren Stimmklone auch auf Deutsch?

Ja, und gerade die Sprache kann sie verraten. Laut BSI sprechen Modelle, die überwiegend mit einer Sprache trainiert wurden, Fremdwörter und Namen oft falsch aus. Stolpert ein Angehöriger plötzlich über den eigenen Nachnamen oder einen Ortsnamen, werd hellhörig.