Enkeltricks mit KI-Stimme? – Polizei rät zur Vorsicht
Wenn die Stimme der völlig aufgelösten Anruferin exakt der der eigenen Tochter gleicht, geraten viele Menschen außer sich. Experten haben Tipps, mit denen man sich vor überzeugenden Betrugsanrufen schützen kann.
Das Telefon klingelt, die Rufnummer ist unterdrückt. Im Nachhinein wird sich die Seniorin aus Siegburg bei Bonn fragen, warum sie das Telefonat überhaupt angenommen hat: Ihre in Stuttgart lebende Tochter begrüßt sie schluchzend und kommt schnell zur Sache: Sie habe eine rote Ampel überfahren. Dabei habe es Tote und Verletzte gegeben. Nun sei sie bei der Polizei und brauche Geld, um wieder freigelassen zu werden. Ein Mann, der sich als Polizist ausgibt, übernimmt das Gespräch und konkretisiert die Geldforderung – die weinende Tochter stets im Hintergrund. Nach Diskussionen darüber, dass weder Bargeld noch Goldbarren oder eine Kunstsammlung verfügbar seien, bricht das Gespräch unvermittelt ab.
Die aufgewühlt zurückbleibende Seniorin hat Glück gehabt. Sie ruft die ihr bekannten Telefonnummern von Tochter und Schwiegersohn an – und überzeugt sich davon, dass die Geschichte ein gekonnt inszenierter Betrugsversuch war. Was sie nachhaltig erschüttert und von der Echtheit des Telefonats überzeugt hat, war die täuschend echt wirkende Stimme ihrer Tochter. Auch wenn sie Erzählungen über Enkeltricks kannte – wie sollte die Stimme ihrer Tochter sie täuschen?
, Datenjournalist beim Hessischen Rundfunk (HR), hat dafür eine mögliche Erklärung. Denn um eine Stimme mit Künstlicher Intelligenz (KI) zu erstellen, benötigt es nicht viel: „Mit nur einer Minute Audiomaterial kann man eine Stimme mit KI klonen. Dafür muss niemand ein IT-Experte werden. Für ein paar Dollar kann sich jeder bei Plattformen wie beispielsweise Eleven Labs anmelden und damit herumexperimentieren.“
Doch woher sollten die Betrüger das Audiomaterial der Tochter aus Stuttgart haben? „Man glaubt gar nicht, wo überall von einem Videospuren zu finden sind, die dann missbräuchlich verwendet werden könnten. Am naheliegendsten sind Social-Media-Portale wie Facebook oder TikTok“, sagt Eggers im Gespräch mit der Katholischen Nachrichten-Agentur (KNA). Je mehr die KI-Maschine mit Material gefüttert werde, desto ähnlicher könne eine Stimme klingen. Die Stimmungslage – wie Weinen – könne über das KI-Tool zusätzlich simpel imitiert werden. „Aber in solch emotionalen Momenten wie einem Hilfe-Anruf der Tochter muss die Stimme gar nicht perfekt klingen.“
Das sehen Experten vom Landeskriminalamt genauso: Wer einen Enkeltrick-Anruf erhält, sei in einer absoluten Ausnahmesituation und glaube die Geschichte oftmals auch dann, wenn die Stimmen nicht perfekt imitiert seien. Die Landeskriminalämter in NRW und Baden-Württemberg haben bisher keine Belege dafür, dass KI bei Enkeltrick-Anrufen eingesetzt wird. Man könne das in Einzelfällen nicht ausschließen, erklärt Maren Menke, Pressesprecherin des auf Anfrage.
Generell gelte aber: Um mittels KI die Stimme eines Verwandten zu generieren, müssten die Täterinnen und Täter intensive Vorarbeit leisten und konkrete Kenntnisse über den Anschlussinhaber und seine Verwandtschaftsverhältnisse haben. Diesen relativ großen Aufwand hält das LKA aktuell für eher unwahrscheinlich. Denn der sei gar nicht nötig: „Es funktioniert auch ohne das.“ Die Betrüger beherrschten eine Art von Gesprächsführung, die die Opfer dazu bringe, selbst alle relevanten Informationen preiszugeben, ohne es zu merken.
Menke gibt Tipps, wie Betroffene reagieren sollten. Wichtig: Schon der Versuch eines Betrugs kann und sollte angezeigt werden. Ermittler gehen von einem enormen Dunkelfeld nicht angezeigter Taten und Versuche aus, zu denen Opfer aus Scham oder anderen Gründen keine Anzeige erstatten. „Je mehr Beweismittel die Polizei hat, desto besser kann sie ermitteln. Jeder Hinweis ist wichtig. Nicht erst Anzeige erstatten, wenn Geld geflossen ist. Schon der Versuch ist eine Straftat“, sagt Menke.
Wer verdächtige Anrufe und Rufnummern meldet, trägt dazu bei, dass diese nicht mehr genutzt werden können: So hat die Bundesnetzagentur im Jahr 2023 zur Bekämpfung von Rufnummernmissbrauch 9.789 Rufnummern abgeschaltet.
Die LKA-Sprecherin empfiehlt zudem, nicht zu höflich zu sein. Wenn einem etwas komisch vorkommt, sollte man auf sein Bauchgefühl hören: einfach auflegen und das vermeintlich betroffene Kind oder Enkelkind unter der bekannten Telefonnummer zurückrufen. „Das nimmt ein Bekannter nicht übel, wenn man ihn kurz zurückweist und auf Nummer Sicher geht. Oft ist das die entscheidende Hilfe.“ Eine gesunde Portion Skepsis bei unbekannten Rufnummern könne außerdem weiterhelfen. Und immer daran denken: Polizei oder andere Behörden würden nie dazu auffordern, Geld oder Wertgegenstände zu übergeben.