KI-Deepfake täuscht CEO vor, eine Viertelmillion Euro zu überweisen

Ein Betrüger hat einen KI-gestützten Deepfake verwendet, um ein Unternehmen dazu zu bringen, Geld an einen Dritten zu überweisen

Der CEO eines Energieunternehmens mit Sitz im Vereinigten Königreich überwies 220,000 € an einen Dritten auf Anfrage dessen, was er für seinen Vorgesetzten hielt.

Im Gespräch mit dem Wall Street Journal sagte Rüdiger Kirsch – ein Betrugsexperte bei der Versicherungsgruppe des unbekannten Unternehmens –, dass das Opfer von der Stimme getäuscht worden sei und aufgrund seines deutschen Akzents und seiner unverwechselbaren „Melodie“ glaubte, es sei die seines Chefs.

Der Anrufer, der das Unternehmen dreimal versucht hatte, wies den CEO an, das Geld innerhalb einer Stunde auf das Bankkonto ihres ungarischen Lieferanten zu überweisen. Es wird angenommen, dass das Geld dann auf ein Konto in Mexiko überwiesen und danach an mehrere Orte verteilt wurde.

Deepfakes sind schwer zu unterscheiden

KI-generierte Deepfakes sind mit zunehmender Verfügbarkeit der Technologie immer schwieriger von echter Sprache zu unterscheiden. Im vergangenen Monat, Facebook und Twitter wurden ermutigt, Deepfake-Videos zu bekämpfen im Vorfeld der US-Wahlen im nächsten Jahr.

Mit viel Sorge vorbei Deepfakes werden zu den neuen Fake Newshaben einige KI-Unternehmen ihre Fähigkeit unter Beweis gestellt, unheimlich realistische Deepfakes und KI-unterstützte Sprachsynthese zu erstellen, um die Menschen nicht nur zu unterhalten, sondern auch vor den Gefahren zu warnen. 

Dessa, ein KI-Unternehmen mit Sitz in Toronto, zeigte kürzlich seine Fähigkeiten, indem es Details seines Sprachsynthesemodells von Joe Rogan, einem beliebten Podcaster und Sportkommentator, teilte. 

Um Joe Rogans Stimme nachzuahmen, hat Dessa ein Text-to-Speech-Deep-Learning-System namens RealTalk entwickelt, das Texteingaben verwendet, um Sprache zu erzeugen, die nicht von der Realität zu unterscheiden ist. 


„Hey Joe Rogan, ich bin es, Joe Rogan. Bitte komm und rette mich, Mann. Diese Typen mit künstlicher Intelligenz haben mich in einer Maschine gefangen“, sagt die KI in dem Video und ahmt Joe Rogans unverwechselbare Stimme und Intonation perfekt nach.

In einem Blogpost, Alex Krizhevksy, Chefarchitekt für maschinelles Lernen bei Dessa, warnte davor, dass „menschenähnliche Sprachsynthese bald überall Realität sein wird“.

„Die gesellschaftlichen Auswirkungen von Technologien wie der Sprachsynthese sind enorm. Und die Auswirkungen werden alle betreffen. Arme Verbraucher und reiche Verbraucher. Unternehmen und Regierungen.“

Lukas Konrad

Technologie- und Marketing-Enthusiast

Neue Umfragen zur Beliebtheit von Programmiersprachen unterstreichen die Vorteile modernisierter...

Graham Morphew • 04. Mai 2023

Die Modernisierung von VxWorks bekräftigt unser Engagement, das zu liefern, was unsere Kunden am meisten wollen: die Fähigkeit, Innovationen zu beschleunigen, ohne Sicherheit, Zuverlässigkeit und Zertifizierbarkeit zu opfern. Wie auch immer Sie die digitale Transformation definieren, wo immer Sie sich auf Ihrem Weg zu modernen DevOps befinden, Geschwindigkeit ist von entscheidender Bedeutung.

Schalten Sie die Kraft von WiFi 6 frei: So nutzen Sie es ...

TBT-Newsroom • 01. März 2023

Sind Sie es leid, in der technologischen Welt zurückgelassen zu werden? Nun, keine Angst! WiFi 6 ist hier, um den Tag zu retten und Ihr Unternehmen in die Zukunft zu führen. Mit beispiellosen Geschwindigkeiten und einer Vielzahl neuer Funktionen ist WiFi 6 die unverzichtbare Technologie für jedes Unternehmen, das der Zeit voraus sein möchte.