KI-Deepfake täuscht CEO vor, eine Viertelmillion Euro zu überweisen
Ein Betrüger hat einen KI-gestützten Deepfake verwendet, um ein Unternehmen dazu zu bringen, Geld an einen Dritten zu überweisen
Der CEO eines Energieunternehmens mit Sitz im Vereinigten Königreich überwies 220,000 € an einen Dritten auf Anfrage dessen, was er für seinen Vorgesetzten hielt.
Im Gespräch mit dem Wall Street Journal sagte Rüdiger Kirsch – ein Betrugsexperte bei der Versicherungsgruppe des unbekannten Unternehmens –, dass das Opfer von der Stimme getäuscht worden sei und aufgrund seines deutschen Akzents und seiner unverwechselbaren „Melodie“ glaubte, es sei die seines Chefs.
Der Anrufer, der das Unternehmen dreimal versucht hatte, wies den CEO an, das Geld innerhalb einer Stunde auf das Bankkonto ihres ungarischen Lieferanten zu überweisen. Es wird angenommen, dass das Geld dann auf ein Konto in Mexiko überwiesen und danach an mehrere Orte verteilt wurde.
Deepfakes sind schwer zu unterscheiden
KI-generierte Deepfakes sind mit zunehmender Verfügbarkeit der Technologie immer schwieriger von echter Sprache zu unterscheiden. Im vergangenen Monat, Facebook und Twitter wurden ermutigt, Deepfake-Videos zu bekämpfen im Vorfeld der US-Wahlen im nächsten Jahr.
Mit viel Sorge vorbei Deepfakes werden zu den neuen Fake Newshaben einige KI-Unternehmen ihre Fähigkeit unter Beweis gestellt, unheimlich realistische Deepfakes und KI-unterstützte Sprachsynthese zu erstellen, um die Menschen nicht nur zu unterhalten, sondern auch vor den Gefahren zu warnen.
Dessa, ein KI-Unternehmen mit Sitz in Toronto, zeigte kürzlich seine Fähigkeiten, indem es Details seines Sprachsynthesemodells von Joe Rogan, einem beliebten Podcaster und Sportkommentator, teilte.
Um Joe Rogans Stimme nachzuahmen, hat Dessa ein Text-to-Speech-Deep-Learning-System namens RealTalk entwickelt, das Texteingaben verwendet, um Sprache zu erzeugen, die nicht von der Realität zu unterscheiden ist.
„Hey Joe Rogan, ich bin es, Joe Rogan. Bitte komm und rette mich, Mann. Diese Typen mit künstlicher Intelligenz haben mich in einer Maschine gefangen“, sagt die KI in dem Video und ahmt Joe Rogans unverwechselbare Stimme und Intonation perfekt nach.
In einem Blogpost, Alex Krizhevksy, Chefarchitekt für maschinelles Lernen bei Dessa, warnte davor, dass „menschenähnliche Sprachsynthese bald überall Realität sein wird“.
„Die gesellschaftlichen Auswirkungen von Technologien wie der Sprachsynthese sind enorm. Und die Auswirkungen werden alle betreffen. Arme Verbraucher und reiche Verbraucher. Unternehmen und Regierungen.“
