Die Deepfake-App Zao wird viral und weckt neue Datenschutzängste

Eine neue Face-Swapping-App im Deepfake-Stil begann vor kurzem in den sozialen Medien im Trend zu liegen, führte die Charts der App-Stores an und wurde über Nacht zu einer Sensation

Der Aufstieg von Deepfakes ist unkontrollierbar. Es wird heute als natürliche Weiterentwicklung von den frühen Tagen der Fotomanipulation angesehen, die zuerst durch ausgeklügelte Kameratricks mit dem Aufkommen der Fotografie hervorgebracht wurden, zu moderneren Mitteln wie Photoshop.

Jetzt ist die Technologie dahinter intelligenter als je zuvor, aber, was vielleicht am schockierendsten ist, sie ist schnell und billig: oder in diesem Fall kostenlos.

Zao startet sofort ins Rampenlicht, wirft aber Deepfake-Bedenken auf

Zao, eine „Face-Swapping“-Anwendung von Momo, dem Entwickler der beliebten chinesischen Dating-App Tantan, begann Anfang dieses Monats an Bedeutung zu gewinnen, was bei einigen Technologieunternehmen Befürchtungen über ihre Fähigkeit auslöste, Gesichtserkennungssysteme zu täuschen.

Die App ist wirklich einfach; Mit weniger als ein paar Klicks kann ein Benutzer ein paar Selfies hochladen und grundlegende Gesichtsbewegungen ausführen, die die KI verfolgen kann, die dann ihr Gesicht überzeugend auf Schauspieler in vorab ausgewählten Szenen aus beliebten Filmen und Fernsehserien legt.

Twitter-Nutzer Allan Xia, ein Künstler und Spieleentwickler, hat seine Kreationen im sozialen Netzwerk geteilt. Besonders ein Video erregte die ganze Aufmerksamkeit. Xia hat sich selbst in verschiedene Szenen aus Leonardo Di Caprios Backkatalog versetzt, und das Endergebnis ist ziemlich unheimlich.

Er sagte in einem Tweet: „Die beste Anwendung eines KI-Gesichtsersatzes im ‚Deepfake‘-Stil, die ich je gesehen habe.“


Der Twitter-Nutzer, dessen Video über 2.5 Millionen Aufrufe erzielt hat, äußerte sich weiter zur Zukunft von Deepfakes und KI.

„Ich kann mir durchaus vorstellen, dass dies in Filmen/Fernsehen angewendet wird“, sagte er und grübelte weiter über die Möglichkeit nach, in Blockbuster-Filmen mitzuspielen, ohne jemals das Sofa zu verlassen.

Stellen Sie sich vor, Sie schalten Ihren Fernseher ein, laden Netflix, drücken einen Knopf und werden für die Dauer der Show einer der Schauspieler auf dem Bildschirm. Vielleicht ist die Idee mit der Verbesserung der Deepfake-Technologie – und auch mit einer gewissen Knotenrate – nicht so weit hergeholt, wie es sich anhört. Es könnte früher kommen, als wir denken.

Xia hat auch einen Clip von sich hochgeladen, in dem er mit sich selbst spricht und die Rollen von John Snow und Samwell Tarly in HBOs äußerst beliebter Serie Game of Thrones übernimmt.


Datenschutzbedenken und Fehlinformationen

Zao löste sofort einen Streit über seine weniger als transparente Datenschutzrichtlinie aus, die den App-Herstellern zunächst „kostenlose, unwiderrufliche, dauerhafte, übertragbare und neu lizenzierbare“ Rechte an allen nutzergenerierten Inhalten einräumte. Das Unternehmen ging einige Tage nach dem Start auf die Bedenken ein.

In einer Erklärung sagte Zao: „Wir verstehen die Bedenken hinsichtlich des Datenschutzes. Wir haben das Feedback erhalten und werden die Probleme beheben, die wir nicht berücksichtigt haben, was einige Zeit in Anspruch nehmen wird.“

Das Potenzial für Missbrauch, wie bei allem Digitalen, gibt Anlass zur Sorge. Viele sehen voraus, dass Deepfakes verwendet werden, um Einzelpersonen zu diffamieren, Fehlinformationen zu verbreiten oder eine Wahl zu beeinflussen – etwas, das Gesetzgeber auf der ganzen Welt von den Giganten der sozialen Netzwerke erfleht haben, direkt dagegen vorzugehen.

Tatsächlich werden sie bereits für rechtswidrige Zwecke verwendet. Kürzlich, a Deepfake-Sprachsynthese-KI wurde verwendet, um einen CEO dazu zu bringen, 220 Millionen Euro an Betrüger zu überweisen, und Gesichtstausch-Pornografie ist im Internet weit verbreitet.

Da sowohl Video- als auch Sprach-Deepfakes zusammenlaufen, könnten wir am Abgrund einer unüberwindbaren Herausforderung stehen, die eher früher als später angegangen werden muss, bevor diese außer Kontrolle geratene Technologie nicht mehr von der Realität zu unterscheiden ist.

Lukas Konrad

Technologie- und Marketing-Enthusiast

Erzielen Sie Produktivitäts- und Effizienzsteigerungen durch Datenmanagement

Russ Kennedy • 04. Juli 2023

Unternehmensdaten sind seit vielen Jahren eng mit Hardware verknüpft, doch jetzt ist ein spannender Wandel im Gange, da die Ära der Hardware-Unternehmen vorbei ist. Mit fortschrittlichen Datendiensten, die über die Cloud verfügbar sind, können Unternehmen auf Investitionen in Hardware verzichten und das Infrastrukturmanagement zugunsten des Datenmanagements aufgeben.