Deepfakes sind die neuen Fake News
Filter gibt es in irgendeiner Form seit der Erfindung der Kamera. Dann hatten wir Photoshop. Jetzt, da die Technologie immer fortschrittlicher wird, wird es schwieriger, Wahrheit und Fiktion auseinanderzuhalten.
Das Internet ist voll von Fälschungen und Fälschungen. Face-Swapping-Tools, Sprach- und Bildfilter und Gesichtserkennungs-KI haben alle einen Trend der Massen-Desinformation beschleunigt, der Fake News als das neueste Schlagwort an sich reißen wird, während der Kampf um Online-Transparenz weiter tobt.
Einige von ihnen sind sehr fortschrittlich und verwenden die neuesten Tools, um sie so glaubwürdig wie möglich zu machen, und einige von ihnen sind einfacher, haben aber immer noch den gleichen gewünschten Effekt.
Vor kurzem stand ein beliebter Livestreamer namens Qiaobiluo Dianxia ganz oben auf der Liste. Sie hatte über hunderttausend Follower, wurde ständig mit Geschenken überhäuft und erhielt reichlich Lob von ihren Zuschauern.
Die Livestreamerin, die von ihren begeisterten Fans als „Ihre Hoheit Qiaobilou“ bekannt ist, streamte regelmäßig Spielinhalte auf DouYu, Chinas Antwort auf Twitch.
Obwohl sie ihr Gesicht nie zeigte, meldeten sich ihre Zuschauer an und sahen sich ihre übertragenen Computerspiele an, während sie sie mit ihrer leisen, fast kindlichen Stimme erzählte. Die Bilder von sich, die sie zuvor hochgeladen hatte, passten zur Erzählung; ein jugendlicher, heller Teint mit großen Augen und schmalen Wangen.
An diesem Abend hatte sie beim Streamen mit ihrer Co-Moderatorin Qingzi Zehntausende von Yuan an Spenden erhalten. Kurz darauf Qiaobilous Software begann zu glitzern, die eine 58-jährige Frau enthüllt, die sich deutlich von ihrer digital veränderten Persönlichkeit unterscheidet.
Die Enthüllung verursachte einen Massenexodus, als die Anhänger in Scharen davonzogen. Ihre Zuschauerzahlen gingen zurück, und ein paar Tage später DouYu hat sie verboten wegen „Verursachung nachteiliger sozialer Auswirkungen“.
Viele Zuschauer schlugen bei Qiaobilou zu. Sie fühlten sich betrogen. Andere verteidigten sie schnell und sagten, dass ihr Aussehen irrelevant sei; Sie unterhält ihre Zuschauer immer noch, also wen interessiert es, ob sie mittleren Alters ist?
Qiaobilous Geschichte ist eine warnende. Mit einfachsten Technologien war sie in der Lage, ihre Identität zu verschleiern und Zehntausende hinters Licht zu führen. Berücksichtigen Sie die Auswirkungen mit ausgefeilteren Technologien und auf globaler Ebene.
Deepfakes sind die neuen Fake News
Es gibt wachsende Besorgnis über den Online-Datenschutz und die Online-Transparenz, insbesondere angesichts der Verbreitung von KI-gestützten Technologien Deepfakes, die Deep-Learning-Software verwenden, um ein digital zusammengesetztes Gesicht einer Person auf den Körper einer anderen Person zu legen.
Im Zeitalter von Fake News, Filtern und Kuration in sozialen Medien nehmen veränderte Bilder von Prominenten und Online-Persönlichkeiten zu.
Kürzlich geriet DeepNude, eine App, die jedem mit einem Smartphone zur Verfügung steht, unter Beschuss. Die App ermöglichte es Benutzern, praktisch jeden „auszuziehen“, indem sie ein vom Benutzer eingereichtes Bild mit unheimlich realistischen Ergebnissen auf einen nackten Körper überlagerten.
Vielleicht noch besorgniserregender ist, dass es wenig oder gar kein Verständnis von Deep Learning oder KI erforderte, um es zu verwenden. Die Vorarbeit war bereits geleistet, der User musste nur noch das Bild auswählen. Die App wurde inzwischen aufgrund eines wachsenden Online-Aufschreis nach Regulierung entfernt.
Aber mehr als nur Pornografie, Deepfakes wurden auch für politische Zwecke verwendet und könnten bei den US-Wahlen 2020 eine große Rolle spielen. Beim letzten Mal, im Jahr 2016, war „Fake News“ ein häufig verwendeter Begriff; Dieses Mal sieht es nach Deepfakes aus.
Deepfakes werden zur neuen Waffe der Desinformation. Früher dominierten voreingenommene Nachrichtenagenturen. Sie gehen einen Schritt weiter als die Desinformation vergangener Jahre, die speziell für die Verbreitung von Desinformation oder die Verschleierung der Wahrheit entwickelt wurde. Durch den Einsatz fortschrittlicher Technologien sind diese Fälschungen jedoch schwerer zu erkennen und glaubwürdiger.
Wie funktionieren Deepfakes?
Deepfakes werden mithilfe von Generative Adversarial Networks (GAN) erstellt. Sie werden so glaubwürdig, weil die genaue Rolle eines GAN-Frameworks darin besteht, etwas zu schaffen, das sich selbst dazu bringen kann, an seine eigene Authentizität zu glauben.
Die Bilder werden von einem Generator im Framework erstellt, dann sucht der Diskriminator (oder Gegner) nach Inkonsistenzen oder Ungenauigkeiten. Der Generator lernt, was der Diskriminator nicht mag, und passt sich mit maschinellem Lernen an, um eine bessere Fälschung zu erstellen.
Nach langem Hin und Her ist die Fälschung schließlich echt genug, um den Diskriminator zu täuschen und den Test zu bestehen.
So geht’s weiter:
Erst letzte Woche hat das US-Repräsentantenhaus Facebook und Google gefragt, was sie zu tun gedenken, um Deepfakes bei den Wahlen im nächsten Jahr zu bekämpfen.
Es ist eine Frage, die beantwortet werden muss. Wenn sich die Technologie weiterentwickelt und leichter verfügbar wird, müssen die Regulierungsbehörden eingreifen. Die Technologiegiganten spielen bei all dem eine wichtige Rolle.
Die Möglichkeiten für die Zukunft von Deepfakes sind gleichermaßen vielversprechend und beängstigend, aber ohne die Zusammenarbeit der Technologiegiganten werden sich Deepfakes, die für Massendesinformation entwickelt wurden, unentdeckt durchschleichen und unermesslichen Schaden anrichten.
