Facebook verbietet Deepfakes vor der US-Wahl
Facebook hat angekündigt, den Anstieg problematischer Deepfakes auf der Seite zu bekämpfen
In einer Zeit, in der Video- und Fotomanipulationswerkzeuge immer fortschrittlicher werden als je zuvor, hat der Social-Media-Riese einen Richtlinienwechsel angekündigt, der Deepfakes im sozialen Netzwerk effektiv verbietet, da er befürchtet, dass sie verwendet werden könnten, um die öffentliche Meinung vor den bevorstehenden US-Wahlen zu beeinflussen .
Monika Bickert, Vizepräsidentin für globales Richtlinienmanagement bei Facebook, sagte, dass Deepfakes „eine erhebliche Herausforderung für unsere Industrie und Gesellschaft darstellen, da ihre Verwendung zunimmt“.
Der Blogbeitrag, Durchsetzung gegen manipulierte Medien, wurde am Montag im Newsroom von Facebook gepostet. Darin wurde dargelegt, wie sich das soziale Netzwerk qualifiziert und dann „irreführende manipulierte Videos“ basierend auf bestimmten Kriterien entfernt.
WEITERLESEN: KI-Deepfake täuscht CEO vor, eine Viertelmillion Euro zu überweisen
Wenn festgestellt wird, dass die Videos oder Fotos entweder „jenseits von Anpassungen für Klarheit oder Qualität“ auf eine Weise bearbeitet wurden, die jemanden in die Irre führen kann, oder wenn der Inhalt das „Produkt künstlicher Intelligenz oder maschinellen Lernens“ ist, bei dem Änderungen vorgenommen werden damit es authentisch erscheint, entfernt Facebook den Inhalt.
Sie wiesen jedoch deutlich darauf hin, dass sich diese Richtlinie nicht auf parodistische oder satirische Inhalte erstreckt und es den Urhebern weiterhin freisteht, die Technologie für Unterhaltungszwecke zu nutzen, solange sie sich an die üblichen Gemeinschaftsstandards hält.
Deepfakes könnten in die falschen Hände geraten
Da die zur Erstellung von Deepfakes verwendete Technologie immer ausgefeilter und, was vielleicht noch besorgniserregender ist, zugänglicher wird, wird Facebooks Präventivschlag gegen einen möglicherweise entscheidenden Faktor bei den bevorstehenden Wahlen von vielen begrüßt.
Letztes Jahr ging ein Video von Barack Obama viral. In dem Video nennt er Präsident Donald Trump eine Obszönität, bevor er betont, wie wichtig es ist, Nachrichten in sozialen Medien zu überprüfen.
„Das ist eine gefährliche Zeit“, sagt er. „In Zukunft müssen wir wachsamer sein, was wir im Internet anvertrauen.“
Dies war jedoch nicht der ehemalige Präsident, sondern eine Deepfake-Ankündigung des öffentlichen Dienstes, die vom amerikanischen Schauspieler Jordan Peele geäußert wurde.
Als sich der Bildschirm teilt, wird Obamas Mund mit Peeles Eindruck synchronisiert, was perfekt demonstriert, wie realistisch, aber absolut falsch, ein virales Video sein kann und sein Potenzial, Millionen zu desinformieren.
Die Bemühungen von Facebook, die Verbreitung manipulierter Medien zu unterbinden, dienen nicht nur der Entfernung von Inhalten. Sie gaben auch bekannt, dass Mitarbeiter zusammen mit Partnern aus zahlreichen branchenübergreifenden Organisationen und Bildungseinrichtungen daran arbeiten, die Identität der Urheber aufzudecken und zu lernen, wie man Deepfakes besser erkennt, um sie an der Quelle zu stoppen.
„Erst letzten Monat haben wir ein Netzwerk identifiziert und entfernt, das KI-generierte Fotos verwendet, um ihre gefälschten Konten zu verbergen. Unsere Teams suchen weiterhin proaktiv nach gefälschten Konten und anderen koordinierten, nicht authentischen Verhaltensweisen.“
