Deepfakes sind ein zunehmendes Problem für die Gesellschaft. In diesem Jahr wurde eine Deepfake-Stimme eines CEO verwendet, um zu stehlen. 250.000 USD von einer Firma .
Die Technologie ermöglicht unheimliche, lebensechte Clips von Politikern, die Dinge sagen, die sie nicht wirklich gesagt haben. Es ist nicht schwer vorstellbar, wie dies verwendet werden könnte, um die Massen zu verunsichern.
Aus diesem Grund hat Google eine Fülle von Deepfake-Videos veröffentlicht, um Forschern bei der Entwicklung von Erkennungsmethoden zu helfen.
VERBINDUNG: NEUE DEEPFAKE-SOFTWARE BRAUCHT NUR EIN BILD, UM SIE SINGEN ZU LASSEN
schädlich für die Gesellschaft
Wie Google in einem neuen hervorhebt Blogbeitrag , "w Obwohl viele [Deepfake-Videos] wahrscheinlich humorvoll sein sollen, könnten andere für den Einzelnen und die Gesellschaft schädlich sein. "
"Google nimmt diese Probleme ernst. Wie wir in unserem veröffentlicht haben KI-Prinzipien Letztes Jahr haben wir uns dazu verpflichtet, Best Practices für KI zu entwickeln, um das Potenzial für Schaden und Missbrauch zu verringern ", heißt es weiter.
Letztes Jahr veröffentlichte das Unternehmen a Datensatz der synthetischen Sprache für eine internationale Herausforderung der die Entwickler aufforderte, gefälschte Audiodetektoren zu entwickeln, mit denen tiefgreifende Audioclips abgefangen werden können.
Diesmal in Zusammenarbeit mit Stichsäge Google hat die Veröffentlichung eines großen Datensatzes mit Deepfake-Videos angekündigt. Der Datensatz, so das Unternehmen in seinem Blogbeitrag, wurde der Technischen Universität München und der neuen Universität Federico II von Neapel hinzugefügt. FaceForensics-Benchmark - eine Initiative, die Google mitsponsert.
Welches ist echt?
Die neuen Daten wurden mit Hilfe zustimmender Schauspieler erstellt. Im vergangenen Jahr hat Google die Schauspieler für die Aufnahme von Hunderten von Videos bezahlt. Wie Google sagt, "umfassen die resultierenden Videos, echte und gefälschte, unseren Beitrag, zu dem wir erstellt habenunterstütze direkt Deepfake-Erkennungsbemühungen. "
Einige Beispiele der Videos nebeneinander - wo wir nicht wirklich sagen können, welches echt ist - sind unten zu sehen.
Die Aufnahme der Daten in den FaceForensics-Video-Benchmark wurde mit Hilfe führender Forscher durchgeführt, darunter Prof. Matthias Niessner, Prof. Luisa Verdoliva und das FaceForensics-Team.
Die Deepfake-Videodaten können kostenlos heruntergeladen werden. FaceForensics GitHub-Seite .