Während wir uns vielleicht daran gewöhnen, dass Deepfakes für eine Reihe relativ harmloser Situationen verwendet werden,von der Mutter einer Cheerleaderin, die versucht, ihrer Tochter eine Stärkung gegen ihre Altersgenossen zu geben bis ein viraler Tom Cruise-ImitatorSie können auch verwendet werden, um ernsthafter bösartige Inhalte zu erstellen, wie das Gesicht eines anderen auf eine pornografische Szene zu kleben oder die Karriere eines Politikers zu schädigen.
Deepfakes sind digital veränderte Videos oder Fotos des Gesichts von jemandem mit KI, die nur allzu wahr aussehen können. Sie können so schädlich sein, dass zum Beispiel Der Staat Kalifornien hat sie letztes Jahr in Politik und Pornografie verboten.
Wir können leicht dazu gebracht werden, zu glauben, was wir sehen, und die Technologie hinter Deepfakes wird immer besser.
Um zu versuchen, solchen veränderten Aufnahmen von kursierenden, Facebook- und Michigan University State-Forschern entgegenzuwirkenangekündigt am Mittwoch, 16. Juni Sie haben eine neuartige Methode zur Erkennung von Deepfakes entwickelt und welches generative Modell wurde verwendet, um sie zu erstellen.
Das Team hofft, dass seine Methode wird bieten Forschern und Praktikern „Werkzeuge, um Vorfälle koordinierter Desinformation mithilfe von Deepfakes besser zu untersuchen und neue Wege für die zukünftige Forschung zu eröffnen.“
Deepfake-Erkennungssysteme existieren bereits, aber da diese normalerweise darauf trainiert sind, bestimmte generative Modelle zu erkennen, kann das System nicht herausfinden, woher der Deepfake stammt, sobald ein anderes Modell – eines, auf das das System nicht trainiert wurde – auftaucht.
Wie das System des Teams funktioniert
Deshalb beschloss das Team, einen Schritt weiter zu gehen und die Bildzuordnung über die begrenzte Anzahl der im Training vorgestellten Modelle hinaus auszudehnen.
Es läuft meistens auf Reverse Engineering hinaus.
"Unsere Reverse-Engineering-Methode beruht darauf, die einzigartigen Muster hinter dem KI-Modell aufzudecken, das verwendet wird, um ein einzelnes Deepfake-Bild zu generieren." sagte Hassner von Facebook.
"Mit dem Modellparsing können wir die Eigenschaften der generativen Modelle schätzen, die zum Erstellen jedes Deepfakes verwendet werden, und sogar mehrere Deepfakes dem Modell zuordnen, das sie möglicherweise erzeugt hat. This bietet Informationen zu jedem Deepfake, auch zu solchen, bei denen es keine vorherigen Informationen gab", sagte das Team.
Das Team trainierte sein System mit einem gefälschten Bilddatensatz mit 100.000 synthetischen Bildern, die aus 100 verschiedenen öffentlich verfügbaren generativen Modellen generiert wurden. Ihre Ergebnisse waren wesentlich besser als bei früheren Erkennungsmodellen.
Diese Art von Deepfake-Erkennungsmodell könnte sich als nützlich erweisen, insbesondere für Regierungsbehörden, Polizei und Social-Media-Sites, die verzweifelt versuchen, die Verbreitung solcher gefälschten Informationen auf ihren Plattformen zu verhindern. Es wurde kein Datum mitgeteilt, wann wir dieses Modell erwarten könnenlive zu gehen, aber es ist gut zu wissen, dass Forscher an solchen Methoden arbeiten.