Abodes KI erkennt Deepfakes Adobe Blog
Was sind Deepfakes ? Können wir jemals wirklich etwas vertrauen, was wir jemals wieder im Fernsehen oder Film sehen?
Wie sich herausstellt, waren diejenigen mit den Mitteln und dem Motiv Fotos und Videomaterial bearbeiten seit Jahrzehnten. Es ist nichts Neues.
Aber Deepfakes, angetrieben von AI und ML, haben es möglich gemacht, nahezu perfektes gefälschtes Filmmaterial von Persönlichkeiten des öffentlichen Lebens in kompromittierenden Situationen zu produzieren. Aber ist das notwendigerweise eine schlechte Sache?
VERBINDUNG: KOSTENLOSE SOFTWARE BEATS WARNER BROS. BEIM ENTFERNEN DES MUSTACHE VON HENRY CAVILL
Was sind Deepfakes?
Deepfakes, Konstruktion der Begriffe Deep Learning und Fake, ist eine Technik der menschlichen Bildsynthese basierend auf KI. Wikipedia :
" Es wird verwendet, um und zu kombinieren überlagern vorhandene Bilder und Videos mit a auf Quellbilder oder -videos übertragen maschinelles Lernen Technik bekannt als generative gegnerische Netzwerke . Der Ausdruck "Deepfake" wurde 2017 geprägt.
Diese Technik ist unglaublich effektiv und wird immer fortschrittlicher und mit der Zeit schwer zu erkennen. Deepfakes wurden in der Vergangenheit verwendet, um gefälschte pornografische Promi-Videos zu erstellen.
Es wurde auch verwendet, um gefälschte Nachrichten und andere böswillige oder rein satirische Scherzaufnahmen anderer prominenter Personen mit einem anderen vollständig erfundenen Dialog zu erstellen. Ein erstklassiges und ehrlich gesagt komisches Beispiel dafür war das jüngste Deepfake-Video von Mark Zuckerberg .
Die Arbeit an Deepfakes fand hauptsächlich in der akademischen Forschung und von Amateuren in Online-Communities statt. Es wird auch angenommen, dass Regierungsbehörden die CIA oder das britische GCHQ habe die Technik für Propagandazwecke verwendet.
Wer hat Deepfakes erstellt?
Die Arbeit an Deepfakes ist eigentlich nichts Neues. Während bei weitem nicht die Raffinesse der aktuellen Technologie, das Gebiet von " Computer Vision "gibt es seit den 1990er Jahren.
Ein Teilgebiet der Informatik, das KI und Computerverarbeitung von digitalen Bildern und Videos kombiniert, um neue künstliche Medien zu schaffen. Ein bemerkenswertes frühes akademisches Projekt hieß das Video Rewrite-Programm das wurde 1997 veröffentlicht.
Es war möglich, vorhandenes Videomaterial einer Person zu ändern, die mit einem neuen behandelten Dialog spricht. Es verwendete maschinelles Lernen, um die Wiederbelebung des Gesichts vollständig zu automatisieren.
Die modernere akademische und Amateurarbeit in diesem Bereich hat sich mehr darauf konzentriert, den Prozess einfacher, schneller und zugänglicher zu machen.
Zum Beispiel die Face2Face-Programm veröffentlicht im Jahr 2016 ändert das Videomaterial des Gesichts einer Person so, dass es die Gesichtsausdrücke einer anderen Person in Echtzeit nachahmt.
Ein weiteres Beispiel ist das " Synthese von Obama "Das 2017 veröffentlichte Programm hat wirklich das Potenzial dieser Technologie aufgezeigt. Es kann jedoch argumentiert werden, dass der Großteil der wichtigsten Arbeiten von Amateuren stammt.
Bevor es von Reddit verboten wurde, die r / deepfakes subreddit bestand aus 'hausgemachten' Deepfake-Inhalten, die Benutzer erstellt hatten. Diese Community war zwar hauptsächlich pornografischer Natur, zeigte jedoch, wie Deepfakes mit genügend Wissen und der richtigen Software relativ einfach erstellt werden können.
Wie funktionieren Deepfakes?
Deepfakes nutzen unsere natürliche Tendenz zu glauben, was wir sehen, wenn es sich unmerklich von dem unterscheidet, was wir als echtes Filmmaterial betrachten würden. Es wird auch versucht, sich in die Bestätigungsvoreingenommenheit einer Person zu einem bestimmten Thema zu "hacken" - insbesondere, wenn das Thema der Deepfake politischer Natur ist.
Es ist am effektivsten, wenn der Betrachter das Originalmaterial aus offensichtlichen Gründen noch nie gesehen hat.
Bei der eigentlichen Erstellung werden in der Regel zwei generative Adversarial Networks GANs verwendet. Diese beiden Modelle für maschinelles Lernen kämpfen in einem Nullsummenspiel darum, gefälschtes Filmmaterial zu erstellen, und versuchen mit dem anderen, dies zu erkennengeschmiedet.
Der Fälscher erstellt Fälschungen, bis das andere ML-Modell die Fälschung nicht mehr erkennen kann. Diese Systeme funktionieren am besten, wenn eine Fülle von Filmmaterial und Bildern des Videomotivs vorhanden ist.
Dies ist der Hauptgrund, warum die bekanntesten Deepfakes dazu neigen, Politiker oder Prominente einzubeziehen.
Vor- und Nachteile von Deepfakes
Die Nachteile von so etwas wie Deepfakes liegen auf der Hand. Von der Möglichkeit, gefälschte belastende Beweise zu erstellen, bis hin zu "gefälschten Nachrichten" und Propaganda kann diese Technologie leicht verwendet werden. schändliche Zwecke und Erpressung .
Aber es könnte auch seine Vorteile haben. Eine interessante Einstellung dazu kommt von TowardsDataScience.com .
Im Wesentlichen werden satirische Deepfake-Videos, obwohl sie für das Auge visuell überzeugend sind, offensichtlich hergestellt. Dies sowie der Aufstieg von "Fake News" haben die Augen der Menschen für die Tatsache geöffnet, dass es möglich ist und wir alles nehmen sollten. 'mit einer Prise Salz'.
Warnung : Das folgende Video enthält eine milde Sprache - Es ist George Carlin.
"Also danke Deepfakes um uns darauf aufmerksam zu machen und uns erneut klar zu machen, dass wir nicht alles, was wir sehen und hören, für selbstverständlich halten können. Um ein Problem zu schaffen, das wir frühzeitig lösen müssen, bevor es so groß wird und beeinflusst hatso viele von uns falsch, dass es zu spät ist.
Es wird einige Zeit dauern. Eine neue Fähigkeit, die wir alle lernen müssen. Zweifle also an dem nächsten Video, das du im Internet siehst. Verdammt, zweifle an allem, was du siehst, liest oder hörst. Sei kritischer! Denk selbst nach. "
Wir könnten es selbst nicht besser ausdrücken. Wenn etwas zu gut oder zu schlecht erscheint, um wahr zu sein, muss es wahrscheinlich in Frage gestellt werden.