Egor Zakharov hat ein neues System für künstliche Intelligenz erstellt, mit dem aus einem einzelnen Foto ein gefälschter Videoclip generiert werden kann. Deepfakes oder gefälschte Clips, mit denen die Probanden Dinge sagen und tun, für die sie normalerweise keine großen Datenmengen benötigen. Dies war einer der Faktoren, die beibehalten wurdendie Technologie weg von schlechten Schauspielern.
VERBINDUNG: SEHEN SIE SALVADOR DALI ZURÜCK, UM DURCH AI ZU LEBEN
Die neue Software ist jedoch alarmierend. Die Entwicklung der Software durch das Samsung-Labor für künstliche Intelligenz in Russland wurde in einem Artikel auf der Website detailliert beschrieben. arxiv . Der Autor des Papiers sagt, dass seine Forschung zu einem System geführt hat, das zuerst langwieriges Meta-Lernen an einem großen Datensatz von Videos durchführt und danach in der Lage ist, das Lernen von neuronalen sprechenden Kopfmodellen von früher mit wenigen und einem Schuss zu erfassenunsichtbare Menschen als kontroverse Trainingsprobleme mit Generatoren und Diskriminatoren mit hoher Kapazität.
Gute und schlechte Anwendungen
Entscheidend ist, dass das System in der Lage ist, die Parameter sowohl des Generators als auch des Diskriminators personenspezifisch zu initialisieren, sodass das Training auf nur wenigen Bildern basieren und schnell durchgeführt werden kann, obwohl zig Millionen von Einstellungen vorgenommen werden müssenParameter.
Wir zeigen, dass ein solcher Ansatz in der Lage ist, sehr realistische und personalisierte sprechende Kopfmodelle von neuen Menschen und sogar Porträtmalereien zu lernen. Die Software kann unterhaltsame Anwendungen wie Porträts zum Leben haben, wie das Beispiel im Video unten der MonaLisa.
Gefälschte Nachrichten werden steigen
Aber was viele befürchten, ist, dass diese Software in die falschen Hände gerät und als Werkzeug für politische und soziale Manipulationen verwendet wird. Während die meisten von uns immer noch Schwierigkeiten haben, gefälschte Nachrichten in ihren Feeds zu verstehen und zu überwachen, sind Deepfakes die nächste Stufe.Einige der in dem Video gezeigten Beispiele, die nur aus einzelnen Bildern bestehen, könnten viele Menschen täuschen, insbesondere wenn sie in einem vermeintlich vertrauenswürdigen Kontext präsentiert werden.
In Belgien wurde im vergangenen Jahr ein Video geteilt, in dem der Präsident der Republik, Donald Trump, dargestellt wurde. sagt : „Wie Sie wissen, hatte ich die Bälle, um mich vom Pariser Klimaabkommen zurückzuziehen“, sagte er und schaute direkt in die Kamera. „Und Sie auch.“ Das Video sorgte für Aufruhr und wurde schnell viral und zog eine Vielzahl von Kommentaren von Empörten anBelgier. Außer das Video war gefälscht.
Es wurde von einer belgischen politischen Partei, Socialistische Partij Anders oder sp.a, erstellt und über soziale Medien geteilt. Die Partei hatte eine lokale Produktionsfirma mit der Erstellung der abschließenden Deepfake-Software beauftragt und dachte, die schlechte Qualität des Clips würde dies tunsei allen Zuschauern klar. Außer sie liegen falsch.
Wenn man sich den Clip ansieht und weiß, dass es sich um eine Fälschung handelt, ist es offensichtlich, dass dies nicht real ist, aber es scheint viele getäuscht zu haben, die ihre Wut darüber ausgossen haben, dass die USA mit der Klimapolitik des europäischen Landes in Konflikt geraten sind. Was die Geschichte zeigt, ist das sogarEine schlechte Version von Deep-Fake-Videos kann zu Problemen führen. Es ist nicht klar, wofür Samsung den kürzlich erstellten Algorithmus verwenden will, aber man kann mit Sicherheit sagen, dass eine neue Ära gefälschter Nachrichten bevorsteht.