Microsoft hat erfolgreich ein neues Tool entwickelt, mit dem Deepfakes lokalisiert werden können - ein computergestütztes Bild, das laut a als überzeugendes Faksimile des Bilds einer realen Person verwendet wird. Blogbeitrag auf der Microsoft-Website.
Deepfakes werden jedoch von Tag zu Tag weiter fortgeschritten.
VERBINDUNG: EIN NEUER BERICHT WARNET, DASS AI UNS NICHT VOR TIEFEN RETTEN KANN
Microsoft debütierte neuartiges Tool zur Erkennung tiefer Fälschungen
Die Software von Microsoft analysiert Videos und Bilder, um eine Vertrauensbewertung hinsichtlich der Wahrscheinlichkeit des Materials künstlichen Ursprungs zu erhalten. Das Unternehmen möchte, dass die Technologie zur "Bekämpfung von Desinformation" beiträgt. Berichte BBC.
Ein Experte warnte jedoch davor, dass das Tool aufgrund des raschen Fortschritts der Deepfake-Technologie bald veraltet sein könnte. Um dieses Problem zu lösen, erklärte Microsoft auch die Existenz eines separaten Systems, das Inhaltsproduzenten dabei helfen soll, versteckten Code in Filmmaterial einzufügen, sodass spätere Änderungen vorgenommen werden könnenkann markiert sein.
Face-Swapping-Deepfakes funktionieren mit weniger Bildern
Deepfakes betraten Anfang 2018 den öffentlichen Raum, als ein Entwickler modernste Techniken der künstlichen Intelligenz anpasste, um neue Software zu erstellen, die das Gesicht einer Person gegen eine andere austauscht.
Dies funktioniert über Eingabe viele Standbilder einer Person in Computern, einschließlich Videomaterial einer anderen Person. Mithilfe von Software können Benutzer dann neue Videos erstellen - indem sie das Gesicht des ersteren dort platzieren, wo sich das letztere befindet, und Gesichtsausdrücke für Lippensynchronisation und andere subtile anpassenmenschliche Bewegungen.
Dieser Vorgang wurde nach der Anfangsphase vereinfacht, um die Verfügbarkeit für mehr Benutzer zu erhöhen - und benötigt nicht so viele Bilder, um zu funktionieren. Jetzt benötigen einige Apps nur ein einziges Selfie, um das Gesicht eines Benutzers in Clips aus einem Hollywood-Film einzufügen.
Deepfake-Erkennungssoftware ist ein sich bewegender Torpfosten
Bedenken hinsichtlich der Kapazität zu Missbrauch Dieser Prozess und das Erstellen von Clips, die real erscheinen, aber in Wirklichkeit Illusionen sind. Stellen Sie sich Persönlichkeiten des öffentlichen Lebens vor, die dazu bestimmt sind, Dinge zu handeln oder zu sagen, die für politische oder andere Zwecke völlig von den Tatsachen vor Ort getrennt sind.
Da Computer-Supermächte wie Microsoft und Apple das Rechnen ins 21. Jahrhundert bringen, wird das Problem der Verwendung von Deepfakes zum Riggen von Legacy-Systemen wie einem Social-Cheat-Code wahrscheinlich zu einem beweglichen Zielpfosten - für jede erfasste Fälschung werden anspruchsvollere Deepfakes kommen. besser oder schlechter Es ist eine herausfordernde Zeit für Ideen über Realität und Authentizität.