Das Federal Bureau of Investigation FBI ist besorgt über die Bedrohung, die Deepfakes darstellen könnten.
In einer privaten Branchenbenachrichtigung PIN an Unternehmen in den USA gesendet Das FBI warnte Unternehmen, dass "[m] bösartige Akteure mit ziemlicher Sicherheit in den nächsten 12 bis 18 Monaten synthetische Inhalte für Operationen mit Cyber- und ausländischem Einfluss nutzen werden."
Das FBI argumentiert, dass Deepfakes verwendet werden können, um politische und Unternehmensprozesse zu beeinflussen.
Die neue Warnung des FBI bezieht sich zum ersten Mal auf Deepfakes - eine synthetische Medienerholung, die durch KI oder maschinelles Lernen erzeugt wird - und erfolgt inmitten eines erhöhten Bewusstseins für die rasche Verbreitung und mögliche Gefahren der Desinformation über Medienquellen, die die "Fakten auf der Website" falsch darstellenBoden. "Zum Beispiel zeigten überzeugende, gefälschte Videos von Tom Cruise, wie er Golf spielte, durch ein Geschäft ging und einen Zaubertrick ausführte. Die Videos wurden schnell viral und deuteten auf ein Zeitalter hin, das das FBI" makellose Fälschungen "nennt.ist gekommen.
Während wir jedoch in einer Welt leben, in der sich jeder mit Deepfakes beschäftigen kann, ist der Prozess der Kuratierung von High-End- und spezialisierten KI-Treibern schwieriger als es scheint . Chris Ume, Entwickler mehrerer Tom Cruise-Videos, ist ein belgischer VFX-Spezialist und hält die Bedrohung durch Deepfakes für überbewertet.
"Sie können es nicht einfach per Knopfdruck tun", sagte Ume herein ein Bericht von The Verge . "Das ist wichtig, das ist eine Botschaft, die ich den Leuten mitteilen möchte." Für Ume waren Clips von Tom Cruise-Deepfakes wochenlang in Arbeit, wobei der Open-Source-DeepFaceLab-Algorithmus zusammen mit anderen, bekannteren Videobearbeitungswerkzeugen verwendet wurde. "Durch KämmenCGI und VFX mit Deepfakes machen es besser. Ich stelle sicher, dass Sie keine der Pannen sehen. "
Das FBI ist anderer Meinung. Laut Mitteilung der Agentur verwenden ausländische Akteure bereits synthetische Inhalte in Einflusskampagnen. Darüber hinaus geht das Präsidium davon aus, dass "ausländische und kriminelle Cyber-Akteure zunehmend für Spearphishing und soziale Zwecke eingesetzt werden"Ingenieur "Verbrechen.
Spearphishing ist, wenn ein betrügerischer oder böswilliger Agent E-Mails angeblich von einem vertrauenswürdigen Absender sendet, um den Benutzer zu ermutigen, vertrauliche Informationen zu senden oder Zugang zu privaten Netzwerken zu gewähren. Das FBI ist der Ansicht, dass es bereits russische, chinesische und chinesischsprachige "Akteure" gibtVerwendung synthetischer Profilbilder, um gefälschte Online-Konten - sogenannte Sockenpuppen - zu maskieren, um angeblich ausländische Propagandakampagnen voranzutreiben.
Das FBI fordert den privaten und öffentlichen Sektor nachdrücklich auf, „gute Informationshygiene“ zu praktizieren.
Das Präsidium sagte auch, dass Schauspieler, deren Herkunft unbekannt bleibt, sich über hergestellte Profilbilder als "Journalisten" ausgaben und gefälschte Artikel vorantrieben, die später von echten Medien aufgegriffen und gefördert wurden.
Das FBI argumentierte daraufhin, dass böswillige Cyber-Akteure mehr tun werden, als Propagandakampagnen für ausländische Parteien voranzutreiben - aber auch synthetische Medien und Deepfakes verwenden, um Angriffe auf den privaten Sektor zu starten. Insbesondere warnte das Präsidium, dass synthetische Inhalte eine "neu definierter Cyber-Angriffsvektor "bekannt als Business Identity Compromise BIC", der Deepfake-Tools umfasst, die die Kuratierung von "synthetischen Unternehmenspersonen" oder Mitarbeitern ermöglichen. Dies könnte unter anderem "erhebliche finanzielle und Reputationsauswirkungen auf die betroffenen Unternehmen und Unternehmen" verursachenOrganisationen ", behauptete das FBI.
Um die sich schnell entwickelnden Gefahren von Deepfakes zu bekämpfen, wie es das FBI nennt, sollten Organisationen und die Öffentlichkeit dies tun. gute Informationshygiene herstellen einschließlich Multifaktorauthentifizierung und Vorbereitung zur Identifizierung böswilliger Versuche im Bereich Social Engineering und Spearphishing. Das Präsidium schlägt außerdem vor, dass Unternehmen ihre Mitarbeiter für die Verwendung des SIFT-Frameworks für die Ausfallsicherheit von Medien schulen. Dies ist die Abkürzung für Stop, Ermittlung der Informationsquelle, Suche nach vertrauenswürdiger Abdeckung undVerfolgen Sie den ursprünglichen Inhalt.
Das Überprüfen von Profilfotos von Online-Konten auf visuelle Störungen oder Hinweise auf Unwahrheiten - wie visuelle Verzerrungen um Pupillen, Ohrläppchen oder abgehackte Hintergründe - kann auch dazu beitragen, Benutzer vor Manipulationen durch falsche oder synthetische Medien zu schützen. Es gibt jedoch keine perfekte Möglichkeit, sich vor hohen Werten zu schützen-end Deepfake-KI-Treiber, die speziell für die Manipulation öffentlicher oder privater Entscheidungen entwickelt wurden, werden die Kosten und die Zeit, die für die Entwicklung überzeugender Deepfakes erforderlich sind, sie wahrscheinlich für alle außer den meisten außer Reichweite halten. engagierte Agenten zukünftiger Cyberkriminalität .