Frauenbild verändert RichLegg / iStock
Um Deepfakes online zu erkennen, arbeiten Facebook, Microsoft und die Partnerschaft für KI mit der Wissenschaft zusammen, um die Deepfake Detection Challenge zu starten.
In a Blogbeitrag Mike Schroepfer, Chief Technology Officer bei Facebook, sagte, das Ziel der Herausforderung sei es, Open Source-Technologie zu entwickeln, die besser erkennen kann, wann künstliche Intelligenz wurde verwendet, um das Video zu ändern, um irrezuführen.
VERBINDUNG: DEEPFAKES SIND SCHLECHT, ABER WAS SIND EINIGE DER MÖGLICHEN VORTEILE?
Facebook möchte Innovationen zur Bekämpfung von Deepfakes vorantreiben
Die Deepfake Detection Challenge umfasst einen Datensatz, eine Rangliste, Zuschüsse und Auszeichnungen, um Innovationen in diesem Bereich voranzutreiben. Cornell Tech, MIT, Universität Oxford, UC Berkeley, Universität Maryland, College Park und Universität Albany-SUNY schließen sich mit Facebook, Microsoft und der Partnerschaft für KI zusammen, um die Herausforderung zu ermöglichen.
Facebook arbeitet mit Branchenführern und akademischen Forschern zusammen, um die DeepFake Detection Challenge zu erstellen, eine gemeinsame Anstrengung, um neue Tools zum Erkennen von Videos zu entwickeln, die mit KI manipuliert wurden. https://t.co/IlwSVmhQxb pic.twitter.com/XNpR95MniF
- Facebook AI @facebookai 5. September 2019
Schroepfer sagte, es sei wichtig, dass die Daten für die Community frei verfügbar sind. Infolgedessen widmet Facebook mehr als 10 USD Millionen zur Finanzierung der Bemühungen werden bezahlte Akteure mit der erforderlichen Zustimmung einsetzen, um zur Herausforderung beizutragen. Für die Herausforderungen werden keine Daten des Social-Media-Riesen verwendet, sagte Schröder.
“ Deepfake Techniken, die realistische KI-generierte Videos von realen Personen zeigen, die fiktive Dinge tun und sagen, haben erhebliche Auswirkungen auf die Legitimität der online präsentierten Informationen. Die Branche verfügt jedoch nicht über einen hervorragenden Datensatz oder Benchmark, um sie zu erkennen. "schrieb die Führungskraft in dem Blog-Beitrag: "Wir wollen mehr Forschung und Entwicklung in diesem Bereich katalysieren und sicherstellen, dass es bessere Open-Source-Tools gibt, um Deepfakes zu erkennen."
Partnerschaft für KI, um die Führung bei der Regierungsführung zu übernehmen
Die Governance-Aspekte der Herausforderung werden von der Partnerschaft im neuen Lenkungsausschuss für KI und Medienintegrität von AI überwacht. Dieser Ausschuss setzt sich unter anderem aus Organisationen wie Facebook, Microsoft und WITNESS zusammen. "Dies ist ein sich ständig weiterentwickelndes Problemwie Spam oder andere kontroverse Herausforderungen, und wir hoffen, dass wir durch die Unterstützung der Industrie und der KI-Community schnellere Fortschritte erzielen können ", so Schröder.
Facebooks Bemühungen kommen zu einer Zeit, in der Deepfakes zunehmend genutzt werden, um nicht nur online Videos zu ändern. Laut einem kürzlich veröffentlichten Bericht haben Kriminelle eine Deepfake der Stimme einer Führungskraft verwendet, um ihn zum Geldtransfer zu verleiten. Laut a Bericht des Wall Street Journal die 243.000 USD Die Überweisung war angeblich eine Zahlung an einen ungarischen Lieferanten, und der britische CEO, der glaubte, mit seinem deutschen Chef gesprochen zu haben, nahm die Überweisung wie gewünscht vor.
Mit den US-Präsidentschaftswahlen im Jahr 2020 wächst die Befürchtung, dass politische Aktivisten Deepfakes verwenden, um Kandidaten zu beschmieren. Der Ruf von Facebook hat bereits nach den Wahlen 2016 einen großen Erfolg gehabt und unternimmt jetzt Schritte, um diesmal eine Wiederholung zu verhindern.