Seit Jahren warnen Forscher und Aktivisten davor, dass KI so gut darin wird, Video und Audio zu manipulieren, dass schlechte Schauspieler es so aussehen lassen können, als würden Leute Dinge sagen, die sie nie getan haben.
Diese gefälschten Videos – Experten nennen sie „Deep Fakes“ – könnten absolut verheerende Folgen haben.
Schlechte Schauspieler könnten zivile Unruhen schüren, indem sie Angst und Hass säen. Sie könnten Kriege beginnen. Sie könnten fast jede Art von Fehlinformationen verbreiten.
Erhalten Sie mehr Updates zu dieser Geschichte und mehr mit The Blueprint, unserem täglichen Newsletter: Hier kostenlos anmelden.
Genau das ist gerade in der Ukraine passiert.
Heute früh gab der ukrainische neue Sender Channel 24 bekannt, dass Hacker, die in seine Website und seinen Fernsehkanal eingebrochen waren, einen Deepfake geteilt hatten, der den ukrainischen Präsidenten Wolodymyr Selenskyj darstellte, der die Ukrainer aufforderte, die Waffen niederzulegen.
Der Sender erklärte in einem Facebook-Post, dass die Ankündigung gefälscht und das Ergebnis eines Hacks war.
„Die Running Line des Fernsehsenders ‚Ukraine 24‘ und die ‚Today‘-Website wurden von feindlichen Hackern gehackt und sendeten Selenskyjs Nachricht über die angebliche ‚Kapitulation‘❗️❗️❗️ DAS IST FALSCH! FALSCH!“, heißt es in dem Post auf Englisch.
Ein Transkript des fabrizierten Audios wurde auf Channel 24 gepostet gehackte Website. Eine automatisch generierte Übersetzung der Nachricht lautet teilweise " Ich rate euch, die Waffen niederzulegen und zu euren Familien zurückzukehren. Du solltest in diesem Krieg nicht sterben. Ich rate dir zu leben und ich werde dasselbe tun.
Dieser Vorfall war für niemanden, der die Situation in der Ukraine genau beobachtet, eine große Überraschung. Anfang dieses Monats hat die Ukrainische Armee hat vor gefälschten Videos gewarnt.
„Stellen Sie sich vor, Sie sehen Vladimir Zelensky im Fernsehen, der eine Kapitulationserklärung abgibt. Sie sehen es, Sie hören es – also ist es wahr. Aber das ist nicht wahr! Das ist Deepfake-Technologie“, heißt es in dem Beitrag auf Ukrainisch.
„Dies wird kein echtes Video sein, sondern durch maschinelle Lernalgorithmen erstellt. Videos, die mit solchen Technologien erstellt wurden, sind kaum von echten zu unterscheiden“, fährt der Beitrag fort.
Dieser Vorfall ist überraschend, weil der Deepfake, nun ja, nicht sehr gut war. Die Technologie zum Erstellen wirklich nicht zu unterscheidender Deepfakes existiert nicht nur – sie ist für fast jeden leicht zugänglich. A Studie letzten Monat veröffentlicht zeigte, dass gewöhnliche Menschen keine Chance hatten, den Unterschied zwischen einem Standbild eines echten Gesichts und einem Deepfake zu erkennen.
Aber der Deepfake von Zelenskyy war nicht ganz so überzeugend. Er sieht eher aus wie ein Copy-Paste-Job als ein KI-fähiger Superschurke.
Ein Deepfake des ukrainischen Präsidenten Wolodymyr Selenskyj, der seine Soldaten auffordert, ihre Waffen niederzulegen, wurde Berichten zufolge heute auf eine gehackte ukrainische Nachrichten-Website hochgeladen, per @Shayan86 pic.twitter.com/tXLrYECGY4
— Mikael Thalen @MikaelThalen 16. März 2022
Natürlich ist es egal, wie gut der Deepfake ist. Wichtig ist, ob die Leute überzeugt sind.
Es ist jedoch unmöglich zu sagen, welche – wenn überhaupt – Wirkung dieser Propaganda-Schritt hatteEuronews-Berichte diese eine Version auf Twitter wurde mehr als 120.000 Mal angesehen.
Sam Gregory, der Programmdirektor bei einer Menschenrechts- und Technologiegruppe namens Witness ist, sagte der Verkaufsstelle: „[d]ies ist der erste Deepfake, den wir gesehen haben, der auf absichtliche und weitgehend irreführende Weise verwendet wird.“
Bis zum Zeitpunkt des Schreibens hat niemand die Verantwortung für das Video übernommen.
Zelenskyy antwortete heute mit einem kurzen Video auf Instagram, in dem er den Zuschauern versicherte, dass er nicht nachgeben werde.
"Die einzigen, die die Waffen abgeben sollten, sind russische Soldaten“, sagt er im Video.
Diesen Beitrag auf Instagram ansehen