Als neue Waffe an der ukrainisch-russischen Informationsfront wurde vor Kurzem ein Deepfake Video veröffentlicht. Der Inhalt: Eine angebliche Kapitulation von Präsident Wolodymyr Selenskyj.
Im März ist es feindlichen Hackern gelungen, ein mit Künstlicher Intelligenz generiertes Video von Wolodymyr Selenskyj über den Nachrichtensender Ukraine 24 zu veröffentlichen. Auch in den Sozialen Medien hat die Verbreitung des Deepfake Videos in kürzester Zeit seinen Lauf genommen, unter anderem auf Telegram und der russischen Plattform VKontakte. Auf Facebook, Twitter und YouTube wurde das Originalvideo allerdings bereits nach wenigen Stunden entweder entfernt oder als Falschinformation gekennzeichnet.
Die Fake-Botschaft:
Dem Video nach forderte der Fake Selenskyj sein Volk dazu auf, die Waffen niederzulegen und nicht mehr gegen die Russen anzukämpfen. Im Sinne der Kapitulation sei er ebenfalls bereits aus Kiew geflohen.
A deepfake of Ukrainian President Volodymyr Zelensky calling on his soldiers to lay down their weapons was reportedly uploaded to a hacked Ukrainian news website today, per @Shayan86 pic.twitter.com/tXLrYECGY4
— Mikael Thalen (@MikaelThalen) March 16, 2022
Woran ist das Deepfake Video zu erkennen?
Doch nicht nur der Einsatz des Deepfake Videos machte globale Schlagzeilen: Zahlreiche Expert:innen äußerten sich über die unglaublich schlechte Qualität.
Nina Schick, Autorin von Deepfake behauptete, dass das Bewegtbild wie ein absolut schrecklicher Faceswap aussieht. Mounir Ibrahim, Vice President von Truepic, zog den Vergleich zu einem Cheepfake – einem Video, das eine billigere Technologie als für die Generierung von Deepfakes einsetzt.
Jane Lytvynenko, ukrainische Reporterin und Fachfrau für Medienmanipulation, verwies unterdes auf einen außerordentlich groben Fehler:
„If yer gonna go through all the trouble, at least match the neck to the face!“
So ist insbesondere am Hautton sofort zu erkennen, dass der Hals nicht zum Kopf passt.
Doch was sind weitere Indizien? Obwohl die Lippensynchronisation annähernd passabel ist, sind der falsche Akzent, etwaige nicht vorhandene Schatten, Verpixelungen um den Kopf und die starre Körperhaltung weitere Kennzeichen für die Fälschung.
Warnung durch die ukrainische Regierung
Nicht nur die mangelnde Qualität, auch die ausgezeichnete Reaktionskette führte zu einer Schadensminimierung: Die ukrainische Regierung hatte bereits Wochen zuvor mit einem Facebook Posting vor einer Propaganda dieser Art gewarnt. In diesem erklärten sie, dass es sich bei so einem Video nicht um ein echtes, sondern um eines durch Algorithmen erstelltes handeln würde. Es diene der Desorientierung und Bürger können versichert sein, dass sich die Ukraine niemals ergeben würde.
Selenskyj hatte am Tag der Deepfake Video Veröffentlichung ebenfalls nach wenigen Minuten ein echtes Statement auf Instagram gepostet, um die angebliche Kapitulation zu widerlegen.
Das zweite Deepfake-Video: Putin
Neben Selenskyj kursierte auch von Putin ein Deepfake Video im Netz, indem er den vorgeblichen Erfolg seiner Mission in der Ukraine verkündete. In diesem Fall ist die Fälschung ebenfalls gut zu erkennen wie beispielsweise an der abweichenden Lippensynchronisation sowie der nicht authentischen Stimme.
A deepfake of Russian President Vladimir Putin claiming that Russia has won the war is circulating online today as well.
The deepfake Putin even says that Ukraine has recognized Crimea as Russian territory.
But the video is not new and was first seen online late last month. pic.twitter.com/mEZIQOu5wj
— Mikael Thalen (@MikaelThalen) March 16, 2022
Echtheits-Prüfung mit Tools:
Aufgrund der schnellen Reaktion seitens der Social Media Plattformen, des ukrainischen Präsidenten und zahlreicher Expert:innen kam es zu einer rasanten Entschärfung des Zelenksy Deepfake. Doch dieser Sieg ist nur vorübergehend. So könnten aufgrund der technologischen Weiterentwicklungen bald hochwertigere Deepfakes einen enormen Schaden anrichten, ganz besonders in der Politik.
Um dieser Gefahr entgegenzuwirken wurden Tools zur Verfügung gestellt, mit denen die Echtheit von Videos geprüft werden kann wie unter anderem dieses: https://scanner.deepware.ai/ .