Die Macht des GAN. Wie man KI generierte Bildfälschungen erkennt.

Bilder, die mit GAN erzeugt wurden

Während der Begriff „Fake News“ – dank Donald Trump – bereits in unserem Sprachgebrauch angekommen ist, zeigen viele neue Experimente wozu die nächste Generation der KI Software imstande ist. Mittels GANs (Generative Adversarial Networks) ist eine professionelle Manipulation von Bildern möglich. Der GAN Algorithmus wird von vielen KI-Pionieren als wichtiger Meilenstein im Deep Learning gefeiert. 

Auf der Website ThisPersonDoesNotExist.com zeigt Philip Wang, Softwareentwickler bei Uber beispielsweise die manipulative Macht der GANs. Bei Reload der Seite werden unendlich viele gefälschte Gesichter erzeugt.

Der hinter diesem Projekt stehende Algorithmus wird mittels eines riesigen Datensatzes von realen Bildern trainiert. Man verwendet anschließend ein neuronales Netzwerk, das als GAN bekannt ist, um neue Beispiele zu erzeugen.

Die Menschen auf diesen Bildern wurden mit GANs erzeugt.
Sie existieren nicht! Quelle: ThisPersonDoesNotExist.com

 

 

Was sind GANs?

GANs (Generative Adversarial Networks ) sind eine Gruppe von Algorithmen für unüberwachtes Lernen. In Anlehnung an den Turing-Test wird die Methode auch als „Turing-Lernen“ bezeichnet. Sie bestehen aus zwei künstlichen neuronalen Netzwerken, die ein Nullsummenspiel durchführen. Eines davon erstellt Kandidaten (der Generator), das zweite neuronale Netzwerk bewertet die Kandidaten (der Diskriminator).

Das Ziel des Generators ist es zu lernen, Ergebnisse nach einer bestimmten Verteilung zu erzeugen. Der Diskriminator wird hingegen darauf trainiert, die Ergebnisse des Generators von den Daten aus der echten, vorgegebenen Verteilung zu unterscheiden. Die Zielfunktion des Generators besteht dann darin, Ergebnisse zu erzeugen, die der Diskriminator nicht unterscheiden kann.

Wofür werden GANs eingesetzt?

GANs werden unter anderem zur Erstellung photorealistischer Bilder, zur Modellierung von Bewegungsmustern in Videos,  zur Erstellung von 3D-Modellen von Objekten aus 2D-Bildern und zur Bildbearbeitung astronomischer Bilder verwendet.

Wer hat GAN erfunden?

Als Erfinder des GAN gilt der amerikanische Informatiker Ian Goodfellow (geb. 1987), der die Technologie erstmals 2014 vorstellte und seit 2017 bei Google Brain tätig ist. Goodfellow studierte an der Stanford University und promovierte anschließend an der Université de Montréal. Er ist mit Aaron Courville und seinem Doktorvater Yoshua Bengio Verfasser des Standardwerks Deep Learning (Adaptive Computation and Machine Learning)

Wir man gefälschte KI Bilder erkennt

Hier ein paar Tips, die als Hinweise auf GAN erzeugte Bilder dienen. Auch wenn in diesem Beitrag nur Bilder von Menschen analysiert werden, gelten die untenstehende Regeln für alle Bilder, die mit dieser speziellen Technologie manipuliert wurden.

  1. Haarpracht: GAN generierte Haare sehen oft aus wie angepinselt, sie haben keinen natürlichen Verlauf. Dinge, die keine Haare sind, können sich manchmal auch in haarähnliche Texturen verwandeln.

    GAN geschaffene Haare
    Die komplexe Struktur der Haare bietet einen guten Anhaltspunkt für das Erkennen von GAN Fälschungen. Haarähnliche Strukturen im Hintergrund und unnatürlich wirkende Verläufe sind ein Hinweis.
  2. Zähne: Hin und wieder erzeugt ein GAN falsch ausgerichtete Zähne in unregelmäßigen Größen.

    GAN kreierte Bilder stellen Zähne oft falsch dar
    Ungleiche, asymmetrische Zähne, oder Zähne die eigentlich nicht existieren dürften sind ebenfalls ein Hinweis auf ein GAN kreiertes Bild
  3. Hintergründe: GANs werden zentral auf Gesichter und nicht auf Objekte und Szenarien im Hintergrund trainiert. Sie haben deshalb ein Problem damit, Strukturen zu erfassen, die im Hintergrund zu sehen sind. Achten sie auf (oft unlesbare) Typografie, sich wiederholende Hintergründe und seltsame Spiegelungen.

    GAN manipuliertes Foto Hintergrund
    Seltsam wirkende Hintergründe, unlesbare Schriften und  sich wiederholende Elemente sind ein Indiz für ein GAN manipuliertes Foto
  4. Asymmetrie der Ohren: Während gepaarte Accessoires wie z.B. Ohrringe in der Regel im Datensatz übereinstimmen, sind sie in den erzeugten Bildern nicht enthalten oder werden asymmetrisch dargestellt. Achten sie besonders auf die Ohren, die sich manchmal in sehr ungleichen Höhen befinden und unterschiedliche Größen haben.

    Asymetrie der GAN manipulierten Bilder
    Die Asymmetrie der Ohren ist ein Zeichen für ein GAN gefälschtes Bild.


Die helle und die dunkle Seite der GANs

Die Leistungsfähigkeit der GANs wirft viele Fragen auf. Die kreativen Anwendungsmöglichkeiten sind schier unendlich. So finden GANs auch in der Kunstszene bereits großen Anklang.

Wie bei allen spektakulären KI Anwendungen gibt es natürlich auch eine dunkle Seite. Die Fähigkeit der GANs, photorealistische Bilder zu manipulieren und zu erzeugen schafft erneut ein Vertrauensproblem. Eine Diskussion, die zuletzt auch nach dem Aufflammen des Deep Fake Phänomens geführt wurde, bei dem in erster Linie Prominente (von denen im Netz viel Trainingsmaterial für die KI zur Verfügung steht) Opfer von gefälschten Videos wurden.

Viele Konflikte und Kriege wurden auf Basis gefälschten Bild- und Video Materials gerechtfertigt. Mit GANs erhalten diese Fälschungen eine neue Qualität. Sie sind unbegrenzt skalierbar, können politischer Propaganda dienen und Kampagnen massiv beeinflussen.

ThisPersonDoesNotExist.com und ähnliche Projekte sind deshalb auch als Weckruf für alle zu verstehen, die sich mit künstlicher Intelligenz und deren Macht zur Manipulation noch nicht beschäftigt haben.

%d Bloggern gefällt das: