Aktuelle Machine Learning Modelle wie GPT-2 erzeugen mittlerweile Texte, die von menschlichen kaum mehr zu unterscheiden sind. GPT-2 ist ein maschinelles Lernmodell, das darauf trainiert wurde, das "nächste Wort" in einem Eingabekontext vorherzusagen. Satz für Satz entsteht so ein Text, der sich menschlich anfühlt. So weit, so gut. Dieses Werkzeug kann man aber auch für die dunkle Seite nutzen, z.B. um gefälschte Kundenrezensionen, Kommentare oder Fake News zu generieren und/ oder die öffentliche Meinung zu beeinflussen.
GLTR, eine Abkürzung für "Giant Language Model Test Room" entstand in einer Zusammenarbeit von MIT-IBM Watson AI lab und dem HarvardNLP. Es ist ein forensisches Werkzeug, das dazu dient, Texte zu erkennen, die automatisch aus Sprachmodellen generiert wurden. GLTR hat Zugriff auf das GPT-2 Sprachmodell von OpenAI, einem der besten verfügbaren Modelle. Es kann analysieren, was GPT-2 an jeder Position "vorhergesagt" hätte. Im Gegensatz dazu würde ein Mensch tatsächlich häufiger unvorhersehbare Wörter auswählen. GLTR kann diesen Unterschied erkennen und entlarvt so denmMaschinengeschriebenen Text.
Wenn sie einen Text prüfen wollen, haben sie HIER die Möglichkeit dazu.
