25. April 2024
Black Mirror, Social Credit

Chinas „Social Credit“ System. Und wie sieht ihr Rating aus?

In einer umstrittenen Weltneuheit plant China, bis 2020 ein Social Credit System (offiziell als Social Credit Score oder SCS bezeichnet) einzuführen. Die Idee tauchte erstmals in einem Dokument der Chinesischen Regierung auf das im Juni 2014 veröffentlicht wurde und zeigt wohl die dunkle Seite des technologischen Fortschritts.

Das SCS ist relativ einfach aufgebaut. Jedem Chinesischen Bürger, das sind inzwischen weit über 1,3 Milliarden, wird dabei eine Punktzahl zugeteilt die für jedermann einsehbar ist. Diese „Bürgerbewertung“ erschließt sich aus der Beobachtung des Sozialverhaltens eines Individuums, also vom der Kreditwürdigkeit bis hin zu seinen sozialen Interaktionen. Dieser Score wird dann zur Grundlage für die Vertrauenswürdigkeit dieser Person, die auch öffentlich bewertet wird. Ein Orwell’scher Alptraum sozusagen.

black-mirror-02
Quelle: David Dettmann/ Netflix

Die Punktzahl eines Bürgers wirkt sich letztendlich auf seine Eignung für eine Reihe von Dienstleistungen aus, einschließlich der Art von Jobs oder Hypotheken, die er erhalten kann. Oder auf die Schulen die seine Kinder besuchen dürfen. Auch auf die Anzahl der Vorschläge in Partner-Börsen oder Wartezeiten an Hotel-Rezeptionen soll das SCS Einfluß haben. In dieser Hinsicht ähnelt die SCS einer der gruseligsten Episoden aus der dritten Staffel von Black Mirror. Black Mirror ist ein SciFi Geniestreich von Channel4/ Netflix und zeigt in unterschiedlichen Episoden dystopische Ansichten unserer Gesellschaft.

China hat bereits mit der freiwilligen Implementierung des SCS begonnen und arbeitet mit einer Reihe von Privatunternehmen zusammen, um die algorithmischen Details die für ein solch groß angelegtes, datengesteuertes System benötigt werden zu klären. Bis 2020 soll es dann soweit sein.

Zu den Unternehmen, die SCS einführen gehören China Rapid Finance, ein Partner des sozialen Netzwerkriesen Tencent, und Sesame Credit, eine Tochtergesellschaft des Alibaba-Tochterunternehmens Ant Financial Services Group (AFSG). Sowohl Rapid Finance als auch Sesame Credit haben Zugang zu beeindruckenden Datenmengen, erstere über die WeChat Messaging-App (derzeit 850 Millionen aktive Nutzer) und letztere über das AliPay-Zahlungsservice.

Laut lokalen Medien kommt Tencent’s SCS Ergebnis aus der QQ-Chat-App, bei der die Punktzahl einer Person in einem Bereich zwischen 300 und 850 liegt und in fünf Unterkategorien unterteilt ist: soziale Verbindungen, Konsumverhalten, Sicherheit, Wohlstand und Compliance.

Positive und negative Verstärkung, eine Grenzüberschreitung

Befürworter der SCS sehen darin eine Chance, viele der staatlichen Dienstleistungen zu verbessern und argumentieren, dass dies vielen chinesischen Bürgern den dringend benötigten Zugang zu Finanzdienstleistungen verschaffen würde. Das utopische Ziel der Verwaltung besteht darin,  alle Beteiligten zu ermutigen ihren Umgang mit Schulden zu verbessern. Aber das strukturelle Management der persönlichen Finanzen auf dieser Ebene überschreitet gleich mehrere Grenzen. Das Hauptproblem liegt darin, dass das SCS weit über die bloße Bewertung der Fähigkeit zur Schuldenbewertung hinausgeht, der Mensch als Ganzes bekommt einen Wert, eine Zahl nach der er bemessen wird.

Ein System wie dieses könnte sehr restriktiv agieren. Li Yingyun, CTO von Sesame Credit, gesteht ein, dass unter einem SCS-System eine Person nach ihren Einkäufen beurteilt werden könne. „Jemand, der z.B. zehn Stunden am Tag Videospiele spielt, würde als untätige Person betrachtet werden“, sagte Li.

Schöne neue Welt.

 

Michael Katzlberger

Michael Katzlberger widmet sich mit Leidenschaft dem Thema Künstliche Intelligenz in der Kreativindustrie, berät Unternehmen und gibt sein Wissen in Seminaren, Lehrveranstaltungen und Gastvorträgen im In- und Ausland weiter. Sein Schwerpunkt liegt hierbei darauf, das Thema KI zu entmystifizieren, um es EPUs, KMUs und der breiteren Öffentlichkeit besser zugänglich zu machen. 2022 gründete er 3LIOT.ai, eine hybride Kreativagentur aus Mensch und KI. Das Ziel: Die Grenzen menschlicher Kreativität zu erweitern.

Alle Beiträge ansehen von Michael Katzlberger →

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert