Inhalt

ÜBERWACHUNG
Katika Kühnreich
Die Super-Schufa

Mit Sozialkredit-Systemen will die KP vermeintlich Gute fördern und Schlechte bestrafen. Doch dahinter steckt kein rein chinesisches Phänomen

China gehört in der Forschung zu maschinellem Lernen (ML) und künstlicher Intelligenz (KI) inzwischen zu den führenden Nationen. Und zeigt, wozu diese Entwicklungen genutzt werden können: Sozialkredit-Systeme ("Social Credit Systeme", SCS). Diese Systeme, die verkürzt als "digitalisierte gesellschaftliche Bewertungssysteme" übersetzt werden können, wirken wie eine "Super-Schufa" für fast alle Lebensbereich. Die chinesische Führung plant, ganz China von solchen Systemen überwachen zu lassen, derzeit laufen landesweit über 80 Pilotprojekte in Städten und Gemeinden. Die Bevölkerung dient als Testmasse - oft ohne ihr Wissen oder die Möglichkeit, über ihre Partizipation an den SCS entscheiden zu können.

Die Systeme erweitern klassische technologische Überwachung mit der heute möglichen Bewältigung enormer Datenmengen in Echtzeit - und sie werden perspektivisch durch ML und KI noch wirkungsvoller werden. Es sind digitalisierte Systeme, die dazu ausgelegt sind, analoge und digitale Daten über Individuen und Organisationen zu sammeln und diese zu bewerten, um die Gesellschaft so zu steuern. Diese Systeme sind ihrer Ausrichtung nach nahezu allumfassend. Bewertungsmaßstab der SCS sind das von der Kommunistischen Partei Chinas (KP) vermittelte Menschenbild sowie gewünschter Verhaltensstandards. Die KP ordnet die SCS als wichtige Etappe auf dem Weg zum Erreichen einer "Sozialistischen Harmonischen Gesellschaft" ein. Beworben werden sie als Werkzeug für eine geregelte Gesellschaft und Industrie, in der die Schlechten bestraft, die Guten indes gefördert werden. Die SCS saugen dazu Daten von Verkehrsverhalten bis Schulabschluss. Wer beispielsweise spendet oder Freiwilligenarbeit leistet, bekommt Punkte gutgeschrieben, wer seine gerichtliche Strafe nicht begleicht oder anderweitig auffällt, verliert Punkte. Letzteres gilt es zu vermeiden, denn das Punktekonto kann über Kreditwürdigkeit, Beförderung, Wohnort oder Schule der Kinder entscheiden - oder über die Zukunft der betroffenen Firma.

Noch existiert das eine System der Bewertung nicht, sondern viele unterschiedliche. Für Individuen existieren zusätzlich privatwirtschaftliche Systeme; nicht nur einzelne Menschen werden bewertet, sondern auch Firmen und Organisationen - und die Systeme werden untereinander immer weiter verschränkt. Große Technologieunternehmen wie Alibaba und Tencent locken mit eigenen, stark gamifizierten Systemen wie Sesam Kredit. Ursprünglich angekündigt, um aus dem Surf- und Konsumverhalten die Zuverlässigkeit von Personen zu berechnen, überwachen und steuern diese Systeme nun das Verhalten der Teilnehmer durch kleine Anreize und Belohnungen: Mach dies, kauf jenes, spende dort - alles für eine bessere Bewertung.

Politische Steuerung Gegenüber der Bevölkerung propagiert die KP die Implementierung der verschiedenen SCS als technologische Lösung verschiedenster politischer und sozialer Probleme: Neben dem Zugang breiter Bevölkerungsteile zu kommerziellen Krediten werden Vertrauen, Sicherheit, Gerechtigkeit und Transparenz über die Zuverlässigkeit von Firmen und Personen angeführt, ebenso eine Notwendigkeit, Informationen zusammenzuführen. Zudem werden die SCS als Instrument einer verbesserten Regierungsfähigkeit angepriesen. Denn Chinas Turbo-Kapitalismus strotzt vor Skandalen, die weite Teile der Bevölkerung erschüttern. Das gilt etwa für Korruption und Umweltzerstörung, besonders aber auch für den Lebensmittelbereich. So starben 2008 mehrere Babys durch gepanschtes Milchpulver, Hunderttausende erkrankten. Nicht alle glauben an die Vorteile der SCS. Aber es ist schwierig, dies in einem autoritären System zu äußern - gerade dann, wenn es sich um Kritik am Aufbau von Bewertungssystemen handelt, die über die eigene Zukunft entscheiden können.

Für ihre Berechnungen benötigen die SCS viele personalisierte Daten. An diese zu gelangen, ist inzwischen simpel: Die meisten Menschen erzeugen sie unbewusst ständig durch ihr sogenanntes "Smartphone". Die SCS demonstrieren, wie die immer fester werdende Verbindung zwischen Mensch und Telefoncomputer von Firmen, Regierungen oder sonstigen Interessengruppen dual genutzt werden kann: Zum einen gibt der Mensch Fragen, Standorte, Kontakte, Gefühle und Ansichten in Echtzeit über seinen Computer weiter und speist sie selbst ins Netz ein. Was mit diesen Daten anschließend geschieht, was aus ihnen errechnet wird und welche Konsequenzen dies später haben kann, bleibt für das Individuum im Dunkeln.

Zum anderen bieten "Smartphones" die historisch neue Möglichkeit einer individualisierten Beeinflussung, die dem Individuum immer dahin folgt, wo es ist. Techniken wie die Gamifizierung, die zum einen den Spieltrieb des Menschen und zum anderen seine einfache Beeinflussung durch provozierte Dopaminausstöße zur Verhaltensmodifikation ausnutzt, werden auch im Westen gezielt eingesetzt, um Menschen an Plattformen zu binden oder sie anderweitig zu beeinflussen. Das passiert etwa durch den Punktestand und Vergünstigungen beim chinesischen Sesam Kredit oder beim deutschen Bonus-System Payback - oder durch Facebooks "Gefällt mir"-Button.

Die Digitalisierung allgemein und das Internet im Speziellen sind Voraussetzungen für die Informationssammlung und -verarbeitung der SCS. Schon früh begriff die KP das Netz als Kommunikationsmittel und überwachte es entsprechend. Die Kommunikation über verschiedene digitale Plattformen wurde jedoch nie ganz verboten oder komplett zensiert - um die Äußerungen zu analysieren. Ebenso wenig unterband die KP die internationale Tendenz der vergangenen Dekade, durch "Smartphones" immer mehr soziale Kontakte über Maschinen zu pflegen sowie über diese Maschinen zu konsumieren. Stattdessen werden die dadurch entstehenden Informationen ausgewertet und genutzt.

Die Sozialkredit-Systeme werden in China seit Jahren vorbereitet - im Westen wird allerdings erst seit kurzem darüber berichtet. In den Berichten zeichnet sich aber eine verwunderliche Tendenz ab: In westlichen Ländern scheint sich das Selbstbild einer freien Gesellschaft datensensibler Menschen etabliert zu haben. Dem entgegen wird China als fernöstliches Big-Brother-System gesehen, das alle zur Verfügung stehenden technologischen Mittel nutzt, Menschen zu unterdrücken und zu lenken. So werden Datensammlungen, Kameraüberwachung, der Einsatz von Biometrie und Data Mining in Bezug auf China kritisch gesehen, der Einsatz gleicher Technologien im Westen dagegen überwiegend nicht als Gefahr wahrgenommen - obwohl auch hier auf Biometrie und technologische Überwachung gesetzt und das Onlineverhalten der Bevölkerung ausgewertet wird.

Daten sind Macht Das SCS ist nicht nur ein chinesisches Phänomen, sondern sollte als Ausdruck dreier alarmierender globaler Entwicklungen begriffen werden: So werden erstens gesellschaftliche Probleme sowie ihre Lenkung und Kontrolle vermehrt durch technologische Mittel geregelt. Zweitens reift die Erkenntnis, dass harte Systeme der Unterdrückung Ablehnung und Gegenwehr provozieren können, weiche Systeme wie die SCS den Menschen hingegen umfangen, ohne diese Abwehrreaktionen hervorzurufen. Als Drittes ist die Verhaltensmodifikation durch Gamification, "Nudging" und "Soziale Medien" zu nennen. An den SCS zeigt sich noch eine weitere Tendenz, die nicht nur chinesisch ist. Durch die derzeitige Form der Digitalisierung schwindet die Privatsphäre. Doch eben diese ermöglicht eine möglichst freie Gesellschaft. Zudem können einmal erzeugte Daten kaum zurückgeholt werden, aber noch in ferner Zukunft zur Gefahr werden. Denn die Bedeutung von Daten hat sich gewandelt. Daten sind nicht nur Ressource für internationale Wirtschaftszweige geworden. Daten bedeuten heute Macht.

Zusätzlich bedeuten die ständige Vernetztheit und Datenfreigabe nicht nur gesellschaftliche Nachteile: Sie benötigen immense Mengen an Elektrizität. Als Land gerechnet hat das Internet den weltweit drittgrößten Stromverbrauch und der Verbrauch der beschönigend "Clouds" genannten Serverfarmen, die zur ständigen Speicherung der Daten benötigt wird, steigt weltweit an.

Chinas Sozialkredit-Systeme können so als warnendes Beispiel über die Ausmaße der autoritären Nutzbarkeit von Datensammlungen dienen. Als Begründung, sich gegen Verhaltensmodifikationen durch Techniken wie der Gamifizierung und die Abgabe von Verantwortung an selbstlernende Maschinen zu wenden - und um für eine freie Gesellschaft einzutreten und gegen strom- und ressourcenfressende Systeme digitalisierter Überwachung.Katika Kühnreich

Die Autorin ist Politikwissenschaftlerin und Sinologin. Sie forscht zu den gesellschaftlichen Auswirkungen der Digitalisierung.

Aus Politik und Zeitgeschichte

© 2016 Deutscher Bundestag