Permanente Videoüberwachung, Gesichtserkennungssoftware

Wie der Digitalstaat uns manipuliert

Lacie hat eine 4.2. Dieser Wert reicht nicht. Um in eine der exklusiven Vorstadt-Wohnungen ziehen zu können, braucht sie eine 4.5. Aber noch netter grüssen geht nicht, noch strahlender lächeln auch nicht. Das tut die Hauptdarstellerin der Folge «Nosedive» aus der Netflix-Serie «Black Mirror» nämlich bereits von früh bis spät. Weil sie unter Dauerbeobachtung steht. Sie lebt in einer Gesellschaft, die sich in einen rechnergestützten Albtraum manövriert hat. In einer Zukunft, in der die Menschen sich gegenseitig bewerten, indem sie Handys wie Waffen aufeinander richten und pausenlos abdrücken.

Das Resultat dieser Dauerdrückerei: Jeder Mensch hat eine permanent aktualisierte Punktzahl, einen personalisierten digitalen Wert. Dieser entscheidet über den sozialen Status eines Menschen, seinen beruflichen Erfolg, seine Partnerwahl, sein Auto, seinen Wohnort. Und dort, wo die junge Lacie hinwill, braucht es eine 4.5. Also besucht sie die Hochzeit einer Freundin aus der High Society, auf der lauter Hochbewertete antanzen. Denn gute Bewertungen aus deren Handys treiben den eigenen Wert nach oben.

Lacies Reise zur Hochzeit wird zur Reise durch eine seelenlose Welt, in der die Menschen einen gleichgeschalteten Schwarm bilden, für den nur eines zählt: der digitale Wert. Die handygesteuerte soziale Kontrolle sorgt dafür, dass es kein Ausscheren, kein Aufmucken, keinen Streit und kein Fluchen gibt. Alles ist rosa. Alles ist friedlich. Und so denaturiert und abgekühlt, dass einen allein vom Zusehen fröstelt.

China geht es um die Kontrolle seiner Bürger

Auch die chinesische Regierung hat ein Szenario für die Zukunft entworfen. Darin sind es nicht die Menschen, die sich gegenseitig bewerten. Es ist der Staat, der seine Bürger bewertet. Die Idee ist einfach – was Hightech-Firmen wie Google, Facebook und Alibaba seit Jahren recht ist, soll dem Staat nur billig sein: die persönlichen digitalen Daten der Menschen zu sammeln und auszuwerten, um damit ihr zukünftiges Verhalten zu steuern. Den Internetfirmen geht es dabei um Profit. Dem Staat geht es um Kontrolle. China macht es vor.

Die Zukunft hat bereits begonnen. Was die chinesische Regierung seit einigen Jahren testet und ab 2020 flächendeckend einführen will, läuft unter der Bezeichnung Sozialkreditsystem. Die Regierung saugt sämtliche persönlichen Daten aller Chinesen auf, die sie kriegen kann. Mit dem Ziel, die Bürger zu manipulieren. Und das in einem sehr umfassenden Sinn: Sie sollen vertrauenswürdiger, regimetreuer, gesetzeskonformer und sozial angepasster werden. Gläserne Puppen im grossen Staatstheater – kein Ausscheren, kein Aufmucken, kein Streit und kein Fluchen.

Für das Sozialkreditsystem sind fast alle Lebensäusserungen des Einzelnen interessant: Konsumverhalten, Surfverhalten, Aktivitäten in den sozialen Netzwerken, Auftreten gegenüber den Behörden, Eintragungen in Schuldenregistern und Gerichtsdatenbanken. Das System sammelt die Daten und wertet sie aus. Das Resultat ist der Social Score: ein Punktestand zwischen 350 und 950 für jeden Bürger, verknüpft mit Belohnungen und Bestrafungen. Wer einen hohen Score vorweisen kann, wird beispielsweise bei Flug- und Hotelbuchungen bevorzugt, bekommt bessere Konditionen bei Krediten, steigert seine Ausbildungs- und Berufschancen und landet vielleicht sogar auf einer der öffentlichen roten Listen. Darauf werden Menschen geehrt, die sich durch besonders vorbildliches Verhalten hervortun. Ein tiefer Score hat den gegenteiligen Effekt: Einschränkung der Reisefreiheit, schlechtere Ausbildungs- und Jobchancen, Verweigerung von Krediten. Und vielleicht sogar die Anprangerung auf einer der schwarzen Listen, auf denen nicht nur Kriminelle, sondern auch regimekritische und verschuldete Bürger landen.

Die Schweiz wird sich entscheiden müssen

Die autoritäre chinesische Regierung installiert das Sozialkreditsystem, ohne die Bürger um ihre Meinung zu fragen. Aber wie sieht es in demokratischen Ländern aus? Seit den Enthüllungen Edward Snowdens und dem NSA-Skandal in den USA ist klar: Auch Demokratien sind vor den Verlockungen der digitalen Überwachungsmöglichkeiten nicht gefeit.

Und neben der Strafverfolgung gibt es eine Reihe weiterer Bereiche, in denen das Sammeln und Auswerten von Bürgerdaten aus Behördensicht attraktiv wäre. Um zu messen, wer wo wie engagiert mitmacht und sich an die Regeln hält, und um die Bürger anschliessend mit entsprechenden Anreizen in die gewünschte Richtung zu lenken.

Die Einführung eines Sozialkreditsystems mit einem persönlichen digitalen Score für jeden Schweizer würde es dem Staat zum Beispiel ermöglichen, Punkte für die Übernahme eines Gemeinderatsamtes zu vergeben. Oder fürs Engagement im Quartierverein. Fürs Zugfahren. Für einen leeren Strafregisterauszug. Für Spenden an gemeinnützige Organisationen, das pünktliche Bezahlen der Rechnungen oder das Einhalten der Verkehrsregeln. Und umgekehrt könnte der Staat SUV-Fahrer, Abstimmungsfaule, säumige Zahler und Sozialhilfebezüger mit Punktabzügen bestrafen.

Nur noch eine Frage der Zeit also, bis auch bei uns im grossen Rahmen Punkte gesammelt werden, um vom Staat die entsprechenden Belohnungen zu empfangen? Dazu müssen wir ihm lediglich den umfassenden Zugriff auf unsere persönlichen Daten gestatten. Was wir Google und Facebook schon seit Jahren erlauben.

Genau darin sieht Maximilian Stern (33), Co-Autor des Buches «Agenda für eine digitale Demokratie», die grösste Gefahr. «Was, wenn jemand den Vorschlag macht, auf den Facebook-Account von Sozialhilfebezügern zuzugreifen und ihr Freizeitverhalten auszuwerten? Dafür wäre eine Mehrheit des Stimmvolkes durchaus zu gewinnen.» Ein Score für Sozialhilfebezüger wäre ein erster Schritt in einem begrenzten Bereich. Effizient, pragmatisch und für die Mehrheit der Bürger nicht einmal persönlich relevant. Warum dann nicht auch einen Score für IV-Bezüger einführen? Und einen Score für Arbeits-lose? Oder für Einbürgerungswillige? Schritt für Schritt werden so weitere Gesellschaftsgruppen erfasst. Eine Einführung in Etappen.

Was haben wir schon zu verlieren?

Dann könnte man das Sozialkreditsystem doch gleich auf einen Schlag implementieren. Sofort und für alle. Einer Studie der deutschen Sinologin Genia Kostka zufolge befürworten 80 Prozent der Chinesen das Sozialkreditsystem. Es sei praktisch, effizient und mache das Leben einfacher.

Wie würden die Schweizer über ein solches System abstimmen? Maximilian Stern verweist auf ein Versicherungsunternehmen, das uns sagt: Schickt uns eure Jogging-Daten, dann erhaltet ihr tiefere Prämien! «Warum sollte das nicht auch verfangen, wenn der Staat mit einem ähnlichen Angebot anklopft? Angenommen, der Deal wäre folgender: Wir geben sämtliche Daten dem Staat und erhalten im Gegenzug einen tiefen Steuersatz, wenn unser persönlicher Score hoch ist.» Die Verlockung wäre gross, ist Stern überzeugt. «Wie viele Leute würden sich sagen: Was habe ich da als ehrlicher Bürger zu verlieren?»

Alles. Denn so verlockend ein solches System erscheinen mag: Unsere Selbstbestimmung wird von überwachungskapitalistischen Ungetümen wie Google und Facebook bereits heute aufs Härteste attackiert. Nun droht auch noch der Staat mit der totalen Verdatisierung. Auf dem Spiel stehen laut Experten zentrale demokratische Prinzipien, auf denen die moderne Schweiz errichtet wurde: Freiheit, Autonomie, Schutz der Privatsphäre, Diskriminierungsschutz – und vielleicht am wichtigsten: unsere Würde.

Dirk Helbing (54), Professor für Computational Social Science an der ETH Zürich, sagt: «Systeme, die auf Optimierung und Kontrolle ausgerichtet sind, höhlen das Solidaritäts- und Gleichheitsprinzip aus, auf dem unsere Gesellschaft basiert. Ausserdem widerspricht es der Menschenwürde, Menschen auf Zahlen zu reduzieren.»

Wissen, welche Macht in unseren Daten steckt

Aber wäre so etwas in der Schweiz möglich? Einem Land, wo die Selbstverantwortung als wichtiges Gut gesehen wird, wie Autor Maximilian Stern einwirft. Dieses schweizerische Staatsverständnis vertrage sich nur schlecht mit der Vorstellung, dass Bürger ihre Selbstbestimmung preisgeben, um dafür beispielsweise einen tiefen Steuersatz zu erhalten. Aber ob das reicht, wenn es ernst gilt? Sind die Verlockungen des Systems nicht zu gross? Stern zögert. «Die Gefahr besteht, ja.»

Bleibt die Frage, ob wir überhaupt noch darüber entscheiden können, was mit den Daten passiert, die wir in den Äther schicken. Dieses Problem lässt sich lösen, glaubt Dirk Helbing. Er schlägt ein persönliches Daten-Postfach vor, aus dem nur jene Daten verwendet werden dürfen, die der Nutzer freischaltet.

Solche Sicherheitsvorkehrungen machen allerdings wenig Sinn, wenn wir nicht auch ein erhöhtes Bewusstsein dafür entwickeln, welche Macht in unseren Daten steckt. «Digitale Emanzipation» nennt das Dirk Helbing. «Meiner Meinung nach sollten wir die Digitalisierung für Empowerment und Koordination nutzen. Wir könnten Wissen, Ideen, Talente und Ressourcen besser zur Entfaltung bringen, Kreativität und Innovation fördern sowie Kooperation und Umweltschutz verbessern – zum Nutzen von Bürgern und Gesellschaft.»

Persönliche Entfaltung, Kreativität und Innovation sucht man vergebens in der toxischen Zuckergusswelt, durch die die «Black Mirror»-Folge «Nosedive» die fremdgesteuerte Lacie jagt. Ihre verzweifelte Suche nach dem ultimativen Boost ihres Scores endet im sozialen Totalabsturz. Nicht weiter schlimm, ist man versucht zu sagen. Denn zu einer solchen Gesellschaft, deren einziger Inhalt der digitale Wert ist, kann man nicht ernsthaft gehören wollen. Das Problem ist nur: Es ist die einzige Gesellschaft, die existiert. Und Lacie findet sich am Ende in einer Gefängniszelle wieder.