Wir alle haben gewisse „Spielregeln“ internalisiert, ohne die eine Gesellschaft nicht auszukommen vermag. So befolgen wir zumeist unbewusst vorherrschende soziale Normen sowie geltende Gesetze und Pflichten. Wir wissen, dass wir bei einer roten Ampel warten müssen, dass wir uns im Kino leise verhalten sollten und es einem höflichen Benehmen entspricht, einer älteren Dame im vollbesetzten Bus den Sitzplatz anzubieten. Diese Spielregeln — ob wir sie nun befolgen, weil sie gesetzlich verankert sind oder aus einer sozialen Erwünschtheit heraus — entspringen einem fortschreitenden kulturellen Wandel und dienen dazu, eine grundlegende Ordnung in das zunehmend komplexere Leben der Gesellschaft zu bringen.
Daneben aber existieren in allen erdenklichen Bereichen des gesellschaftlichen Lebens Freiheitsräume, in denen wir uns nach eigenem Ermessen für oder gegen eine bestimmte Handlung entscheiden können. Doch was, wenn wir — analog wie digital — bei jeder Handlung, jedem Schritt und jedem Wort überwacht werden? Wenn unser Verhalten bewertet wird und es Vor- oder Nachteile nach sich zieht?
Verhalten wir uns dann, aus Angst vor einem potenziellen Fehl- oder unerwünschten Verhalten, derart konformitätstreu, dass uns eine autonome Entscheidungsfreiheit für unser Handeln gänzlich verloren geht?
Tugendpunkte für den guten Bürger
Unter den oft als „Mainstream“ bezeichneten Medien berichtet lediglich ein Kommentar der Frankfurter Allgemeinen Zeitung (FAZ) über das erste europäische Sozialkreditsystem, das derzeit in der italienischen Stadt Bologna entwickelt wird. „Smart Citizen Wallet“ ist Teil eines digitalen Innovationsplans als Pilotprojekt, das bereits im Herbst 2022 an den Start gehen soll, wie Bürgermeister Matteo Lepore zusammen mit dem für die digitale Agenda zuständigen Massimo Bugani Ende März in einer Pressemitteilung verkündete. Im Idealfall würden über die Vernetzung verschiedener Messstationen Informationen über den Verkehr und das Wetter für die Bürger bereitgestellt, um Ressourcen zur Instandhaltung der Stadt einzusparen und die Umweltverschmutzung zu verringern. Der vorgestellte Plan gleicht nicht nur einem ersten Entwurf einer „Smart City“ — er ist mehr als das, denn im Mittelpunkt des Pilotprojekts steht der „tugendhafte Bürger“.
Wer nachweislich den Müll trennt, energiesparend lebt, öffentliche Verkehrsmittel nutzt, keine Bußgelder für falsches Parken erhält oder die Bologna Welcome Card nutzt, soll mittels einer App auf dem Smartphone Tugendpunkte sammeln können. Auf die Frage, ob bei all dem nicht ein Eingriff in die Privatsphäre zu befürchten sei, entgegnete Bugani, dass jeder Bürger durch einen Antrag seine „freiwillige“ Teilnahme an dem Belohnungssystem angeben könne.
Dennoch enthält es einen bitteren Beigeschmack. Schließlich hat sich spätestens mit der „freiwilligen“ Coronaimpfung gezeigt, wie fließend der Übergang zum Zwang sein kann.
Das „gefährlichste Bonitätssystem der Welt“
Inwiefern sich das Bewertungssystem in Bologna flächendeckend etablieren wird, welche Prämien bei tugendhaftem Verhalten winken und mit welchen Sanktionen zu rechnen ist, bleibt vorerst abzuwarten. In China sieht das hingegen schon seit Jahren ganz anders aus. Zusammen mit der chinesischen Zentralbank und E-Commerce-Unternehmen wie Alibaba oder Tencent erprobt die Regierung in Peking in verschiedenen Städten Systeme für ein persönliches Kredit-Scoring. Eines dieser Systeme, „das weit über das rechtzeitige Begleichen von Rechnungen und Kreditraten hinausgeht“ (1) ist „Sesame Credit“.
Einkäufe, Kontakte in den sozialen Medien und Schulbildung werden dabei genauso von Algorithmen bewertet wie die „Quantität“ und „Qualität“ von Freunden. Der CEO des Entwicklerunternehmens bewarb das Scoring-System damit, dass es dafür sorge, „schlechte“ Menschen von der Gesellschaft auszuschließen, während sich „gute“ Menschen frei und ungehindert bewegen könnten (2).
Nicht ohne Grund ist das Sozialkreditsystem in China als das „gefährlichste Bonitätssystem der Welt“ bekannt, wie es in einem Artikel vom Bayerischen Rundfunk (BR) zitiert wird. Neben einer flächendeckenden digitalen Überwachung, die das Sammeln von Daten ermöglicht, existiert ein ganzer Sanktionskatalog, der definiert, bei welchen Punktabzügen Konsequenzen folgen. Der Punktestand entscheidet dabei über alle Dinge des täglichen Lebens, zum Beispiel wer eine Gehaltserhöhung, einen Kindergartenplatz oder einen Bankkredit erhält. Und das ist längst nicht alles:
„Bürger melden den Behörden Wohl- und Fehlverhalten ihrer Mitmenschen, und die Punktestände werden öffentlich zugänglich gemacht. Sie verlieren nicht nur Sozialpunkte, wenn Sie sich falsch verhalten, es genügt schon, wenn Sie in Kontakt mit Leuten stehen, die einen zu geringen Punktestand haben“ (3).
Ein durch Vorschriften geregeltes Verhalten zum höheren Wohl, das den Preis der totalen Überwachung trägt, so wie es in China zunehmend ausgebaut wird, scheint vielen womöglich noch zu weit entfernt zu sein.
Sicher werden die wenigsten die Einführung eines solchen Bewertungssystems, mit all den sozialen Folgen, die es mit sich bringt, im „demokratiefreundlichen“ Europa befürchten. Doch hat sich erst mal der Gedanke durchgesetzt, dass ein solches System — zumindest vorgeblich — einige Vorteile mit sich bringt, ist es nur noch eine Frage der Zeit.
Wenn der Algorithmus entscheidet
Schon im Dezember 2020 hat der Internationale Währungsfonds (IWF) in einem Blogartikel eine politische Empfehlung zur Implementierung technologischer Transition in der Finanzbranche herausgegeben. Eine Kreditvergabe erfolge nach bisherigen Methoden mittels der Einstufung von sogenannter „hard information“ (Einkommen, Beschäftigung, Vermögen und Schulden). Hilfreich wäre es, vornehmlich andere Informationen zur Bewertung der Kreditwürdigkeit einer Person heranzuziehen. Hierzu listet der IWF eine Reihe von Daten, die auf das Konsumentenverhalten schließen lassen könnten: Suchverläufe im Internet, das Auftreten in den sozialen Medien, genutzte Hardware und Browser sowie Online-Käufe.
Mithilfe des Einsatzes künstlicher Intelligenz und maschinellem Lernen könnte die Kreditvergabe somit erleichtert und damit auch bisher benachteiligten Personen, Haushalten und Firmen zugänglich gemacht werden.
Dass die Bewertungsgrundlagen der Zahlungsfähigkeit bei einer automatisierten Datenverarbeitung undurchsichtig bleiben und der Mensch „zu einer bloßen wirtschaftlichen Rechengröße“ (4) degeneriert wird, scheint von geringerer Bedeutung zu sein.
Die Nutzung personenbezogener Daten zu Zwecken wie diesen ist aber längst nichts Neues. Die Wirtschaftsauskunftei Schufa etwa schließt beispielsweise aus der Wohngegend einer Person auf ihre Bonität, wie aus dem weiter oben zitierten BR-Artikel hervorgeht. In seinem 2016 erschienenen Buch schildert der Informatiker und Publizist Markus Morgenroth weitere Beispiele, in denen Kreditvergaben auf diskriminierende und obskure Weise verweigert wurden (5).
Das Unterziehen einer umfänglichen Automatisierung wird sich aber kaum auf den Banken- und Finanzsektor beschränken. Britische Autoversicherer werben schon seit Jahren mit günstigeren Tarifen, wenn eine Telematikbox im Auto installiert wird, die den Versicherer mit Daten über das Fahlverhalten versorgt:
„Wer jedes Brems- und Lenkmanöver, jedes Gasgeben, das Verhältnis von Autobahn- zu Stadtfahrten und Tag- zu Nachtfahrten analysieren lässt, erhält einen Rabatt, wenn der ermittelte Score-Wert einen bestimmten Grenzwert nicht überschreitet“ (6).
Zudem erwäge eine wachsende Zahl von Krankenversicherungen beim Tragen von Wearable-Technologien einen Preisnachlass oder andere Prämien. Durch das Weiterleiten von Daten über den Schlafrhythmus, sportliche Aktivitäten, die tägliche Kalorienzufuhr und die Anzahl zurückgelegter Schritte kann die Versicherung dann Informationen über das Verhalten der Personen erfahren.
Der Gründer des Weltwirtschaftsforums (WEF), Klaus Schwab, führt diese Überlegung weiter: Eines Tages könnte der Arbeitgeber jedem Beschäftigten vorschreiben, ein solches Gerät zu tragen — um die Produktivität zu steigern und Versicherungskosten zu senken.
„Was gerade noch wie eine bewusste persönliche Entscheidung für oder gegen solch ein Gerät aussah, gerät schnell zum Zwang, sich an neue soziale Normen zu halten, selbst wenn man sie persönlich inakzeptabel findet“ (7).
Man mag sich kaum ausmalen, dass Instrumente zur digitalen Überwachung und Verhaltenssteuerung irgendwann zum normalen Alltag gehören könnten.
Die digitale Identität
Die Corona-„Pandemie“, durch die eine Digitalisierung sämtlicher Bereiche des gesellschaftlichen Lebens forciert wurde, könnte hierbei jedoch als Beschleuniger wirken, insbesondere wenn es um die Entwicklungen im Rahmen der Agenda einer digitalen Identität geht. Ein Beispiel hierfür ist das Pionierprojekt ID2020, im Rahmen dessen Hightech-Konzerne wie Microsoft und Accenture, die Rockefeller-Stiftung und Hilfsorganisationen wie CARE und die Impfallianz GAVI an einer transnationalen digitalen Identität zusammenarbeiten. Weitere Kooperationspartner sind zum Beispiel die US-Regierung, die EU-Kommission sowie das UN-Flüchtlingskommissariat UNHCR. Geplant ist ein digitales Profil, in das sämtliche Daten wie Ausbildungs- und Impfnachweise, Smartphonedaten, der Finanzstatus und Accounts in den sozialen Netzwerken zusammenfließen. Die Kamera der Grenzbehörde oder am Eingang des Fußballstadions könnte so per Gesichtserkennung zum Beispiel auf meinen Impfstatus schließen.
Ein weiteres Projekt, das bereits 2018 vom Weltwirtschaftsforum unter dem Namen „The Known Traveller Identity (KTDI)“ vorgestellt wurde und im Rahmen von ID2020 umgesetzt werden soll, bewirbt zum Beispiel die Möglichkeit des kontroll- und passfreien Reisens. Getestet wird das seit Anfang 2021 schon zwischen Kanada und den Niederlanden.
Die Vorteile einer digitalen Identitätserkennung stehen hierbei stets im Vordergrund: weniger Bürokratie und Papierkram, dafür mehr Sicherheit. Zudem könnte jeder im Sinne der Self-Sovereign Identity (SSI, selbstbestimmte Identität) die eigenen Daten, die auf einer Blockchain gespeichert werden sollen, verwalten und Kontrolle ausüben. Das Löschen von Daten auf einer Blockchain ist hingegen nicht möglich — eine Instanz zur Kontrolle eines vorschriftsmäßigen Umgangs mit persönlichen Daten gibt es also nicht.
Big Other auf dem Vormarsch
Die angepriesenen Vorteile, die ein Ausbau digitaler Überwachung mit sich bringen kann, stellen aber nur die eine Seite der Medaille dar. Auch die EU-Verordnung, die derzeit auf den Weg gebracht wird und eine automatisierte Kontrolle von Messenger- und Chatdiensten erlauben soll, hat ein vorgeblich gutes Ziel vor Augen, nämlich gegen sexualisierte Gewalt an Kindern vorzugehen. Dass die Verschlüsselung privater Nachrichten und Inhalte auf dem Smartphone damit ausgehebelt würde und das digitale Briefgeheimnis faktisch aufgehoben wäre, sind berechtigte und besorgniserregende Vorwürfe, die aber vermutlich ungehört auf der Strecke bleiben.
Vielmehr zeigt sich mit all den genannten Beispielen, wie groß das Feld potenzieller digitaler Überwachungsstrategien ist — und wie sie sich allmählich, aber schleichend, den Weg in unseren Alltag bahnen. Eine rote Linie ist hier nicht mehr zu erkennen.
Aus gegebenem Anlass zeichnet die Harvard-Ökonomin Shoshana Zuboff in ihrem Buch über das Zeitalter des Überwachungskapitalismus ein düsteres Bild unserer bevorstehenden Zukunft. Der Unterschied zu George Orwells „1984“ bestehe darin, dass wir nicht der totalen Inbesitznahme des Großen Bruders unterliegen, sondern der Big Brother von einem Big Other — dem Großen Anderen — ersetzt wird. Mit dem Ziel der Automatisierung von Markt und Gesellschaft um der Gewissheit garantierter Ergebnisse willen würden Überwachungskapitalisten und Regierungen ihre totalistische Vision der totalen Gewissheit vorantreiben (8).
Mit Plänen für ein Sozialkreditsystem und einer umfassenden digitalen Identität wird diese Utopie der Gewissheit, in der nichts dem Zufall überlassen bleibt, deutlich. Welche Freiheitsräume werden uns noch bleiben, wenn jegliches Verhalten im Sinne einer Optimierung von außen gesteuert und zudem digital überwacht wird?
Quellen und Anmerkungen:
(1) Shoshana Zuboff: Das Zeitalter des Überwachungskapitalismus. Seite 453.
(2) Ebenda.
(3) Dirk Müller: Machtbeben. Die Welt vor der größten Wirtschaftskrise aller Zeiten. Hintergründe, Risiken, Chancen. Seite 318 folgende.
(4) Thomas Petri: Innovativer Datenschutz — Wünsche, Wege, Wirklichkeit. Seiten 222 folgende.
(5) Markus Morgenroth: Sie kennen dich! Sie haben dich! Sie steuern dich! Die wahre Macht der Datensammler. Seiten 31 folgende.
(6) Ebenda, Seite 77.
(7) Klaus Schwab: Die Vierte Industrielle Revolution. Seite 154 folgende.
Wenn Sie für unabhängige Artikel wie diesen etwas übrig haben, können Sie uns zum Beispiel mit einem Dauerauftrag von 2 Euro oder einer Einzelspende unterstützen.
Oder senden Sie einfach eine SMS mit dem Stichwort Manova5 oder Manova10 an die 81190 und mit Ihrer nächsten Handyrechnung werden Ihnen 5, beziehungsweise 10 Euro in Rechnung gestellt, die abzüglich einer Gebühr von 17 Cent unmittelbar unserer Arbeit zugutekommen.
