Der Mensch in der Maschine

Die Maschine steht still

Vor mehr als 100 Jahren, um genau zu sein im Jahre 1909, veröffentlichte der britische Autor Edward Morgan Forster eine Erzählung mit dem Titel The Machine Stops. Forster beschreibt darin eine dystopische Zukunftsvision, in der ein Leben auf der Erdoberfläche nicht mehr möglich ist. Die Welt liegt in Schutt und Asche, Bäume existieren nicht mehr, und die Luft besteht aus giftigen Gasen. Die Menschen leben in Forsters Erzählung nicht mehr auf der Erde, sondern in unterirdischen Zimmern. Eine Maschine teilt jedem Menschen, sobald er das Erwachsenenalter erreicht hat, ein solches Zimmer zu. Dort verbringt er den Rest seines Lebens, fast gänzlich von allen anderen isoliert, aber dennoch nicht ganz allein.

Die Menschen nämlich stehen durch die Maschine miteinander im ständigen Kontakt. Dabei erweist sich die Maschine nicht nur als Kommunikationsmedium, sondern sorgt darüber hinaus auch für Nahrung, ausreichend frische Luft, für Musik, Bett und Badewanne. Und mehr noch: Wer sich mit wem fortpflanzen darf, wird von der Maschine entschieden — wobei offen bleibt, ob sich der Fortpflanzungsakt als ein natürlicher oder ein technischer Vorgang darstellt. Welches Kind sich letztlich als hinreichend geeignet erweist, um Leben bleiben zu dürfen, bleibt gleichsam der Maschine überlassen. Und nur die geeigneten Kinder dürfen — fern ab von Mutter und Vater — in Erziehungsanstalten aufwachsen, um anschließend einem frei gewordenen Zimmer zugeteilt zu werden.

Am Ende des Lebens bleibt den Menschen die Möglichkeit, einen Antrag auf „den guten Tod“ zu stellen, der von der Maschine genehmigt oder abgelehnt werden kann.

Direkte, unmittelbare Erfahrungen spielen in Forsters Dystopie kaum eine Rolle. Man versucht, Derartiges zu vermeiden, und ist es trotz allem einmal nötig, schauen sich die Menschen nicht in die Augen und bemühen sich, dass es möglichst zu keinen körperlichen Berührungen kommt. Überhaupt werden die durch Bewegungsmangel beeinträchtigen und im künstlichen Licht herangezüchteten Leiber mit fortgeschrittenem Alter als haarlose, zahnlose, in Tüchern gewickelte Fleischberge bezeichnet.

Es herrscht sehr wohl ein Bewusstsein darüber, dass die alles steuernde und kontrollierende Maschine einst von Menschen erbaut wurde. Aber weder ihre Funktionsweise noch der Umfang ihrer Macht wird begriffen. Gottähnlich spreizt sie sich auf, durchdringt alles, bis sich nach und nach immer mehr Fehler im System auftun. Zunächst ungläubig, später dann hilflos und ohnmächtig schauen die Menschen zu, wie ihre einst durchorganisierte und dabei doch unverstandene Welt in kürzester Zeit zusammenbricht. Am Ende steht die Maschine und damit das Leben der Menschen still.

Was Forster als Maschine beschreibt, ist im Wesentlichen das, was wir gegenwärtig als Computer kennen. Das permanente Vernetztsein und die durch die Maschine stattfindende Kommunikation entspricht dem heutigen Internet, und die automatisiert arrangierte Musik, die Frischluftzufuhr und so weiter deuten auf das, was wir im 21. Jahrhundert mit dem Begriff Internet der Dinge versehen haben. Die Technik aus Forsters Erzählung ist heute im Wesentlichen Realität geworden. In einer Dystopie, in der die Maschine allmächtig geworden ist, leben wir allerdings nicht — so zumindest scheint es.

Die allumfassende Maschine

Schauen wir genauer hin. Im Jahr 1946 wurde mit ENIAC (Electronic Numerical Integrator and Computer) der erste vollelektronische Computer präsentiert. Es handelt sich um eine an der Universität von Pennsylvania entwickelte Rechenmaschine, die mit unseren heutigen Vorstellungen von Computern wenig Ähnlichkeit hat. ENIAC besaß weder einen Bildschirm noch eine Tastatur oder eine Maus, sondern ähnelte vielmehr dem Serverraum eines Großrechners. Wollte man ENIAC programmieren, so betrat man einen Raum, der aus einer beachtlichen Anzahl an Modulen und Kabeln bestand, an denen man körperlich Hand anlegen musste. Programmieren fand in den 1940er-Jahren also tatsächlich im Computer statt.

Das änderte sich spätestens in den 1970er-Jahren. Als der Apple I 1976 für den bemerkenswerten Preis von 666 US-Dollar auf den Markt kam, hatte man es im Grunde mit dem zu tun, was wir heute als Personal Computer (PC) kennen. Der Mensch war beim Bedienen der Maschine nun nicht mehr im, sondern vor dem Computer. Über eine Tastatur wurden Daten eingegeben, und das Gerät als datenverarbeitende Maschine stellte etwas mit diesen Daten an.

Unsere heutigen Computer sind sehr viel leistungsfähiger als ENIAC oder die PCs aus den 1970er-Jahren. Sie sind darüber hinaus auch in kleiner, handlicher Form als Tablets oder Smartphones, das heißt als Mobile Devices vorhanden. Sie begleiten uns zuweilen selbst ins Bett und auf die Toilette. Aber noch immer geben wir Daten in die Geräte ein, und die Geräte machen etwas mit diesen Daten. All das ist zutreffend, aber eben doch nur die halbe Wahrheit.

Längst ist das Internet (fast) allgegenwärtig und das Online-Sein zum Normalzustand geworden. Hinzu kommt, dass wir auch die kleinen, smarten, mobilen Computer mit zahlreichen Sensoren ausgestattet haben, die sich, wann immer man sie lässt, Daten holen und weiterleiten. Selbst Experten wissen kaum darüber Bescheid, welche Daten wann erfasst und an wen diese Daten weitergeleitet werden, auf welchen Servern sie landen, in welchen Ländern diese Server stehen, wie viele Kopien dieser Server existieren, welche Algorithmen diese Daten auswerten, an wen welche Daten weitergeben beziehungsweise weiterverkauft werden, was mithilfe dieser Daten an Steuerungs- und Kontrollprozessen stattfindet und nach welcher Rechtsprechung dies alles im Einzelnen vonstattengeht.

Wir könnten möglicherweise einen Eindruck von einigen der genannten Aspekte erhalten, wenn wir die AGBs sorgfältig durcharbeiten und dies bei jedem Update eines jeden Programms stets mit großer Sorgfalt wiederholen würden. Dass kaum jemand sich diese Mühe macht und der Aufwand darüber hinaus aufgrund des Umfangs, der Komplexität und der nur kurzzeitigen Aktualität der Nutzungsbedingungen auch nur bedingt sinnvoll wäre, liegt auf der Hand. Damit aber müssen wir uns die Frage stellen, inwiefern wir, die wir über einem Jahrhundert nach The Maschine Stops leben, tatsächlich mehr von der Maschine verstehen, wie die Protagonisten in Forsters Erzählung. Anders formuliert und durchaus rhetorisch gefragt:

Können wir, angesichts der Macht der gegenwärtig vorherrschenden Maschine, mit der wir heutigen Menschen es zu tun haben, tatsächlich behaupten, mündig zu sein?

Luciano Floridi, Informationsethiker an der Universität Oxford, sieht in Ansätzen eine Parallele zu den 1940er-Jahren gegeben. Ähnlich wie sich damals der Mensch im Computer aufhielt, um ihn programmieren zu können, sind wir heute als Menschheit wieder im Computer gelandet. Allerdings mit dem wesentlichen Unterschied, dass wir den Computer niemals bewusst betreten haben. Vielmehr haben wir die Welt zu einer mehr und mehr umfassenden und durchdringenden Maschine transformiert. Schon 2015 legte eine im Auftrag des Weltwirtschaftsforums (WEF) durchgeführte Studie des Global Agenda Council on the Future of Software and Society nahe, dass bis 2025 rund eine Billion Sensoren mit dem Internet verbunden sein werden. Hinzu kommt, dass zunehmend als eine Herausforderung erlebt werden kann, Haushaltsgeräte zu erstehen, die nicht in irgendeiner Weise smart, das heißt, mit dem Netz verbunden sind.

Das Projekt Starlink, hinter dem das von Elon Musk geleitete Unternehmen SpaceX steht, hat sich zum Ziel gesetzt, weltweit für eine schnelle Internetverbindung zu sorgen. Bereits Mitte 2021 befanden sich rund 1.700 Starlink-Satelliten im Erdorbit, bis 2027 sollen weitere 12.000 hinzukommen. Zusätzliche 30.000 Satelliten sind bereits beantragt worden. Die Welt, wie wir sie kennen, wird damit mehr und mehr zu einem kybernetischen System. Der Begriff Kybernetik, der in dem Wort Cyberspace immer noch anklingt, ist eine Wortneuschöpfung und geht zurück auf den US-amerikanischen Mathematiker Norbert Wiener. In seinem 1948 erschienenem Buch Cybernetics: Or Control and Communication in the Animal and the Machine betont der MIT-Professor, dass unter Kybernetik drei Aspekte zu verstehen sind: Es geht um Steuerung, um Feedback und um die Verschmelzung von Mensch und Maschine.

Der deutsche Philosoph Gotthard Günther hat etwa ein Jahrzehnt später in Das Bewusstsein der Maschinen. Eine Metaphysik der Kybernetik den Computer als transklassische Maschine beschrieben. Im Unterschied zur klassischen Maschine, zum Beispiel einer Waschmaschine, einer Bohrmaschine oder auch einem Drucker, verändert die transklassische Maschine nicht unmittelbar etwas in der Welt, sondern greift steuernd auf die klassische(n) Maschine(n) zu. Hierfür ein Beispiel: Ein an den Computer angeschlossener Drucker kann erst dann etwas drucken, wenn ein entsprechender Treiber installiert ist. Ein Treiber ist nichts anderes als ein Computerprogramm. Das Wort Programm wurzelt im altgriechischen prógramma und bedeutet Vorschrift. Die eigentliche transklassische Maschine ist daher das Computerprogramm, denn dieses schreibt den angeschlossenen und mit ihm verbundenen Geräten vor, was diese zu tun haben. Das beste Smartphone ist trotz funktionsfähiger, hochleistungsfähiger Hardware zu nichts zu gebrauchen, wenn das Programm nicht (mehr) funktioniert.

Angeschlossen an die transklassische Maschine ist alles, was mit Chips und Sensoren ausgestattet und auf diese Weise vernetzt ist. Bereits im Jahr 2000 hat Raymond Kurzweil, Transhumanist und seit 2012 Leiter der technischen Entwicklung bei Google, eine für damalige Zeiten nach Science-Fiction anmutende Entwicklung prognostiziert. Zunächst werden wir erleben, so Kurzweil, dass die Technik nahe am Körper sein wird, anschließend wird sie in den Körper wandern, und zuletzt werden Nanobots direkt mit dem menschlichen Gehirn verbunden sein. Etwa sieben Jahre nach Kurzweils Ankündigung wurde in den USA die Quantified Self-Bewegung ins Leben gerufen, die sich mittlerweile über den gesamten Globus ausgebreitet hat. Mithilfe von Fitnessarmbänder, Smartwatches und spezifischen Apps werden Körper-, Bewegungs- und Verhaltensdaten erfasst, um auf diese Weise — so die Intention — eine Selbsterkenntnis durch Zahlen zu erlangen. Die ersten Unternehmen produzieren bereits Kleidung mit leitfähigem Garn und integrierten Sensoren. Die Technik ist uns also in Form von Wearables und e-Textiles mittlerweile in der Tat auf den Leib gerückt.

Mitte 2020 veröffentlichte das WEF ein Briefing-Papier und spricht darin von der Zukunft des Internet of Bodies (deutsch: Internet der Körper). Die Erweiterung des Netzes wird im genannten Papier als das „Internet of Nano-Things and Wireless Body Area Networks“ verstanden. Der Körper gilt hier ausdrücklich als eine Technologieplattform, die es zu überwachen, analysieren und modifizieren gilt. Und all das soll nicht erst geschehen, sondern es findet bereits statt, indem längst schon nicht-invasive und wenig-invasive Methoden zum Einsatz kommen.

Zu den nicht-invasiven Varianten gehören die schon erwähnten Wearables — Smartwatches, Fitnessarmbänder, aber auch elektronische Hautpflaster, in die Kleidung vernähte Mikrochips et cetera. Wenig invasiv sind hingegen Smart-Pills, also Tabletten, die mit Chips versehen sind, um Daten aus dem Inneren des Körpers senden und gegebenenfalls an einer ganz bestimmten Stelle ihren Wirkstoff entfalten zu können. RFID-Chips, die in der Regel subkutan in die Hand injiziert werden, Insulinpumpen und smarte Implantate gehören ebenfalls mit dazu.

Der Körper avanciert zum Datenproduzenten, zum Rohstofflieferanten. Und der ständig produzierte und abgegriffene Datenrohstoff wird von sehr großen und sehr einflussreichen Konzernen weiterverarbeiteten und zu Geld gemacht.

Das Internet of Bodies bedeutet aber nicht nur, dass der Mensch Daten produziert, sondern schließt ein, dass auf Basis der produzierten und ausgewerteten Daten Steuerungsprozesse stattfinden. Dies kann durch personalisierte Werbung oder Bildungsangebote erfolgen, zum Beispiel in Form individueller Curricula, die auf die Bedürfnisse und Leistungsfähigkeit der jeweiligen Schüler abgestimmt sind und zudem ständig (on the fly) aktualisiert werden, aber auch durch automatisiertes Aktivieren der Insulinpumpe. Im Ingenieurwesen spricht man von Predictive Maintenance (deutsch: vorausschauende Wartung), womit eine permanente, in Echtzeit stattfindende Kontrolle eines Systems gemeint ist. Das System, von dem im Zuge des Internets of Bodies die Rede ist, heißt Mensch. Und ein Mensch, der als Gegenstand eines solchen kybernetischen Systems verstanden wird, ist ein kybernetischer Organismus (englisch: cybernetic organism) — kurz: Cyborg.

Wir sehen also, dass Kurzweil mit zwei Ankündigungen recht behalten hat: Die Technik ist uns nahe, und sie dringt zunehmend in unseren Körper ein. Inwiefern die Maschine sich via Nanotechnologie direkt mit unserem Gehirn zu verbinden vermag, ist derzeit schwer einzuschätzen. Dass grundsätzlich und ganz ohne Nanotechnologie aus der Ferne auf unser Gehirn zugegriffen werden kann, wurde indessen in den vergangenen Jahren im Rahmen zahlreicher Studien nachgewiesen. Wissenschaftler der Duke Universität im amerikanischen Durham (North Carolina) haben 2014 erfolgreich Probanden unter anderem mithilfe transkranieller Magnetstimulation Gedanken von einem Gehirn zum anderen übertragen lassen. An der Universität von Washington ist es im selben Jahr gelungen, dass ein Mensch per Gedankenkraft — und mithilfe technischer Unterstützung — einen Körperteil eines anderen Menschen steuern konnte, der sich etwa eine halbe Meile entfernt in einem anderen Gebäude befunden hat. In beiden Fällen handelt es sich um Experimente, die nunmehr mehr als sieben Jahre alt sind und deren Ergebnisse in renommierten Fachzeitschriften publiziert wurden.

Die Macht der Maschine

Noch einmal die Frage: Gibt es heute Nanobots, mit deren Hilfe auf das menschliche Gehirn zugegriffen werden kann? Ein solcher Zugriff würde jedenfalls die Frage nach dem freien Willen in besonderer Weise tangieren. Kurzweil, der im Rahmen eines in der Frankfurter Allgemeinen Zeitung veröffentlichten Interviews vor mittlerweile mehr als 20 Jahren genau danach gefragt wurde, unterstreicht: „Ich sage doch nicht, dass wir uns entscheiden können, ob diese Technologien entstehen. Ich sage: Diese Technologien werden mit Sicherheit noch zu unseren Lebzeiten entstanden sein.“ Dass im Vorfeld, das heißt vor der Entwicklung oder vor dem Einsatz einer solchen Technologie ein öffentlicher, von Transparenz getragener und ergebnisoffener Diskurs stattfinden wird, kann in Anlehnung an Kurzweil als unwahrscheinlich angenommen werden.

Das Problem liegt allerdings nicht allein darin, dass es Machtinteressen gibt, die einem solchen Diskurs entgegenstehen. Es besteht vielmehr darin, dass wir in uns selbst diese Macht permanent nähren; und ihre Nahrung erhält sie durch unser verstandesfokussiertes, berechnendes Denken, dass alles begreifen und nichts sein lassen will.

Dieses Denken treibt sich in Form des nahezu alles umfassenden und durchdringenden Computers, dem immer mehr von der Welt — einschließlich des Menschen — ins Netz geht, selbst auf die Spitze. Das berechnende Denken findet sich im Management der Big-Tech-Unternehmen genauso wieder, wie in dem zum Homo oeconomicus herangezüchteten Schul- oder Hochschulabsolventen, von dem erwartet wird, ständig und überall darauf bedacht zu sein hat, den eigenen Marktwert festzustellen und zu erhöhen. Es erscheint dabei nur allzu konsequent, mit Fitnesstracker die körperliche Leistungsfähigkeit bis hin zum Schlafrhythmus erfassen und auswerten zu lassen, auf Social-Media-Plattformen durch entsprechende Posts möglichst viele Likes, Herzen, Thumbs up oder Retweets zu generieren und gegebenenfalls auf Online-Partnerbörsen — durchaus auch während einer Beziehung — den eigenen Marktwert beim anderen (oder wahlweise eigenen) Geschlecht zu überprüfen und zu optimieren.

Wert hat das Fassbare, Sichtbare, Darstellbare, dass idealerweise auf Zahlen, die nur scheinbar für sich sprechen, heruntergebrochen werden kann. Was unbegreifbar ist, was zwischen Sein und Nichts als im wahrsten Sinne des Wortes Interessantes, als Möglichkeit (in Abgrenzung zur Wahrscheinlichkeit) währt, was sich also dem Zugriff grundsätzlich entzieht, wird von unserem Denken zu nichts gemacht und kann daher mithilfe der Maschine, die unser Denken hervorbringt, auch nicht abgebildet werden.

Das verstandesmäßige, berechnende Denken, das nichts außer sich selbst gelten lässt, kann nicht davon ablassen, auf alles Zugreifbare früher oder später auch tatsächlich zuzugreifen. Es duldet kein Seinlassen, es strebt nach Macht um der Macht willen. Das betrifft Elon Musk und Jeff Bezos ebenso wie Lieschen Müller und Hänschen Meier. Und daher hat Kurzweil recht: Die Technologie, die uns direkt über das Gehirn an die Maschine anschließt, wird kommen, weil unsere Bildung und unser Denken diesen Anschluss vorbereiten.