Natürliche Grenzen künstlicher Intelligenz

„Warum weint ihr?“ fragt der Terminator den zehnjährigen John Connor. Der Terminator ist eine aus einem Endoskelett und mit organischem Gewebe überzogene Maschine, die nach außen hin einem echten Menschen erschreckend ähnlich ist. Menschliche Verhaltensweise lernt der Terminator durch Analyse und Adaption der Verhaltensweise anderer, echter Menschen. Warum Menschen weinen, kann sich der Terminator nicht selbst erschließen.

Nachfolgend soll uns die „Tränen-Frage“ als roter Faden dienen, an dem wir uns durch das Themengebiet der natürlichen Grenzen der künstlichen Intelligenz bewegen. Zunächst gilt es jedoch, einige Begriffe zu definieren und die Handlung der ersten beiden Terminator-Filme kurz zu rekapitulieren, auch wenn diese Filme zur kulturellen Allgemeinbildung hinzugerechnet werden können.

Definitionen:

Künstliche Intelligenz:

Das Lexikon der Neurowissenschaften definiert Künstliche Intelligenz folgendermaßen:

„(E)in Teilgebiet der Informatik, welches sich mit der Erforschung von Mechanismen des intelligenten menschlichen Verhaltens befaßt (Intelligenz). Dieses geschieht durch Simulation mit Hilfe künstlicher Artefakte, gewöhnlich mit Computerprogrammen auf einer Rechenmaschine (…). Der Begriff ‚künstliche Intelligenz‘ wurde von dem amerikanischen Informatiker John McCarthy (1927) erfunden. Er gebrauchte ihn in der Überschrift eines Projektantrags für eine mehrwöchige Konferenz, die im Jahr 1956 im Dartmonth College in den USA stattfand. Bei dieser Veranstaltung stellte man Programme vor, die Schach und Dame spielten, Theoreme bewiesen sowie Texte interpretierten.“

Dass es gar nicht so einfach ist, diesen Begriff zu fassen, zeigte Soshana Zuboff in ihrem Werk „Das Zeitalter des Überwachungskapitalismus“. Im Zusammenhang mit Google bedient sie sich — terminologisch gut zu Terminator passend – des Begriffes „Maschinenintelligenz“:

„Seine (des Google-Konzerns, Anmerkung des Autors) spezifischen Technologien und Techniken, die ich hier als ‚Maschinenintelligenz‘ zusammenfasse, sind in ständiger Entwicklung begriffen. Ihre Komplexität ist beängstigend. Schon der Begriff kann, was immer er heute bedeuten mag, in einem oder fünf Jahren eine ganz andere Bedeutung haben. So heißt es zum Beispiel, Google sei bereits seit 2003 mit der Entwicklung von ‚künstlicher Intelligenz‘ befasst und setze sie ein, aber der Begriff an sich ist ein bewegliches Ziel. Die Möglichkeiten der künstlichen Intelligenz haben sich entwickelt: von primitiven Programmen, mit denen sich Tic-Tac-Toe spielen lässt, bis hin zu Systemen, die ganze Flotten von fahrerlosen Fahrzeugen dirigieren.“ (1)

„Künstliche Intelligenz“ oder „Maschinenintelligenz“ ist begrifflich nicht leicht zu erfassen. Die Form der künstlichen Intelligenz, mit welcher sich der Otto-Normalbürger aktuell im Alltag am meisten konfrontiert sieht, sind Chatbots. Der wohl Prominenteste unter ihnen dürfte ChatGPT sein. Hierzu ordnete die Technokratie-Kritikerin Birgit Naujeck in ihrem Beitrag Die KI-Invasion ein:

„(Der Bot) kann Menschen vorgaukeln, dass sie wirklich mit einem Computer, einer KI kommunizieren. Wir dürfen dabei nicht vergessen, dass KI-Agenten nicht nur Computerprogramme sind; sie sind engstirnig denkende Maschinen, die von sich aus riesige Datenmengen durchforsten können, und sie finden wirklich sinnvolle Muster.

Das digitale Sprachmodell ist wie ein menschliches Gehirn, das im Reagenzglas aufgezogen wird und an das eine begrenzte Auswahl von Sensoren angeschlossen ist. Zunächst legen die Programmierer fest, mit welchen Parametern die KI beginnen soll ― die Art der Muster, nach denen die KI suchen wird, wenn sie wächst. Dann wird das Modell mit einer Auswahl von Daten trainiert, die ebenfalls vom Programmierer bestimmt ist. Im Fall von ChatGPT bestehen die Datensätze aus einer riesigen Auswahl an digitalisierten Büchern, der gesamten Wikipedia und dem größten Teil des Internets sowie dem sekundären Training durch wiederholte Gespräche mit Benutzern. Die KI wird durch pawlowsche Belohnungsmodelle zum Lernen motiviert, wie ein neuronaler Klecks, der jedes Mal einen Dopaminstoß erhält, wenn er die richtige Antwort findet. Wie bei den meisten kommerziellen Chatbots haben die Programmierer Leitlinien aufgestellt, um zu verhindern, dass die KI rassistische, sexistische oder homophobe Aussagen macht.

Er kann Sätze oder ganze Aufsätze verfassen, die einigermaßen originell erscheinen, selbst wenn sie nur ein Remix aus früheren menschlichen Gedanken sind. Diese Semi-Originalität und die erlernte Personalisierung geben dem Bot die Illusion einer einzigartigen Persönlichkeit.“

Die hier aufgeführten Limitierungen und Determination der KI durch die Programmierer wird im Laufe der Betrachtung noch von Bedeutung sein.

Die Wissenschaftsjournalistin und Lebensmittelchemikerin Simone Hörrlein bemerkt zu der Frage, was eine KI sei:

„Es gibt unterschiedliche Definitionen, aber immer geht es darum, etwas zu programmieren, zu konstruieren und zu bauen, das ‚intelligent‘ reagiert oder sich wie ‚ein Mensch‘ verhält. Und genau hier liegt der Denkfehler: Denn egal wie raffiniert ein Algorithmus auch sein mag, er wird sich niemals wie ein Mensch verhalten können. Selbst anspruchsvolle KIs, die auf neuronalen Netzen basieren oder visuelle Reize ähnlich wie Hirnzellen verarbeiten sollen, werden niemals menschlich handeln können.“

Diesem Unvermögen der KI, menschlich handeln zu können, werden wir uns im Kern des Beitrages dann noch ausführlich widmen.

Cyborgs

Die titelgebenden Terminatoren sind Cyborgs. Der Begriff setzt sich zusammen aus „cybernetic“ und „organism“. (2) Während „organism“ selbsterklärend ist, sollte der Begriff der „Kybernetik“ hier noch einmal genauer erfasst werden. Hierzu schrieb Thomas Damberger, Bildungs- und Erziehungswissenschaftler, im Kontext der Digitalisierung:

„Der Begriff Kybernetik (...) ist eine Wortneuschöpfung und geht zurück auf den US-amerikanischen Mathematiker Norbert Wiener. In seinem 1948 erschienenem Buch ‚Cybernetics: Or Control and Communication in the Animal and the Machine‘ betont der MIT-Professor, dass unter Kybernetik drei Aspekte zu verstehen sind: Es geht um Steuerung, um Feedback und um die Verschmelzung von Mensch und Maschine.“

Die Terminatoren sind in dem Sinne Cyborgs, als dass sie durch ihre äußere, optische Beschaffenheit ein Menschsein suggerieren können. Während bei dem Modell T800 diese äußere Beschaffenheit aus einem organischen Überzug — Haut, Haar, Blut, Fett et cetera – besteht, ist das Modell T1000 ein sich aus flüssigem Metall visuell stets neu formatierender Cyborg, der sämtliche Erscheinungsformen von Menschen annehmen kann, die dieser zuvor— todbringend — berührt hat. Im vierten Teil der Terminator-Reihe haben wir auch die umgekehrte Form — ein organischer Mensch wird in in einen Terminator-Cyborg transformiert, das heißt sein menschliches Skelett wird durch das Endoskelett eines T800 ersetzt.

Die Handlung

Die umfangreiche Handlung von Terminator sei hier nur kurz umrissen. In naher Zukunft herrscht ein unerbittlicher Krieg zwischen Mensch und Maschine. Letztere wurden durch Skynet entwickelt, ein militärisches Big-Tech-Unternehmen, gewissermaßen ein Hybrid aus Google und Boston Dynamics. Die letzte Bastion der Menschheit wird in diesem Krieg von John Connor angeführt.

In Teil Eins aus dem Jahr 1984 entsandte Skynet eine Terminator-Maschine, einen T800 — verkörpert von Arnold Schwarzenegger – in die Vergangenheit, um John‘s Mutter Sarah Connor zu ermorden, sodass John als Anführer niemals geboren werden soll. Parallel dazu schickte die Menschheit John‘s Vater Kyle Reese zurück in das Jahr 1984, um die ahnungslose Kellnerin Sarah Connor vor dem T800 zu retten und mit ihr John Connor zu zeugen. Beides gelang ihm, ersteres unter Einsatz seines Lebens.

In Teil Zwei ist John zehn Jahre alt und Sarah hat sich mittlerweile weiterentwickelt, von der schüchternen Kellnerin zu einer militanten Retterin der Zukunft vor der Herrschaft der Maschinen. Dies brachte sie — nach der versuchten Sprengung einer Computerfirma — in eine geschlossene Anstalt. Sogar ihr eigener Sohn hält sie inzwischen für verrückt.

Gewisserweise wiederholt sich in Teil Zwei die Geschichte des Ersten. Wieder wird ein Terminator, ein T1000, in die Vergangenheit geschickt, diesmal mit dem Ziel, John Connor töten. Statt eines Menschen schickt die Menschheit nun einen umprogrammierten T800 — das Modell aus Teil Eins, wieder verkörpert von Arnold Schwarzenegger — zurück, um John zu schützen.

Genau diese sich im Laufe des Films entwickelnde Mensch-Maschinen-Beziehung wollen wir uns nachfolgend genauer ansehen, denn in ihr kristallisiert sich die unüberwindbare Seins-Differenz zwischen Mensch und Maschine heraus.

Maschinelles, allzu maschinelles

John‘s erste Begegnung mit dem Terminator ist in mehrfacher Hinsicht ein regelrechter Schock, was auch mit der vorherigen, spektakulären Rettungsaktion zusammenhängt, bei der der T800 John vor dem gestaltenwandlerischen T1000 rettete. John muss realisieren, dass seine Mutter Sarah keineswegs eine paranoide Spinnerin ist, die sich mörderische Maschinen einbildet, die aus der Zukunft in die Vergangenheit reisen, um sie oder John zu ermorden.

„Du bist echt, echt?“ fragt John die hühnenhafte Maschine mit menschlich-organischem Überzug. Sichtlich überfordert ist er mit der vor ihm stehenden Verschmelzung von Mensch und Maschine. Während seine Augen ihm suggerieren, einen echten Menschen aus Fleisch und Blut vor sich zu haben, beginnt er im Verstand zu realisieren, dass sich unterhalb dieses Fleisches und Blutes eine Maschine befindet. Eben diese visuelle Vermenschlichung der Maschine führt zu der desillusionierenden Mensch-Maschinen-Beziehung des Films, die Menschlichkeit simuliert, doch letztlich an dem unüberwindbaren, maschinenhaften Wesen scheitern muss. Anhand dieser Mensch-Maschinen-Beziehung wollen wir die natürlichen Grenzen der künstlichen Intelligenz nachzeichnen.

Menschine – Ist die Maschine der bessere Mensch?

Menschliche Maschinen

Im Laufe des Films entwickelt sich der Terminator für John zu einer Art (Ersatz)-Vaterfigur. Die Maschine agiert als gehorsamer, bedingungsloser Schutzpatron und treuer Gefährte. Mutter Sarah wurde zwischenzeitlich durch John und den T800-Terminator aus der Psychiatrie befreit und dabei ebenfalls vor dem T1000 gerettet. Aufgrund ihrer traumatischen Erfahrungen mit einem T800 in Teil Eins hegt sie zu Beginn ein enormes Misstrauen gegenüber der Maschine. Doch je länger sie die Dynamik zwischen John und dem Terminator beobachtet, desto mehr gelangt sie zu der Erkenntnis, dass diese Maschine das leistet, was keiner der vorherigen Stiefväter vermochte. In einem Off-Monolog beschreibt sie das mit folgenden Worten:

„Als ich John mit der Maschine sah, wurde es mit schlagartig bewusst. Der Terminator würde niemals aufhören, ihn niemals verlassen, ihn niemals verletzen, niemals anschreien oder sich betrinken und ihn schlagen oder sagen, dass er keine Zeit für ihn hat. Er wird immer hier sein und er würde sterben, um ihn zu beschützen. Von all den möglichen Vätern, die in den Jahren kamen und gingen, war dieses Ding, diese Maschine, der einzige, der den Ansprüchen gewachsen war.“

Sarah Connors Gedanken über die Vaterrolle des Terminators

Sehr trefflich kommentierte dies Roland Rottenfußer in seinem Beitrag über die lebenden Toten:

„‚Mehr als menschlich‘ zu sein, muss (...) durch Seelenlosigkeit erkauft werden. Roboter sind in diesem Sinn Leichen, nur ohne den Ekelfaktor. Die Beliebtheit von Nicht-Personen in der modernen Kommunikation ist somit auch ein Symptom für Nekrophilie im Sinn Erich Fromms: die Liebe zum Toten. Ausgezeichnet dargestellt wird dies auch im Klassiker ‚Terminator 2‘ von James Cameron, in dem sich Blechkopf Schwarzenegger mit John, dem Sohn seines Schützlings Sarah Connor, ‚anfreundet‘. (…) Unermüdlichkeit und unbegrenzte Verfügbarkeit sind hier also die Lockmittel, die den mechanischen gegenüber dem menschlichen Gefährten auszeichnen. Ebenso auch das völlige Fehlen menschlicher Schwächen und Gemütsschwankungen. Wer braucht schon einen echten Freund, wenn er Schwarzenegger haben kann?“

Wir finden hier die paradoxe Ausgangslage vor, dass eine Maschine, ein Nicht-Mensch aufgrund fehlender menschlicher Schwächen menschliche Qualitäten zum Vorschein zu bringen vermag. Ein Killerroboter ist für John ein besserer Vater, als es ein Mensch aus Fleisch und Blut je sein konnte.

Doch mit der sich fortschreitenden Entwicklung der Beziehung zwischen John und der Maschine kristallisieren sich zunehmend die Grenzen der Vermenschlichung heraus. Erinnern Sie sich noch an die Frage des Terminators am Anfang dieses Textes?

„Warum weint ihr?“

In einer Szene beobachtet der Terminator, wie John eine Träne die Wange herunterkullert. Auf diesen, für ihn logisch nicht nachvollziehbaren Flüssigkeitsaustritt im Augenbereich kann sich der Terminator keinen Reim machen. Warum nicht? Der Philosoph Byung-Chul Han formulierte hierzu in seinem Buch „Undinge“ in dem Kapitel über Künstliche Intelligenz sehr aufschlussreiche Gedanken:

„Künstliche Intelligenz denkt nicht, weil sie nie außer sich ist. Geist bedeutet ursprünglich Außer-sich-sein oder Ergriffenheit. Künstliche Intelligenz mag sehr schnell rechnen, aber ihr fehlt der Geist. Fürs Rechnen wäre die Ergriffenheit nur eine Störung. (…) Heidegger verortet die Ahnung im Herzen. Künstliche Intelligenz ist ohne Herz. Das herzhafte Denken ermisst und ertastet Räume, bevor es an Begriffen arbeitet. Darin unterscheidet es sich vom Rechnen, das keiner Räume bedarf (…). Heidegger zufolge wäre Künstliche Intelligenz insofern unfähig zum Denken, als ihr jene Ganzheit verschlossen ist, mit der das Denken seinen Ausgang nimmt. Sie ist weltlos.“ (3)

Weiter führt er aus:

„Big Data suggeriert ein absolutes Wissen. Dinge verraten ihre geheimen Korrelationen. Alles wird berechenbar, voraussagbar und steuerbar. Eine ganz neue Ära des Wissens wird angekündigt. In Wirklichkeit haben wir es mit einer recht primitiven Wissensform zu tun. Das Daten-Mining legt Korrelationen frei. Hegels Logik zufolge stellt die Korrelation die unterste Wissensform dar. (…) Big Data stellt ein rudimentäres Wissen zur Verfügung. Es bleibt auf Korrelationen und Mustererkennung beschränkt, in denen jedoch nichts begriffen wird. Der Begriff bildet eine Ganzheit, die ihre Momente in sich ein-schließt und ein-begreift. Die Ganzheit ist eine Schlussform. Der Begriff ist ein Schluss. ‚Alles ist Schluss‘ bedeutet ‚Alles ist Begriff‘. Auch die Vernunft ist ein Schluss: ‚Alles Vernünftige ist ein‘. Big Data ist additiv. Das Additive bildet keine Ganzheit, keinen Schluss. Ihm fehlt der Begriff, nämlich der Griff, der Teile zu einer Ganzheit zusammenschließt. Künstliche Intelligenz erreicht nie die Begriffsebene des Wissens. Sie begreift nicht die Ergebnisse, die sie berechnet. Das Rechnen unterscheidet sich vom Denken dadurch, dass es sich keine Begriffe bildet und nicht von einem Schluss zum nächsten voranschreitet.““ (4)

Der Terminator versucht zunächst vergeblich, das Weinen des Menschen zu begreifen, indem er John fragt, um Korrelationen herzustellen. In der tragisch-komischen Szene zeigt sich John‘s Unbeholfenheit, einer Maschine die Ursache des Weinens darzulegen.

John versucht dem Terminator zu erklären, weshalb Menschen weinen

„Schmerz ist der Auslöser?“ fragt die Maschine. „Nein“, antwortet John. „Du bist nicht verletzt, aber es tut trotzdem weh, verstehst du?“ Der Terminator versteht es nicht, begreift es nicht. Ihm mangelt es naturgemäß an der „Ergriffenheit“, er kann nicht von etwas ergriffen sein. Wir Menschen müssen Tränen nicht errechnen oder etwa analysieren, wann diese nun angebracht wären. Sie kommen unkontrolliert aus unseren Emotionen heraus, die von einer Maschine allenfalls imitiert, aber keinesfalls selbst durchlebt werden können.

Wir sehen in vielen weiteren Beispielen, wie die Maschine, der Terminator, die Welt und damit die Ganzheit versucht, sich durch Korrelationen und Mustererkennung zu erschließen. In der oben eingebetteten Szene probiert John, dem Terminator „High Five“ beizubringen. Der Terminator erlernt die Handbewegung, jedoch ohne ein Gespür für die angemessene Härte des Zuschlagens, sodass der Handschlag John leichte Schmerzen bereitet.

Sowohl der T800, also auch der fluide, gestaltenwandlerische T1000 – beide speisen ihr In-der-Welt-Sein schlicht aus Berechnungen, Analysen und Adaptionen. Der T1000 etwa kann nur die Gestalt jener Menschen annehmen, die er zuvor berührt und getötet hat. Diese Begrenztheit ist Ausdruck ihrer Seelenlosigkeit.

In einer weiteren Szene kommt diese Limitierung ganz besonders zum Ausdruck. In dieser versucht John, dem Terminator ein natürlicheres, das heißt lockeres Auftreten beizubringen. Bislang agierte die Maschine in ihrer verbalen Ausdrucksform, der Mimik und der Körperbewegung mit einer für Menschen untypischen, robotereigenen Stocksteife. Auf Bitten oder Aufforderungen reagierte der T800 mit knappen Antworten wie „affirmativ“. Stattdessen soll er doch, so John, antworten mit „no problemo“. In diesem „Menschlich-Werden-Briefing“ kommt der Terminator auch zu seinem ikonenhaften „Hasta la vista, Baby!“. Doch selbst mit dem „espano-english“ macht die von Schwarzenegger verkörperte Maschine noch einen verklemmten Eindruck.

Schließlich probiert John, dem Terminator an einer Tankstelle das Lächeln beizubringen. Hierzu versucht er, einem der anwesenden Menschen ein Lächeln zu entlocken. Die Imbissverkäuferin, die er freundlich und aufmunternd nach dem werten Befinden befragt, blickt jedoch unentwegt mürrisch drein — so mürrisch wie der Terminator selbst. Schließlich deutet er auf einen lächelnden Mann an einer Telefonzelle und gibt dem T800 zu verstehen, dass dies ein Lächeln sei. Der Terminator scannt die Mundwinkel des Mannes in einem Sekundenbruchteil, da sich die Lippen von einem Lächeln wieder in Richtung eines ausdruckslosen Winkels bewegt haben. Entsprechend unnatürlich ist die vom Terminator errechnete, einem echten Lächeln nachempfundene Mundwinkelbewegung.

John Connor versucht dem Terminator menschlichere Züge beizubringen.

Hier sehen wir es wieder: „Künstliche Intelligenz ist ohne Herz.“ Wir Menschen lachen unmittelbar, häufig unkontrolliert aus uns selbst heraus und das bereits dann, wenn wir auf die Welt kommen. Dem Lachen liegt keine Berechnung und schon gar keine Mundwinkel-Analyse zugrunde. Es geschieht einfach. Es geschieht situativ und aus sozialen Interaktionen heraus, die schwerlich in eine Berechnung zu verpacken sind.

Was wir in der oben verlinkten Szene hingegen ebenfalls schon beobachten konnten, ist die entgegengesetzte Entwicklung, nämlich die, dass nicht nur Maschinen immer menschlicher, sondern Menschen auch sich immer mehr wie Maschinen verhalten. Die grimmig blickende Imbissverkäuferin stand in ihrer mimischen Ausdrucksarmut dem Terminator in nichts nach. Terminator 2 zeigt uns nicht nur menschlicher werdende Maschinen, sondern auch Menschen, die sich immer mehr Killerrobotern angleichen.

Maschinenhafte Menschen

Während der Terminator zunehmend menschlichere Züge annimmt, wandelt sich Sarah Connor immer mehr zu einer Tötungsmaschine. Zum wiederholten Male wird sie in einem Albtraum von der nuklearen Zerstörung Los Angeles verfolgt. Daraufhin fasst sie den Entschluss, Miles Dyson zu ermorden. Dyson ist der zuständige Abteilungsleiter bei der Cyberdyne Systems Cooperation (CSC), dem Konzern, welcher die Militärs mit den entsprechenden Softwares beliefert, mit denen die Maschinen das Bewusstsein erlangen, welches für die Menschheit später zum Verhängnis wird.

Sarah begibt sich damit auf eine Mission, die diametral entgegengesetzt der Mission ist, die der Terminator in Teil Eins verfolgte – während der T800 im ersten Teil danach trachtete, einen Menschen zu ermorden, um die Apokalypse geschehen zu lassen, trachtet Sarah nun nach der Ermordung eines Menschen, um die Apokalypse, den Tag des jüngsten Gerichts abzuwenden. Zwei verschiedene Missionen, doch haben beide gemeinsam, dass das einzelne Menschenleben einem höheren Ziel untergeordnet wird. Während beim Terminator im ersten Teil das höhere Ziel in der Auslöschung der Menschheit besteht, ist es bei Sarah die Rettung selbiger.

Als sie aus ihrem Albtraum erwacht, trennt sie sich heimlich von John und dem Terminator und macht sich schwer bewaffnet zur Villa der Familie Dyson auf, um den Familienvater zu töten, der um die fatale Wirkung seiner Arbeit bei CSC nicht weiß. Als sie sich dunkel bekleidet mit einem Präzisionsgewehr im Garten der Dysons verschanzt, wird sie dem Terminator immer ähnlicher. Eine paradoxe Entwicklung. Um die Menschheit vor der Machtergreifung von Killerrobotern zu retten, wird sie als Mensch selbst zu einer Art Killerroboter. Über die Annäherung des Menschen an Roboter schrieb Roland Rottenfußer in dem schon weiter oben zitierten Artikel:

„Auch in anderen Bereichen ist die Roboterisierung der Menschheit weit fortgeschritten. Gerade im Krieg werden Soldaten dazu erzogen, wie Androiden (also gar nicht) zu fühlen und ihre Mitmenschen anderer Nation oder Religion wie leblose Gegenstände zu ‚entsorgen‘. Die Annäherung des Menschen an Roboter in der Realität ist grausiges Gegenstück zu den vielen menschelnden Robotern, die man im Film bewundern kann.“

An der Entwicklung von Sarah Connor sehen wir, was beim Militär weltweit vollzogen wird: die systematische Austreibung alles Menschlichen aus dem Menschen selbst, um ihn zu einer gehorsamen Tötungsmaschine umzuformen, die auf Befehl andere Menschen („weiche Ziele“) zum Zwecke eines höheren Ziels eliminieren soll.

Dankenswerterweise hat sich bei Sarah diese Entwicklung nicht vollendet. Ihr Attentatversuch scheitert an ihrer eigenen Rest-Menschlichkeit. Genau in dem Moment, als sie den tödlichen Schuss auf Miles Dysons Hinterkopf abfeuern möchte, beugt dieser sich zu einem fernsteuerbaren Spielzeugauto seines Sohnes herab, das gerade gegen sein Stuhlbein fährt. Dadurch geht der Schuss in seinen Monitor statt in den Hinterkopf. Daraufhin eröffnet Sarah das Schnellfeuer, doch Miles Dyson und seine Familie können sich aus dem Schussfeld der MG-Salven retten.

Schließlich begibt sich Sarah mit einer Handfeuerwaffe in das Haus, um Miles aus nächster Nähe zu ermorden. Auf der Flucht vor Sarah trifft ihn eine Kugel im Rücken und er stürzt. Als Sarah ihn am Boden liegend final erschießen möchte, legt sich Miles Dysons kleiner Sohn schützend auf ihn. Sarah befielt ihm, aus dem Weg zu gehen. Mit zitternden Händen hält sie die Schusswaffe auf den am Boden liegenden Miles Dyson. Ihr Blick fällt auf Dysons Kind, seine wimmernde Ehefrau und auf Miles flehenden, schmerzverzerrten Gesichtsausdruck. Sie wird angesichts des von ihr verursachten Leids von ihrer eigenen Rest-Menschlichkeit ergriffen, Tränen bilden sich in ihren Augen — was der Terminator nicht verstehen würde —, sie richtet den Pistolenlauf weg von Dyson, hebt beschwichtigend die Hand als Zeichen der Besinnung, macht ebenso beschwichtigende Laute, weicht zurück und sackt, bestürzt über ihre eigene Brutalität, in sich zusammen.

Sarah Connor‘s Attentatversuch scheitert an ihrer eigenen Rest-Menschlichkeit. Warnung: Diese Szene erfordert starke Nerven.

Was hat Sarah in dieser Situation von einem Terminator unterschieden? Der vorhin schon zitierte Philosoph Byung-Chul Han attestierte in seinem Büchlein „Müdigkeitsgesellschaft“ dem Computer folgendes Unvermögen:

„Eine wirkliche Wendung zum Anderen setzt die Negativität der Unterbrechung voraus. Nur vermittels der Negativität des Innehaltens kann das Handlungssubjekt den ganzen Raum der Kontingenz durchmessen, der sich einer bloßen Aktivität entzieht. Das Zögern ist zwar keine positive Tathandlung, aber es ist unabdingbar dafür, dass das Handeln nicht auf das Niveau der Arbeit absinkt. (…) Die Tätigkeit, die der Dummheit der Mechanik folgt, ist arm an Unterbrechungen. Die Maschine kann nicht innehalten. Trotz seiner enormen Rechenleistung ist der Computer insofern dumm, als ihm die Fähigkeit zu zögern fehlt. (…) Der Computer rechnet wohlmöglich deshalb schneller als das menschliche Gehirn und nimmt ohne jede Abstoßung Unmengen von Daten auf, weil er frei von jeder Andersheit ist. Er ist eine Positivmaschine. Gerade wegen seines autistischen Selbstbezugs, wegen der fehlenden Negativität bringt der idiot savant jene Leistungen hervor, zu denen nur eine Rechenmaschine fähig wäre.“ (5)

Sarah Connor ist als Mensch imstande innezuhalten. In diesem Raum, der sich durch das Innehalten eröffnet, keimt das Menschliche, das jeder Maschine fehlt. Hätte Sarah etwa den T800 angewiesen, Miles Dyson zu töten, hätte dieser den Befehl unmittelbar, ohne Unterbrechung, ohne Negativität durchgeführt. Auch hätte er sich nicht davon abhalten lassen, dass sich Dysons Sohn schützend in die Schussbahn legt. Die Berechnung hätte nämlich ergeben, dass die Kugel zunächst das Kind durchbohren letztlich auch Dyson tödlich verwunden würde. Skrupel kennt die Maschine nicht, nur die Erfüllung der ihr aufgetragenen Befehle, nur Einsen und Nullen. Ganz anders bei Sarah, selbst Mutter eines Sohnes. Die Anwesenheit eines Kindes, welches sie anfleht, seinem „Daddy“ nichts zu tun, weckt bei ihr dieses Mitgefühl, die Menschlichkeit, die sie davon abhält, ihr Todeswerk zu verrichten.

Ein weiterer Faktor für die aufkommenden Skrupel ist die immer geringer werdende Nähe zwischen der Attentäterin Sarah und ihrem anvisierten Mordopfer Miles Dyson. Als sie ihn am Anfang ihres Mordversuches aus weiter Ferne erschießen möchte, reduziert sich der Mensch Miles Dyson für sie nur auf einen gesichtslosen Hinterkopf. Als sie ihn mit der Pistole durch das Haus jagt, ist er schon als rennende Silhouette erkennbar, doch als er direkt vor ihr liegt, erkennt Sarah das Subjekt ihres Mordversuches in seinem Mensch-Sein. Er ist ein Familienvater, ein Mensch mit Empfindungen, Schmerzen und Emotionen und nicht einfach nur ein auszuschaltendes Objekt.

Eine solche Nähe kann ein Terminator niemals herstellen. Es spielt keine Rolle, ob dieser einen Menschen aus weiter Ferne mit einem Snipper-Gewehr auslöscht oder aus unmittelbarer Nähe durch einen Messerstich. Die räumliche Nähe ist unerheblich. Für das Objekt Terminator sind auch alle anderen Lebewesen lediglich Objekte einer Befehlsausführung.

Distanz und das Innehalten sind folglich zwei Faktoren, die die Maschinen stets von uns Menschen unterscheiden wird, die aber auch charakteristisch dafür sind, dass wir Menschen immer mehr zu Maschinen werden. Roland Rottenfußer bemerkte – weiter oben bereits zitiert – die Robotisierung des Menschen im Kontext des Militärs. Hier sehen wir die Tötungsdistanz beispielsweise bei den Drohnenmorden. Die Drohnenpiloten sitzen fernab jeglicher Gefechte in einem Kontrollraum — fast schon Maschinen gleichkommend — und schießen per Joystick auf kleine Punkte auf ihrem Monitor. Dass diese Punkte echte Menschen darstellen, verbleibt für sie im Abstrakten.

Und auch die Fähigkeit zum Innehalten geht weiten Teilen der Menschen zunehmend abhanden. „Im Zuge jener allgemeinen Positivisierung der Welt verwandelt sich sowohl der Mensch als auch die Gesellschaft in eine autistische Leistungsmaschine“, (6) wie Han weiter ausführt. Twitter liefert uns ein eindrückliches Zeugnis dessen. Hier gibt es keinerlei Raum mehr zwischen Reiz und Reaktion.

Doch im Grunde genommen zwingt uns die KI, dieses Innehalten wiederzuerlernen. Denn es bedarf dieser Gabe zum Innehalten, um die durch die KI erzeugten Konfusionen – im Speziellen Deep-Fakes – zu durchschauen.

KI zwingt uns, uns wieder unseres Verstandes zu bedienen

Was ist echt? Selten konnten wir uns so wenig über den Wahrheitsgehalt dessen gewiss sein, was wir sehen und hören. Die immer weiter um sich greifende Deep-Fake-Technologie hat die Statik des Faktischen kollabieren lassen. Wir sehen Bilder, Videos oder hören eine Audiospur — doch als Beweis für irgendetwas sind diese Medien im Grunde genommen wertlos geworden. Diese Technologie öffnet der Schindluderei Tür und Tor, denn Audio- und Bildinhalte können mit gänzlich neuen, verfälschenden Inhalten aufgeladen werden. Der Fall Jordan Peterson ist hierbei nur eines der prominentesten Beispiele. Im Pentagon plant man unlängst, Deep-Fake für Propaganda-Zwecke zu nutzen. Siehe im Originaldokument hierzu Seite 16.

Wie wir uns dazu verhalten sollten, lernen wir von dem Antagonisten aus Terminator 2. Der T1000 ist von seinem Wesen her ein einziger Deep-Fake. Der aus Flüssigmetall vielseitig wandelbare Killerroboter kann visuell und stimmlich die Gestalt all jener Menschen annehmen, die er zuvor getötet oder auch nur berührt hat. Beim Betrachten des Films wissen wir oft nicht, ob wir es mit einem realen Menschen zu tun haben oder mit dem T1000, der die Gestalt eines Menschen angenommen hat. So gibt es im finalen Kampf eine Szene, in welcher der T1000 die Gestalt von Sarah Connor annimmt und den Sohn John anlockt, indem er mit Sarahs‘ Stimme um Hilfe ruft. Als John den T1000 in Sarahs Gestalt antrifft, kommt zugleich die echte Sarah mit einer Schrottflinte hinzu. John muss in wenigen Sekunden ausmachen, welche Gestalt nun wirklich seine Mutter ist. Die Auflösung ist für uns sehr lehrreich:

Deep-Fake in Person: John muss zwischen seiner echten und seiner „gefakten“ Mutter unterscheiden

In dieser Szene kann sich John nicht allein auf seine Sinne verlassen. Er muss — frei nach Andrei Tarkovsky — nicht nur schauen, sondern sehen, das heißt genauer hinsehen. Und erst bei diesem genaueren Hinsehen bemerkt er, dass die flüssigen Stiefel des T1000 mit dem Boden verwachsen und kann so seine echte Mutter vom T1000 unterscheiden.

Insofern liegt in dem Eroberungsfeldzug unseres Geistes durch die KI auch die Chance, dass wir uns auf unseren gesunden Menschenverstand zurückbesinnen und wieder damit beginnen, das Gesehene und Gehörte zunächst zu hinterfragen, statt unmittelbar — und zuweilen hochemotional — darauf zu reagieren. Hierzu dürfen wir wieder lernen, einen Raum zwischen Reiz und Reaktion zu schaffen, in welchem wir das Wahrgenommene einer Interpretation unterziehen, ehe wir reagieren.

Der Mensch, das Original

„Nun weiß ich, warum ihr weint – aber das ist etwas, was ich niemals werde tun können“, resümiert der Terminator am Ende des Films, während er John mit dem Finger eine Träne von der Wange wischt. Am Ende fordert die Maschine John und Sarah auf, ihn zu vernichten, indem sie ihn mit einem Kran in das heiße Flüssigeisen eines Stahlwerks herablassen sollen. Er selbst kann sich nicht terminieren. John will das um jeden Preis verhindern, er will „seinen“ Terminator, seinen maschinellen Ersatzvater nicht verlieren. Doch er muss. In dieser Situation kann der Terminator die situative Korrelation zwischen Ereignis und Tränenfluss ermitteln und damit zugleich die seelische Beschränktheit seines Maschinen-Seins erkennen.

„Terminator 2“ ist ein von allen Nachfolger-Filmen unerreichtes Meisterwerk, welches die Grenzen zwischen Maschine und Mensch auslotet. Im vordigitalen Zeitalter gedreht, ist das Werk so aktuell wie nie. Wir bekommen vor Augen geführt, dass Maschinen – und mögen sie noch so menschlich erscheinen – nie ihren Pinoccio-Moment erlangen werden. Die Maschine bleibt Maschine. Und der Mensch wird immer dieses „nicht-terminierbares“ Etwas haben — man mag es „Seele“ oder etwas „Göttliches“ nennen — dieses Etwas, was ihn immer von der Maschine unterscheiden wird.

Diese Scheidelinie sichtbar zu machen, ist dieser Tage so notwendig wie nie zuvor. Die alten Tamagotchis waren nur ein kleiner Vorgeschmack auf die technophilen Exzesse der Jetztzeit; Smartphones, in welche wir unser gesamtes Sozialleben ausgelagert haben, Chat-Bots, die uns als scheinbar allwissender Ratgeber zur Seite stehen und selbst Sexroboter sind längst nicht mehr nur ein japanisches Phänomen.

Und umgekehrt trachten technokratische Einpeitscher transhumanistischer und posthumanistischer Ideologien nach der Überwindung des Menschen. Krankheit, Gebrechen, Sterblichkeit werden als Beleidigung empfunden, als rein biologische Unzulänglichkeiten, die es zu überwinden gilt, damit der Geist das vergängliche Gefährt der Physis überdauern kann. Die massenhaft verabreichten Genspritzen sowie die keinerlei Erkrankung nachweisenden, aber dafür DNA-Daten-sammelnden PCR-Tests waren ein biopolitisches Brecheisen. Schon vor der Spritzen-Kampagne war die „Impf“-Technologie soweit ausgereift, dass per Injektion biodigitale Schnittstellen im Körper eingerichtet werden konnten. Implantierte Chips werden schon längst nicht mehr als „Verschwörungstheorie“ verschrieen, sondern angepriesen. Ob biometrische Erkennungsdaten und die Konzentration selbiger auf digitalen Identitätsnachweisen, Wearables am Körper, technische Implantate im Körper, Nano-Bots im Blut oder — als finales Einfallstor in den menschlichen Geist – die Computer-Gehirn-Schnittstelle, die bereits von Unternehmen wie Elon Musks‘ Neuralink erforscht wird: die Maschinisierung des Menschen schreitet in großen Schritten voran.

Kurzum: Wir vermenschlichen Maschinen, während wir Menschen immer unmenschlicher werden. Wohin das führen kann, zeigen die ersten beiden und der vierte Terminator-Film eindrücklich. Doch wie so oft kann sich der kritische Rezipient des Eindrucks nicht erwehren, dass Hollywood öfter als Inspiration denn als Warnung diente.

Dass diese Pläne am Ende nicht aufgehen können, liegt auf der Hand. Denn das Digitale — wie Jochen Kirchhoff einmal gut bemerkte — hat keine Verwurzelung in der Welt, keine Seele und wird somit irgendwann in sich selbst zusammenfallen. Die Frage lautet, wie viel von unserer Menschlichkeit bis zu diesem Kollaps in Mitleidenschaft gezogen wird.

Was wir gewiss nicht benötigen, ist ein Anführer, ein John Connor. Wir müssen selbst der John Connor sein, den wir uns beim Zurückdrängen der Maschinenmacht wünschen. Letztlich haben wir es im Alltag selbst in der Hand, inwieweit wir der Technologie Zugriff auf unser Leben gewähren.

Das Schlusswort gebührt dem Psychoneuroimmunologen Christian Schubert. Dieser schrieb kürzlich ein bemerkenswertes Buch über die „Geometrie der Seele“. In diesem legte er anhand vieler berührender Einzelbeispiele dar, wie fraktale, das heißt selbstähnliche Muster in unserer Seele zu sich wiederholenden Handlungen und Ereignissen in unserem Leben führen. Die Fraktalgeometrie unterscheidet sich von der maschinellen Geometrie fundamental hinsichtlich ihrer „Rauheit“, das heißt ihrer nicht-linearen, nicht-gleichmäßigen, nicht-eckigen, unberechenbaren Beschaffenheit. Die Scheidelinie zwischen Mensch und Maschine bringt Schubert leidenschaftlich auf den Punkt:

„Einige mächtige Bestrebungen unserer Zeit wollen uns weismachen, dass Mensch und Maschine nicht allzu weit auseinander seien. Dass Menschen letztlich wie Maschinen funktionieren und durch Maschinelles immer noch effizienter, schlauer und schneller gemacht werden können. Das Versprechen geht sogar so dahin, dass wir durch Maschinelles gesünder und glücklicher werden können. Nicht nur sind diese Vorstellungen wohl den meisten Menschen höchst unangenehm, das Wissen um Fraktale beweist, dass alles, was man ‚Transhumanismus‘ oder gar ‚Posthumanismus‘ nennt, nicht funktioniert oder niemals funktionieren wird. Ganz sicher nicht im Hinblick auf Gesundheit und Glück. Linearität — ein wesentliches Merkmal des Maschinellen — lässt sich nicht mit Leben vereinbaren. Die Nicht-Linearität alles Lebendigen und Bedeutungsvollen wird immer ein Störfaktor sein, wird immer Sand ins Getriebe der Maschinenwelt streuen. Sie wird immer die unnachahmliche Kraft des eigentlich Menschlichen ins Licht rücken.“ (7)

---

Quellen und Anmerkungen:

(1) Siehe Zuboff, Shoshana: „Das Zeitalter des Überwachungskapitalismus“, Frankfurt, 2018, Campus Verlag, Seite 118.
(2) Vergleiche Loh, Janina: „Trans- und Posthumanismus zur Einführung“, Hamburg, 2018, Junius, Seite 60.
(3) Siehe Han, Byung-Chul: „Undinge: Umbrüche der Lebenswelt“, Berlin, 2021, Ullstein, Seite 48 Fortfolgende.
(4) Siehe Ebenda, Seite 52.
(5) Siehe Han, Byung-Chul: „Müdigkeitsgesellschaft“, Berlin, 2010, Matthes & Seitz, Seite 43 Fortfolgende.
(6) Siehe Ebenda, Seite 45.
(7) Siehe Schubert, Christian: „Geometrie der Seele: Wie unbewusste Muster das Drehbuch unseres Lebens bestimmen“, München, 2023, Gräfe und Unzer, Seite 201 Fortfolgende.