Digitale Moderne als Science Fiction

Eines der Charakteristika moderner Totalitarismen ist die Vermischung von Fiktion und Realität. Der nationalsozialistische Wahn trug die Züge eines großen Gesamtkunstwerks. Hitler hatte sich in seiner Vision für Deutschland in die Kulissen des Wagnerschen Opernwerks verrannt und die Götterdämmerung für Prophetie gehalten. Als »Leben wie im Kino« fühlte es sich für das Volk an, während sich der Führer mit seiner Clique in Wahnfried dem Meisterkult hingab. Auch in der Gegenwart schreitet die Fiktionalisierung der Politik munter voran; vielleicht liegt darin sogar ein Zeichen der Zeit: einer Zeit, in der Politik als Meme-taugliches Sprachspiel betrieben wird, als Strategiespiel rund um alternative Fakten, digital manipulierte Kunstwelten und »flood the zone«.

Offensichtlich gibt es eine Verbindung zwischen den noch ganz analogen Kunstwelten des Old-School-Faschismus und dem, was wir heute in der neuautoritären digitalen Welt erleben. Das ist mehr als »flood the zone«, und es ist auch mehr als Walter Benjamins Ästhetisierung der Politik. Kennzeichnend für den modernen Tech-Totalitarismus ist einerseits eine so noch nie dagewesene epistemische, pansystemische, strukturelle Totalität und andererseits eine Storytelling-Affinität, eine Kinohaftigkeit, die nicht nur mit Symbolen spielt, sondern ganze Drehbücher inszeniert (»the authoritarian playbook«). Diese durchgängig fiktionale Attitüde kann kein Zufall sein, und das ist im zeitdiagnostischen Schrifttum auch nicht unbemerkt geblieben. Bahnbrechend in dem Genre dürfte Lawrence Lessigs Klassiker Code and Other Laws of Cyberspace gewirkt haben, der schon 1999 die Gefahr eines zum totalitären staatlich-ökonomischen Überwachungsregime mutierten Internet erkannte und sich dazu auf die Science-Fiction-Visionen von Vernor Vinge (The Technological Singularity) und Tom Maddox (Snake Eyes) berief. Hierzulande hat sich der Frankfurter Rechtsphilosoph Klaus Günther wiederholt mit dem Phänomen der smarten Ordnungen befasst und ist dabei zu ähnlichen Referenzen gelangt: von Peter Weir (The Truman Show) und den Wachowskis (The Matrix) bis weit zurück zum Klassiker der deutschen Schauerromantik E. T. A. Hoffmann (Meister Floh). Hoffmann erscheint bei Günther als früher Visionär der Dystopie einer smarten Gesellschaft. Meister Floh verfügt nämlich über ein Gedankenmikroskop, mit dem man die Gedanken anderer Menschen lesen kann. Doch das smarte Gerät erweist sich als diabolische Gabe. Erst als die Menschen es beiseitelegen, können sie sich glücklich vereinen. Klaus Günthers Lehre daraus: Die Utopie technischen Allwissens mündet immer in die normative Dystopie. Denn Allwissen schafft nicht etwa Sicherheit, sondern zerstört Vertrauen und damit die kostbarste Ressource des menschlichen Umgangs miteinander. Die Konsequenz für den Menschen: »nicht nur erhebliche Freiheitsverluste, sondern auch das Schicksal, zu einem Leben in Einsamkeit und Misstrauen verdammt zu sein«.

Ist das so? Wie passt die aufgeklärte Aspiration zur Freiheit, zu der ja gerade die Utopie der technischen Machbarkeit gehört, zum Niedergang derselben Freiheit in Dystopien wie der epochalen Welt der Matrix? Was gilt für das menschliche Verhalten in digital generierten Kunstwelten: Ist es nun frei oder nicht? Was erzählt uns Science Fiction darüber? Mehr noch: Wie sehr ist unsere Vorstellung von Freiheit in der digitalen Welt selbst Science Fiction?

Der Mythos der Autonomie

Kantisch zugespitzt findet sich die Frage nach der verbleibenden Freiheit in einer digital durchnormierten Welt wiederum bei Klaus Günther: In smarten Ordnungen gebe es keine Freiheit mehr. Denn Freiheit zur Normbefolgung setze Freiheit zur Normabweichung voraus. Gerade diese werde aber beschnitten, wenn Ordnungen nicht mehr normativ, sondern smart sind, also jeden Fehltritt der Normunterworfenen immer schon vorausberechnet haben und damit idealerweise nicht nur durch Predictive Policing (wie in Spielbergs Minority Report), sondern technisch direkt unterbinden können. Beispielhaft zählt Günther Smart Contracts, Smart Cities, Social-Credit-Systeme und andere Formen selbstexekutorischer digitaler Normativitätsregimes auf, in denen antizipatorisches Regieren nach der Maxime »Code is Law« heute schon erprobt wird. Zu ergänzen bliebe die dunkle Seite der Macht in Form von Kill Switches, die technische Geräte, Infrastrukturen und ganze Gemeinwesen gerne aus politischen Gründen per versteckter digitaler Fernsteuerung ad hoc außer Betrieb setzen können. Wir warten noch auf das Signal aus dem Empire unserer Wahl.

Aber stimmt es denn, dass die faktische Freiheit zu abweichendem Verhalten in normativen Ordnungen, wie Günther meint, eine so hohe ethische Dignität besitzt, dass man ihr die ganze Last des freiheitlichen Weltbilds der westlichen Gesellschaftsordnung aufbürden sollte? Oder ist diese arg romantisierte Freiheit zur willkürlichen Dissidenz nicht eher eine Mystifikation, die das, was unter Freiheit in digitalen Welten zu verstehen sein könnte, gar nicht betrifft? Die Autorin dieser Zeilen hat sich selbst eine Zeit lang an einer solchen Argumentation versucht, diese Versuche aber bislang nicht publiziert; wie sie glaubt, aus gutem Grund. Die Argumentation ging etwa wie folgt: Das westliche Rechts- und Moraldenken fußt seit Immanuel Kant durchgängig auf dem Autonomieprinzip. Autonomie ist begriffsnotwendig an das Individuum gebunden. Das Individuum ist, wie sich aus der Etymologie des Begriffs ergibt, das Unteilbare. Ersetzt man das autonome »In-Dividuum« nun – mit einer suggestiven Begriffsschöpfung von Gilles Deleuze – durch das aus Datenpunkten in der Matrix bestehende Dividuum, löst sich die Autonomie auf wie ein Stück Würfelzucker im Kaffee. Dort, wo vorher freier Wille war, ist jetzt algorithmische Voraussage. Der Mensch verschwindet hinter dem Datenbestand und seiner digitalen Vorhersehbarkeit, sobald datenstatistische Verfahren ihn im buchstäblichen Sinne besser kennen als er sich selbst. Und, kein Vertun: Big-Data- und KI-Verfahren stehen an der Schwelle, genau dies zu können. Interessanterweise kommt es dabei nicht einmal auf die Daten des betreffenden Individuums selbst an. Es reicht, das Individuum als statistischen Datenpunkt zu begreifen, um seine genaue Position in der Masse berechnen zu können.

Dieser epistemische und ontologische Paradigmenwechsel kann, so scheint es, auch für das Recht nicht ohne Konsequenzen bleiben. Denn wo Big-Data-Verfahren das Individuum besser kennen als dieses sich selbst, kann es, so scheint es, auf dessen imaginierte Autonomie auch für rechtliche Steuerungszwecke nicht mehr ankommen. Aus dem modernen Individualrecht, das den Grundbaustein der liberalen Rechtsordnung bildet, wird dann ein Dividualrecht, das den Menschen nicht mehr als unteilbare, freie und autonome Person konstruiert, sondern jedenfalls dort, wo dies einen Zugewinn an Steuerungseffizienz verspricht, als bloßen Messpunkt in einer Matrix kombinierter Häufigkeitsverteilungen typischer Verhaltensmuster auffasst. Mit der Willensmacht, die bis dato im subjektiven Individualrecht abgebildet ist, wäre es dann ebenfalls nicht mehr weit her. Und selbst wenn man nicht an die Vision eines solchen vollständig »granularen« Rechts glaubt, folgt aus dieser analytischen Grundeinsicht potenziell Erschütterndes für den Anspruch des Rechts, der Willensmacht des Individuums legitimierende Wirkung zuzuschreiben. Denn der angeblich unteilbare Wille passt dann epistemisch nicht mehr zur tatsächlich teilbaren, berechenbaren Struktur unserer Existenz. Und teilweise zeigt sich diese Inkompatibilität von Konstruktion und Realität bereits jetzt: So sind wir etwa rational überzeugt davon, unsere Daten schützen zu wollen, geben sie aber trotzdem bei jedem Klick entgegen unserer Überzeugung preis – weil wir genau das wollen. Diese Einsicht kann man verallgemeinern: Das Recht reguliert Phänomene wie digitale Hassrede, algorithmische Diskriminierung und die Ausnutzung globaler Datenmonopole durch generative KI nicht etwa deswegen kaum oder nur rudimentär, weil es dies nicht könnte, sondern vielmehr, weil wir in unserem Selbstverständnis als autonome Rechtssubjekte eine solche Regulierung nicht wollen, oder präziser: aufgrund unseres nicht aufgebbaren Glaubens an den unbedingten Vorrang unserer unteilbaren Autonomie nicht wollen können.

Das Erstaunlichste an der gesamten Entwicklung der digitalen Gesellschaft hin zu den aktuellen Zuständen der Hybridisierung, Fiktionalisierung und Ent-Epistemisierung der aufgeklärten Wissenskultur durch KI-Slop, Bot-Armeen und Deep Fakes ist ja tatsächlich, dass wir das alles genau so gewollt haben und es offensichtlich immer noch genau so wollen. Man mag den vielfach beschriebenen Verlust der Funktion der klassischen Medien als Gatekeeper für die Lauterkeit der im öffentlichen Diskurs verbreiteten Informationen beklagen. So etwas wie einen Pressekodex gegen die Verbreitung von Fake News durch Bot-gestützte Privataccounts wird es trotzdem nicht geben. Denn wo sollten die Grenzen zu ziehen sein? Das Problem ist ja gerade, dass uns das liberale Autonomieverständnis die Einsicht darauf verstellt, dass das autonome Individuum möglicherweise mit der Aufgabe überfordert ist, selbstbestimmt über seine eigene digitale Kolonisierung zu entscheiden. Das Problem ist nicht durch Rückgriff auf die alten, vordigitalen Kategorien von Wahrheit, Rationalität und »echter« Autonomie zu lösen. Denn die neue digitale Freiheit zur Selbstkolonisierung ist, und darum soll es im Folgenden gehen, in einer nichttrivialen Weise mehr als nur Betrug: Sie verheißt nicht weniger als eine große neue romantische Freiheitserzählung. Sie verbindet Science – die alte Utopie des Alles-Wissen-, Alles-Sehen-, Alles-Berechnen-Könnens – mit Fiction, dem neuen Versprechen, sich durch digitale Technologien eine utopische Parallelwelt zu erschaffen, in der die physischen, psychischen und intellektuellen Grenzen des Menschen aufgehoben sind. Sie ist, mit anderen Worten, Science Fiction.

Science: Die Mathematik des Sozialen

Die digitale Gesellschaft ist also gerade nicht das »Ende des Individuums«. Sie verheißt vielmehr dessen ultimative Realisierung. Was ist also das eigentlich Neue an digitalen Technologien? Was bleibt übrig von den großen digitalen Utopien und Dystopien, wenn man das abzieht, was frühere Wissenskulturen sich schon lange vor Google über die Berechenbarkeit des Menschen gedacht haben? So gestellt, verweist die Frage nach Essenz, Neuheit und etwaiger Disruptivität des Digitalen also zunächst einmal auf die Wissenschaftstheorie und -geschichte. Armin Nassehi hat sich vor einiger Zeit auf wissenschaftstheoretischem Weg an einer Theorie des Digitalen versucht, die die Erkennung und Verknüpfung von »Mustern« in den Mittelpunkt stellt. Digitale Information sei der Inbegriff der informationellen Form, die universelle Meta-Information, die es erlaube, gesellschaftliche Muster aller Art mit Meta-Informationen aus beliebigen anderen digitalen Mustern zu hybridisieren und dadurch wiederum beliebige neue digitale Muster zu erschaffen – und immer so weiter bis ins Unendliche. Diese epistemische Mächtigkeit sei historisch ohne Vorbild.

Erstaunlich ist allerdings, dass sich Nassehi in seinem wissenschaftstheoretischen Bemühen nirgendwo dazu durchringen kann, die von ihm als so mächtig konstatierte binäre Durchdringung der Lebenswelt denn auch tatsächlich als wissenschaftlich oder wenigstens als szientifisch zu beschreiben. Stattdessen verfällt er immer wieder auf das seltsame Adjektiv »szientoid«: »Diese Praktiken sind szientoid. Sie analysieren die Welt in Form von selbst erzeugten Daten, die nicht die Welt selbst sind.« Nun weiß natürlich auch Nassehi, dass es »Daten, die die Welt selbst sind«, nicht gibt und dass dies folglich nicht der Unterschied sein kann zwischen echter Wissenschaft und etwas, das nur so aussieht, aber allenfalls Wissenschafts-Mimikry, also eine »szientoide Praxis« ist. Gleich darauf zitiert er daher Luhmann hinterher, der wie immer einen passenden Spruch auf Lager hat. Hier lässt Nassehi das Luhmann-Orakel sagen, dass »auch die Wissenschaft selbst nur wissenschaftsähnlich« sei. Doch dieser spielerische Ausweg vernebelt ein tieferes Problem: Es scheint Nassehi nicht zu passen, dass wissenschaftliche Verfahren von wissenschaftlich gebildeten Menschen in der digitalen Welt dazu benutzt werden, etwas derart Absurdes zu tun, wie dem Papst einen weißen Daunenmantel anzuziehen, einen amerikanischen Präsidenten als Papst zu inthronisieren oder Jesus aus Shrimps zusammenzusetzen und sich als ernsthafter Mensch, nein, als hundertmillionenfache Gesellschaft ernsthafter Menschen stunden-, tage-, jahre-, letztlich lebenslang genau damit freiwillig zu befassen.