Auf dem Weg in die Daten-Diktatur

Maschinen können den Menschen entbehren – zwei Bücher darüber, wie der Alltag der Menschen in Zukunft aussehen könnte

Von Aurel Schmidt

Dass wir auf dem Weg in eine Datendiktatur sind, wird uns umso bewusster, je intensiver wir darüber nachdenken. Seitdem jeder Schritt überwacht, aufgezeichnet, registriert, getrackt, interpretiert, vorausgesagt werden kann, etwa mit Thermostaten im Schlafzimmer, ist etwas eingetreten, mit dem wir uns dringend auseinander setzen sollten.

Bald wissen die intelligenten Maschinen mehr über uns als wir selbst. Die Entwicklung, die vielleicht bereits einen point of no return erreicht hat, sollte uns zutiefst verstören. Ist aber nicht der Fall. Sollte die prognostizierbare Datenkatastrophe am Ende doch nicht eintreten, könnte das nur daran liegen, dass Big Data an seinen eigenen Widersprüchen zerbricht, meint Yvonne Hofstetter in ihrem Buch "Sie wissen alles".

Hofstetter ist Juristin, hat sich mit Finanztechnologie befasst und ist CEO eines IT-Unternehmens. Wenn sie etwas über Big Data sagt, wird sie also wahrscheinlich genauer als viele wissen, worum es geht. Umso mehr verdienen ihre Aussagen, zur Kenntnis genommen zu werden.

 

"Intelligente Maschinen sind 'Besserwisser' und
bilden eine 'maschinelle Parallelwelt'."

Eine kleine Vorbemerkung zum Buch und dann direkt zur Sache. Die Leserschaft ist zu resoluter Aufmerksamkeit aufgefordert. Bei der Komplexität der Materie soweit kein Wunder. Dafür liegt der Lohn in einem umfassenden Überblick. 

Zu Beginn erklärt die Autorin am Beispiel von Luftraumüberwachung und Börse, wie Big Data funktioniert, nämlich ziemlich autonom, unter Ausschluss des Menschen; anschliessend geht sie auf das Thema Mathematik, Algorithmen, Statistik, Modell, Variable, Wahrscheinlichkeitsrechnung ein. Im zweiten Teil stellt sie Überlegungen über den Menschen und seine Zukunft an. Zwischenhinein fallen immer wieder pointierte Sätze, die das Gesagte kritisch auf den Punkt bringen. Intelligente Maschinen seien "Besserwisser", sagt Hofstetter, Big Data sei eine "maschinelle Parallelwelt".

Am Beispiel der Börse wird die absolute Macht von IT-Maschinen und Algorithmen exemplarisch deutlich. Was geschieht, hält sich an die Formel "If, then, else" (Wenn, dann, sonst). Algorithmen lenken und diktieren weitgehend den Wertschriftenhandel, der Handlungspielraum der Trader ist eingeschränkt. Das gleiche Gesetz ist übertragbar auf zahlreiche andere Bereiche.

Die Rechner sind so programmiert sind, dass sie immer umfassender alle denkbaren Risiken und sogar unwahrscheinlichen Ereignisse, sogenannte Schwarze Schwäne (äusserste Unwahrscheinlichkeiten), einkalkulieren, besser als der Mensch je dazu in der Lage wäre. Zwar sind sie weder in der Lage, Metaphysik, Mystik, menschliche Psychologie und so weiter zu verstehen, noch darauf einzugehen. Sie können aber sehr gut auch darauf verzichten. Sie haben gelernt zu lernen und sich automatisch zu korrigieren, und je perfekter sie dazu in der Lage sind, desto weniger kann der Mensch dagegen einschreiten und muss sich mit der Funktion als Handlanger begnügen. Etwas anderes würde den Lauf der Welt unterminieren.

 

"Der Mensch kann den Wettkampf mit
der Maschine nicht gewinnen."

Hofstetter möchte diese Entwicklung nicht wahrhaben. Auf den letzten Seiten des Buchs gibt sie zehn Ratschläge gegen die fortschreitende Entwicklung. Zum Beispiel sollten Anwender auf die Nutzungsoptimierung von iMaschinen und iGeräten verzichten. Es muss nicht immer sofort das neueste Modell sein, meint sie. Je mehr Nutzen, desto mehr Daten und also mehr Kontrolle. Aber da viele Menschen fürchten, die technische Revolution zu verpassen, deren Gebrauch ihnen einen höheren sozialen Status verleiht, ist davon nicht viel zu erwarten.
  
Widerstand ist wohl eine positive Haltung, aber die Aussicht, etwas ausrichten zu können, eher gering. Auch mit den besten Ratschlägen von Hofstetter. Zuletzt räumt sie selbst ein, dass der Mensch den Wettkampf mit der Maschine nicht gewinnen kann, weil die Maschine den Menschen immer mehr entbehren kann. Im Börsengeschäft handeln zunehmend Maschinen mit Maschinen und Rechner mit Rechnern. Bereits jetzt schon wird in den USA die Hälfte aller Transaktionen maschinell abgewickelt.

Was geschieht mit den Daten, die anfallen? Sie werden in Gold verwandelt: von den IT-Konzernen. Wer seine persönlichen Daten nicht freiwillig herausrückt, dem werden sie entzogen. Auch hier kein Rückzug. Überall sind Kontrollmaschinen und Datenkollektoren aufgestellt; Facebook kennt durch den sogenannten digitalen Schatten beziehungsweise die Daten-Abgase auch Menschen, die kein Konto bei ihm haben. Um es sarkastisch zu sagen: Ihr Pyjama, sehr verehrte Leserinnen und Leser, weiss genau, wann Sie schlafen gehen, und löscht automatisch das Licht im Schlafzimmer, wenn es Zeit ist. Sogenannte Wearables als Spione. Nicht heute, das nicht. Aber es kommt noch. Die Käuferschlange bildet sich schon vor der Ladentür.

 

"Der totalitäre Albtraum hat auch
etwas Grausliches an sich."

Ist das pessimistisch? Ich würde sagen: und wie! Vielleicht bin ich aber nur zu sehr auf die negativen Konsequenzen von Big Data eingegangen. Denn der totalitäre Albtraum, der sich abzeichnet, ist als gesellschaftliche Perspektive natürlich entsetzlich, hat aber zugegebenermassen auch etwas angenehm Grausliches an sich wie Wölfe und Hexen in den Grimm-Märchen für Kinder.

In diesem Sinn liegt die Bedeutung von Hofstetters Buch darin, dass es die Leserschaft auf die bevorstehenden Revolutionen vorbereitet. Falls gewünscht. Als Juristin geht die Autorin auf rechtliche Fragen ein wie etwa die, wem eigentlich die Daten gehören. Eigentum ist nur an Objekten möglich, niemals an Daten. Die von der IT-Industrie vorgenommene unerlaubte Aneignung personenbezogener Daten erfüllt daher mindestens den Tatbestand der Ausbeutung.
 
Postfinance hat kürzlich die Absicht bekanntgegeben, die Daten ihrer Kunden und Kundinnen absaugen und damit Handel treiben zu wollen. Wer seine Einwilligung dazu verweigerte, sollte vom E-Banking ausgeschlossen werden. Der Widerstand war aber so gross, dass der Plan begraben werden musste.

 

"Die Menschen werden kontrolliert, aber
kontrollieren sich selbst auch untereinander."

Da wir schon einmal bei der schönen neuen, totalisierten Welt sind, soll hier noch ein Hinweis nachgeschoben werden auf das Buch "Der Circle" des amerikanischen Schriftstellers Dave Eggers, das gut als Ergänzung zur Thematik von Yvonne Hofstetter passt.
 
Der "Circle" im Buchtitel ist ein an Facebook und Google orientiertes futuristisches Kommunikations-Unternehmen, das die halbe und bald die ganze Welt mit Informationen versorgt und die Menschheit zu einer netten Grossfamilie vereinigt, bis ...

Bis der Horror losbricht.

Die Mitarbeitenden des Circle bilden eine kommunikative, vernetzte, transparente Community oder, in der Sprache des Buchs, einen Circle. Sie besitzen alle ein Profil, ein Passwort, die erforderlichen Tools und bedienen pausenlos ihre Social Accounts, Feeds, Rankings, Postings, Downloads, wenn es nicht längst die Netzhaut besorgt, und geben über Smiles (Zustimmung) und Frowns (Stirnrunzeln, also Ablehnung) ihr Urteil ab.

Permanent werden sie kontrolliert, aber selbst kontrollieren sie permanent auch alle anderen. Überall sind Sensoren und Dropcams aufgestellt. Wer sich heraushalten will und auf die negative Freiheit beruft, nicht mit von der Partie zu sein, macht sich verdächtigt und gilt als sozial dubioses Subjekt. Jeder und jede ist unentwegt zu Rechenschaft verpflichtet. Warum hast du auf meine Mails nicht geantwortet? Warum bist du nicht zu meiner Party gekommen? Habe ich dich verletzt? Nein, nein, natürlich nicht, aber... Was aber? Ich meinte nur... Was meintest Du? Und so weiter.

 

"Die total transparente Welt ist
eine totalitäre Welt – eine Peepshow."

Die "Philosophie" des Circle besteht darin, dass die Welt von jeder Art von Kriminalität befreit werden könnte, wenn alle alles von allen wüssten. Danach wird gehandelt.

Mae Holland ist Pionierin und trägt eine Kamera um den Hals. Dadurch können alle User des Circle jeden ihrer Schritte mitverfolgen, während sie selbst auf dem Monitor ihres Handgelenk-Computers in jedem Augenblick ihr Ranking ablesen und auf ihre Follower reagieren kann. Schnell steigt sie zum bejubelten Star der Circle-Community auf.

Nachdem ich das geschrieben hatte, las ich, dass eine amerikanische Country-Pop-Sängerin 45 Millionen Follower hat, unter denen einer war, der ihre Geburtsstunde angeben konnte, die sie selbst nicht kannte. Das Geschriebene ist im selben Moment, wo es geschieht, schon überholt.
 
Für Mae in Eggers Roman hat das alles nur einen Haken. Statt dass die Welt friedlich wird, setzt eine Hetz- und Menschenjagd auf Verdächtige ebenso wie auf Unverdächtige ein. Die Herrschaft des Mobs breitet sich aus. Die informierte, vernetzte, total transparente Welt ist eine totalitäre Welt, in der die Menschen, wie es auch Yvonne Hofstetter annimmt, gesteuert und gleichgeschaltet sind.

Wenn das schon schlimm genug ist, dann ist das Mass noch nicht voll. Die Menschen im Circle empfinden ihre Lebensverhältnisse nicht etwa als entsetzlich, sondern im Gegenteil als erstrebenswert. Sie sind freiwillig, fröhlich, frohlockend, frenetisch dabei, sozusagen unisono.

Von Seite zu Seite nimmt die gläserne, integrierte Gesellschaft in Eggers' Buch das Format einer Peepshow an. Auch die Idee einer Sekte stellt sich ein. Kommunikation ist ein Wahn, der die Menschen vom materiellen Dasein erlösen und in einen Autismus oder ein Nirwana von Information, Nachrichtenaustausch und medialen Netzen führen soll, in dem das Individuum verschwindet. In Eggers' katastrophischer Utopie ist Privatheit ein Verbrechen. Darin besteht seine negative Anthropologie.

 

"Der Fanatiker ist auf dem richtigen Weg,
der Warner wird zum Verräter."

Der quasi religiöse Charakter der informierten, transparenten, heilen Welt ist etwas, das noch viel zu wenig beachtet worden ist. Am Schluss versucht einer der drei Gründer des Circle, der eingesehen hat, dass die Entwicklung ihm längst entglitten ist, Mae den Irrlauf des Unternehmens begreiflich zu machen, prallt aber an einer Wand ab. Mae ist überzeugt, dass die Welt auf dem richtigen Weg ist, weil sie als Fanatikerin zur Einsicht in den Irrtum nicht fähig ist. Umso mehr wird der Warner wird zur Verdachtsperson, zum Verräter, religiös gesagt zum Renegaten.
  
Das Buch reiht sich in die Tradition der grossen dystopischen Romane von Jewgenij Samjatin, Aldous Huxley, Ray Bradbury oder George Orwell ein und lässt den Horror der schönen neuen Community, den Eggers als eine friedlich in den Wahnsinn des Totalitarismus treibende Welt darstellt, auf den Lesern rieseln: Soweit könnte es kommen.

Eggers versucht also mit literarischen Mitteln, ein groteskes Bild der Zukunft zu entwerfen, während Hofstetter es darauf anlegt, mit kritischen Argumenten auf die Gefahren aufmerksam zu machen. Das Ziel ist beide Mal das gleiche: Seid gewarnt.

Noch einmal zu Yvonne Hofstetter. An einer Stelle fragt sie in ihrem Buch, ob Google zum verlängerten Arm der US-Regierung, wenn nicht zu einem Teil von ihr werden könnte, etwa wie das Federal Reserve System.
 
Gute Frage. Doch ist der Fall nicht bereits eingetreten? Nun ja, nicht ganz. Oder etwa doch? In einem Interview hat Eggers explizit von einer "Komplizenschaft" zwischen den grossen amerikanischen Telefongesellschaften und der NSA gesprochen. Wie auch nicht. Wir sind auf dem besten Weg.  

^{Literatur
Yvonne Hofstetter: Sie wissen alles. Wie intelligente Maschinen in unser Leben eindringen und warum wir für unsere Freiheit kämpfen müssen. Bertelsmann. 351 Seiten. ca. Fr. 29.90
Dave Eggers: Der Circle. Roman. Aus dem Amerikanischen von Ulrike Wasel und Klaus Timmermann. Kiepenheuer & Witsch. 559 Seiten. ca. Fr. 32.90}

"Eine weitere Buchempfehlung"

Ich möchte noch einen andern Buchtitel empfehlen: Corpus Delicti von Juli Zeh.