Jaron Lanier

Zehn Gründe, warum du deine Social Media Accounts sofort löschen musst

Aus dem amerikanischen Englisch von Martin Bayer und Karsten Petersen

Hoffmann und Campe

ViSiT WWW.iBOOKS.TO

Einleitung, mit Katzen

Fangen wir mit Katzen an.

Online sind Katzen überall. Sie liefern die viralsten Meme und die niedlichsten Videos.

Wieso schaffen Katzen das eher als Hunde?[1]

Es war sicher nicht so, dass die Hunde irgendwann zu den Urmenschen gekommen sind, und darum gebettelt haben, mit ihnen leben zu dürfen. Wir haben sie domestiziert, erst die Zucht hat sie gehorsam gemacht.[2]   Jetzt lassen sie sich erziehen und sind berechenbar. Sie arbeiten für uns. Damit soll überhaupt nichts gegen Hunde gesagt werden.[3]   Es ist toll, dass sie treu und zuverlässig sind.

Katzen sind anders. Sie tauchten einfach irgendwann auf und haben sich mehr oder weniger selbst domestiziert. Sie sind nicht berechenbar. Beliebte Hundevideos zeigen oft, wie ein Hund dressiert wird, während die bei weitem beliebtesten Katzenvideos solche sind, die komische und erstaunliche Verhaltensweisen eingefangen haben.

Katzen sind intelligent, aber nicht die beste Wahl, wenn du ein Haustier haben willst, das sich gut abrichten lässt. Sieh dir mal einen Online-Katzenzirkus an: Es ist faszinierend, wie die Katzen sich unverkennbar selbst entscheiden, ob sie ein gelerntes Kunststück vorführen, lieber gar nichts tun oder zwischen den Zuschauerbänken herumwandern wollen.

Katzen haben das scheinbar Unmögliche geschafft: Sie haben sich in die moderne Hightech-Welt integriert, ohne sich selbst aufzugeben. Sie entscheiden nach wie vor selbst, was sie tun wollen. Es steht nicht zu befürchten, dass irgendein tückisches Mem, das von Algorithmen konstruiert und von einem unheimlichen und unsichtbaren Oligarchen bezahlt wurde, deine Katze unter seine Kontrolle bringt. Niemand kann deine Katze unter Kontrolle bringen, weder du selbst noch sonst irgendjemand.

Ach, wie schön wäre es, wenn wir sicher sein könnten, genauso wenig manipulierbar zu sein wie eine Katze! Wir können nur träumen und hoffen, dass sich der Mensch im Internet in Zukunft genauso verhalten wird wie die Katzen in den Videos.

Obwohl wir sie lieben, wollen wir auf gar keinen Fall wie Hunde sein, zumindest nicht in Bezug auf unsere Machtbeziehungen zu anderen Menschen. Und doch müssen wir befürchten, dass Facebook & Co. uns zu Hunden machen wollen. Wenn wir online mal wieder irgendwelchen Mist gebaut haben, dann wahrscheinlich, weil irgendjemand auf seiner Hundepfeife gepfiffen hat. Hundepfeifen können nur von Hunden gehört werden. Wir merken, dass wir Gefahr laufen, zu Opfern einer heimlichen Kontrolle zu werden.

In diesem Buch geht es darum, wie du eine Katze werden kannst. Wie kannst du selbstbestimmt bleiben in einer Welt, in der du rund um die Uhr überwacht und ständig von Algorithmen bedrängt wirst, die von einigen der reichsten Konzerne der Welt auf dich losgelassen werden? Von Konzernen, die nur Geld verdienen können, weil sie sich dafür bezahlen lassen, dein Verhalten zu manipulieren? Wie kannst du trotz alledem eine Katze sein?

Der Titel ist keine Lüge: in diesem Buch werden zehn Gründe präsentiert, alle deine Social-Media-Accounts sofort zu löschen. Ich hoffe, sie werden dich überzeugen. Aber selbst wenn du alle zehn Gründe richtig findest, wirst du vielleicht trotzdem ein paar deiner Accounts behalten wollen. Das ist deine eigene Entscheidung – als Katze.

Diese zehn Gründe werden dir einige Denkanstöße geben, wie du deine eigene Situation analysieren kannst, um zu entscheiden, was für dich am besten ist. Aber letzten Endes kannst nur du selbst das wissen.

Nachtrag des Autors, März 2018

Dieses Buch wurde hauptsächlich in den letzten Monaten des Jahres 2017 geschrieben, aber die bisherigen Ereignisse im Jahr 2018 sind für meine Thesen extrem relevant und brisant. Das Manuskript war fertig, zu Ende, finito – schon auf dem Weg in die Druckerei –, als die skandalösen Enthüllungen über Cambridge Analytica quasi über Nacht eine spontane Grassroots-Bewegung von Menschen ins Leben riefen, die ihre Facebook-Accounts löschten.

Leider haben nicht alle Meinungsführer und Persönlichkeiten des öffentlichen Lebens darauf mit der gebotenen Zivilcourage reagiert. Es gab kluge Leute, die aufhören wollten, es aber nicht schafften. Es gab andere, die darauf hinwiesen, dass nicht jeder privilegiert genug sei, um aufhören zu können, und daher fühle es sich grausam an, die weniger Privilegierten zurückzulassen. Wieder andere sagten, es würde nichts bringen, einfach nur aufzuhören, weil es darauf ankomme, die Regierung unter Druck zu setzen, Facebook zu regulieren. Insgesamt war die Haltung vieler professioneller Kommentatoren gegenüber Menschen, die ihre Accounts löschten, herablassend und diffamierend. Und völlig falsch.

Also wirklich, Leute! Ja, es ist ein Privileg, aussteigen zu können. Viele von uns können das nicht, aus guten Gründen. Aber wenn du die Möglichkeit hast aufzuhören, es aber nicht tust, dann unterstützt du damit nicht etwa die weniger Privilegierten, sondern du stärkst das System, in dem zahllose Menschen gefangen sind. Ich bin der lebende Beweis dafür, dass man auch ohne Social-Media-Accounts in den Medien präsent sein kann. Diejenigen unter uns, die sich frei entscheiden können, müssen ihren Worten auch Taten folgen lassen, weil sonst alles graue Theorie bleibt. Das Geschäft folgt dem Geld. Also haben wir, die wir uns frei entscheiden können, Macht und Verantwortung. Du, ja du, hast die konstruktive Verantwortung, dir zu überlegen und zu zeigen, wie man ohne diesen Mist leben kann, der die Gesellschaft zerstört. Auszusteigen ist bis auf weiteres der einzige Weg, um herauszufinden, wodurch die grandiose Fehlkonstruktion Social Media ersetzt werden kann.

1

Du verlierst deinen freien Willen

Willkommen in deinem Käfig, der überallhin mitkommt

Etwas völlig Neues passiert auf der Welt. Seit kaum fünf oder zehn Jahren tragen wir beinahe alle ein kleines Gerät mit uns herum, das »Smartphone« genannt wird und für algorithmische Verhaltensmodifikation geeignet ist. Viele von uns nutzen außerdem sogenannte »Smart Speaker«, auf dem Küchenregal oder im Auto. Wir werden rund um die Uhr beobachtet und registriert und erhalten ständig automatisiertes Feedback. Dabei werden wir unmerklich von unsichtbaren Technikern für unbekannte Zwecke hypnotisiert. Mittlerweile sind wir alle zu Versuchskaninchen geworden.

Diverse Algorithmen saugen Daten über dich auf, jede Sekunde, ununterbrochen. Auf was für Links klickst du? Was für Videos siehst du dir bis zum Ende an? Wie schnell springst du von einer Sache zur nächsten? Wo befindest du dich, während du das tust? Mit wem hast du Kontakt, persönlich und online? Welchen Gesichtsausdruck machst du? Wie verändert sich deine Hautfarbe in verschiedenen Situationen? Womit warst du gerade beschäftigt, als du beschlossen hast, etwas zu kaufen oder nicht zu kaufen? Zu wählen oder nicht zu wählen?

All diese Messdaten und viele andere werden mit ähnlichen Daten aus dem Leben von diversen anderen Menschen abgeglichen, die durch massives Ausforschen erfasst wurden. Algorithmen korrelieren das, was du tust, mit dem, was so gut wie alle anderen getan haben.

Die Algorithmen verstehen dich zwar nicht wirklich, aber ihre Zahlen bringen ihren Besitzern Macht, vor allem, wenn es viele Zahlen sind. Wenn viele andere Menschen, die gern das Gleiche essen wie du, außerdem von dem Bild eines Kandidaten mit rosa Umrahmung eher abgestoßen waren als von einem mit blauem Rand, dann wird es bei dir wahrscheinlich genauso sein, und niemand muss genau wissen, warum das so ist. Statistiken sind zuverlässig, aber nur als dumme Zahlensuppe.

Bist du traurig, einsam, ängstlich? Glücklich, selbstbewusst? Bekommst du deine Tage? Hast du Abstiegsängste?

Sogenannte Werbetreibende können präzise den Moment abpassen, wenn du genau in der richtigen Stimmung bist, um dich mit Anzeigen zu beeinflussen, die auch bei Leuten funktioniert haben, die bestimmte Eigenschaften und Situationen mit dir gemein haben.

Ich sage »sogenannte«, weil es einfach falsch ist, von Werbung zu sprechen, wenn Menschen vorsätzlich manipuliert werden. Früher hatte ein Werbetreibender nur eine flüchtige Chance, seine Botschaft rüberzubringen. Diese Botschaft war vielleicht verlogen oder nervig, aber sie war auch schnell wieder vorbei. Hinzu kommt, dass unzählige Menschen dieselben TV-Werbespots und gedruckten Anzeigen sahen, Werbung also nicht auf den Einzelnen zugeschnitten war. Der wichtigste Unterschied ist aber, dass du nicht ständig beobachtet und analysiert wurdest, um dir dynamisch optimierte Reize servieren zu können – seien es nun Inhalte oder Anzeigen –, mit denen dein Interesse geweckt und dein Verhalten verändert werden sollte.

Heute bekommt jede Person, die in einem sozialen Netzwerk unterwegs ist, individualisierte und ständig optimierte Reize serviert, pausenlos, solange sie ihr Smartphone benutzt. Was früher Werbung genannt wurde, muss heute als unaufhörliche Verhaltensmodifikation in gigantischem Umfang verstanden werden.

Sei jetzt bitte nicht beleidigt. Ja, ich will andeuten, dass du dich vielleicht – nur ein ganz kleines bisschen – in einen wohlerzogenen Hund verwandelst, oder vielleicht sogar in etwas nicht ganz so Sympathisches, etwa eine Laborratte oder einen Roboter. Dass du von den Kunden großer Konzerne ferngesteuert wirst – wenn auch nur ein kleines bisschen. Aber falls ich recht habe und du dir dieser Vorgänge bewusst wirst, könnte es dich befreien – also gib diesem Buch eine Chance, okay?

Bevor Computer erfunden wurden, entstand eine wissenschaftliche Bewegung, die als »Behaviorismus« bekannt wurde. Behavioristen erforschten neue, systematischere, sterilere und abgedrehtere Methoden, um Tiere und Menschen abzurichten.

Einer der bekanntesten Behavioristen war der US-amerikanische Psychologe B.F. Skinner. Er entwickelte die sogenannte »Skinner-Box«, einen Käfig, in dem ein Tier eine Belohnung erhält, wenn es eine bestimmte Aktion ausführt. Dabei ist kein Mensch beteiligt, der das Tier vielleicht streichelt oder ihm etwas zuflüstert, es ist eine völlig isolierte mechanische Aktion – eine neue Dressurmethode für moderne Zeiten. Diverse Behavioristen, von denen viele etwas bedrohlich wirken, probierten diese Methode auch am Menschen aus. In vielen Fällen funktionierten solche behavioristischen Konditionierungen, was großes Entsetzen auslöste und eine Reihe von gruseligen »Mind control«-Horror- und Science-Fiction-Filmen nach sich zog.

Es ist eine verhängnisvolle Tatsache, dass man einen Menschen mit behavioristischen Methoden manipulieren kann, ohne dass er es überhaupt merkt. Bis vor kurzem geschah das nur sehr selten, außer vielleicht, wenn du dich an einer Universität als freiwilliger Proband für ein Experiment im Keller der Psychologischen Fakultät gemeldet hast. Dann hat man dich in einen Raum geführt, wo du getestet wurdest, während dich jemand durch ein verspiegeltes Fenster beobachtet hat. Obwohl dir klar war, dass du bei einem Experiment mitmachst, konntest du nicht erkennen, wie du manipuliert wurdest. Aber zumindest hattest du vorher deine Zustimmung erteilt, dass man dich irgendwie manipulieren würde. (Na ja, auch nicht immer. Es wurden diverse grausame Experimente an Gefängnisinsassen, Armen und vor allem an Probanden bestimmter Hautfarben durchgeführt.)

In diesem Buch sage ich, dass das, was plötzlich normal geworden ist – allgegenwärtige Überwachung und ständige, subtile Manipulation –, unmoralisch, grausam, gefährlich und unmenschlich ist.

Gefährlich? Jawohl, gefährlich, denn wer weiß schon, wer sich diese Macht zunutze machen wird, und wofür?

Der verrückte Wissenschaftler hat doch Mitleid mit dem Hund im Käfig

Vielleicht hast du schon einmal die weinerlichen Geständnisse der Gründer von Social-Media-Imperien gehört, die ich allerdings lieber als »Verhaltensmodifikations-Imperien« bezeichne.

Das hat Sean Parker, der erste Präsident von Facebook, gesagt:

»Wir müssen dir sozusagen ab und zu einen kleinen Dopamin-Kick verpassen, weil jemand ein Foto oder ein Posting oder sonst was geliked oder kommentiert hat. […] Das ist eine Feedbackschleife für soziale Anerkennung […] genau das, was ein Hacker wie ich sich ausdenken würde, weil man damit eine Schwachstelle der menschlichen Psyche ausnutzt. […] Die Erfinder, die Urheber – Leute wie ich, Mark [Zuckerberg], Kevin Systrom von Instagram, all diese Leute – haben das auf einer ganz bewussten Ebene verstanden. Und wir haben es trotzdem gemacht […] es verändert buchstäblich deine Beziehungen zur Gesellschaft und untereinander. […] Wahrscheinlich hat es negative Auswirkungen auf die Produktivität. Wer weiß, was es mit den Gehirnen unserer Kinder anstellt.«[4]

Hier ein Zitat von Chamath Palihapitiya, dem früheren Vizepräsidenten für Nutzer-Wachstum bei Facebook:

»Die von uns entwickelten, schnell reagierenden, dopamingetriebenen Feedbackschleifen zerstören, wie die Gesellschaft funktioniert. […] Kein gesellschaftlicher Diskurs, keine Zusammenarbeit; Desinformation, Unwahrheit. Und das ist nicht nur ein amerikanisches Problem – hier geht es nicht um von Russland geschaltete Anzeigen. Dies ist ein globales Problem. […] Ich fühle mich sehr schuldig. Ich glaube, in den hintersten Winkeln unseres Bewusstseins wussten wir es alle – obwohl wir immer so getan haben, als ob es wahrscheinlich keine negativen, ungewollten Folgen geben würde. Ich glaube, dass wir im Bauch, ganz tief im Unterbewusstsein, schon immer irgendwie wussten, dass etwas Schlimmes passieren könnte. […] Jetzt haben wir, glaube ich, einen wirklich schlimmen Zustand erreicht. Er untergräbt das Fundament des Verhaltens der Menschen zu- und untereinander. Und ich habe keine gute Lösung dafür. Meine persönliche Lösung ist, dass ich diese Tools einfach nicht mehr benutze. Schon seit Jahren nicht mehr.«[5]

Besser spät als nie. Zahlreiche Kritiker wie ich haben des Öfteren gewarnt, dass schon seit geraumer Zeit hässliche Dinge passieren. Das jetzt auch von den Leuten zu hören, die uns die Suppe eingebrockt haben, ist auf jeden Fall ein Fortschritt.

Jahrelang musste ich ziemlich schmerzhafte Kritik von meinen Freunden im Silicon Valley ertragen, die mich als Verräter bezeichneten, weil ich das, was wir taten, kritisierte. In letzter Zeit habe ich das umgekehrte Problem. Jetzt sage ich, dass die meisten Leute im Silicon Valley anständig sind und bitte darum, uns nicht als Schurken darzustellen, und jetzt werde ich dafür heftig kritisiert. Ob ich meine Community zu hart oder zu milde beurteile, ist schwer zu sagen.

Zunächst ist jedoch die Frage wichtiger, ob Kritik überhaupt eine Rolle spielen kann. Es ist offensichtlich, dass eine bestimmte verhängnisvolle Technologie uns schadet, aber werden wir – wirst du, ja du – ihr widerstehen und dazu beitragen können, die Welt zu einem besseren Ort zu machen?

Unternehmen wie Facebook, Google und Twitter versuchen inzwischen endlich, einige der massiven Probleme zu korrigieren, die sie verursacht haben, allerdings nur zögerlich. Tun sie das, weil sie unter Druck gesetzt werden oder weil sie davon überzeugt sind? Wahrscheinlich von beidem etwas.

Die Unternehmen ändern ihre Richtlinien, sie stellen Menschen ein, um zu beobachten, was vor sich geht, und Data Scientists, die Algorithmen entwickeln sollen, um die schlimmsten Fehlentwicklungen zu vermeiden. Früher lautete Facebooks Mantra »Move fast and break things«[6]  , doch inzwischen haben sie sich bessere Mantras ausgedacht und versuchen, ein paar Bruchstücke der kaputten Welt aufzusammeln und sie wieder zusammenzukleben.

Meiner Meinung nach können diese Konzerne allein jedoch gar nicht genug tun, um die Welt wieder zusammenzuleimen.

Da einige Leute im Silicon Valley Reue zeigen, könntest du jetzt denken, dass du nur abwarten musst, bis sich das Problem von selbst erledigt hat. Aber so läuft das nicht. Wenn du nicht selbst ein Teil der Lösung bist, wird es keine Lösung geben.

In diesem ersten Kapitel will ich auch ein paar Schlüsselkonzepte vorstellen, auf denen die Entwicklung von suchterzeugenden und manipulativen Netzwerkdiensten aufbaut. Bewusstsein ist der erste Schritt zur Freiheit.

Zuckerbrot und Peitsche

Parker sagt, Facebook habe Menschen absichtlich süchtig gemacht, während Palihapitiya die negativen Auswirkungen auf zwischenmenschliche Beziehungen und die Gesellschaft als Ganzes erwähnt. Wie hängen diese beiden Geständnisse zusammen?

Der zentrale Prozess, der es sozialen Netzwerken ermöglicht, Geld zu verdienen, und außerdem der Gesellschaft schadet, ist als Verhaltensmodifikation bekannt. Dieses Verfahren beruht auf methodischen Techniken, die Verhaltensmuster bei Tieren und Menschen verändern. Es kann zur Behandlung einer Sucht eingesetzt werden, aber auch, um eine Sucht zu erzeugen.

Der Gesellschaft entsteht dadurch Schaden, weil eine Sucht den Betroffenen verrückt macht. Der Süchtige verliert nach und nach jeden Bezug zur realen Welt und zu realen Menschen. Wenn viele Menschen nach manipulativen Systemen süchtig sind, wird die Welt finster und verrückt.

Abhängigkeit ist ein neurologischer Prozess, den wir noch nicht vollständig verstehen. Eine wichtige Rolle für unser Glücksempfinden spielt der Neurotransmitter Dopamin, der auch für einen zentralen Bestandteil des Mechanismus zur Verhaltensänderung als Reaktion auf Belohnungen gehalten wird. Darum hat Parker ihn erwähnt.

Verhaltensmodifikation – vor allem die moderne Art, bei der Geräte wie Smartphones eingesetzt werden – ist ein statistischer Effekt. Das bedeutet, dass dieser Effekt zwar real ist, aber nicht völlig zuverlässig erzeugt werden kann. Für eine Masse von Menschen kann er mehr oder weniger genau vorhergesagt werden, für ein Individuum jedoch nicht. In gewissem Maße bist du ein Tier im Laborkäfig eines Behavioristen. Der Umstand, dass etwas unscharf und ungenau ist, bedeutet aber nicht, dass es nicht real ist.

Ursprünglich waren kleine Leckerbissen die bei behavioristischen Experimenten am häufigsten verwendeten Belohnungen, eine Praxis, die schon seit Menschengedenken gebräuchlich ist. Jeder Dompteur gibt dem Tier einen Leckerbissen, wenn es ein Kunststück vollbracht hat. Nicht nur Tierbändiger tun das, sondern auch viele Eltern kleiner Kinder.

Einer der ersten Behavioristen, Iwan Pawlow, hat bekanntlich gezeigt, dass er seinen Hunden noch nicht einmal echte Leckerbissen geben musste, um ihr Verhalten zu verändern. Er läutete immer eine Glocke, wenn der Hund gefüttert wurde, und nach einer Weile fing der Hund bereits zu speicheln an, sobald er nur die Glocke hörte.

Es ist zu einem unentbehrlichen Trick im Werkzeugkasten der Verhaltensmodifikation geworden, Symbole zu verwenden statt echter Belohnungen. So erzeugt zum Beispiel ein Smartphone-Spiel wie Candy Crush Abhängigkeit mit Hilfe bunter Bilder von Süßigkeiten – anstatt mit echten Süßigkeiten. Andere suchterzeugende Videospiele verwenden bunte Bilder von Münzen oder anderen Kostbarkeiten.

Von Wohlgefühlen und Belohnungen ausgelöste, suchterzeugende Muster im Gehirn – der von Sean Parker erwähnte »kleine Dopamin-Kick« – sind ein Teil der Ursachen von Social-Media-Abhängigkeit, aber nicht die ganze Geschichte. Social-Media-Plattformen setzen auch Bestrafung und negative Verstärkung ein.

Bei behavioristischen Experimenten im Labor wurden diverse Formen der Bestrafung eingesetzt. Eine Zeit lang waren Elektroschocks ganz beliebt. Doch ebenso wie bei Belohnungen muss eine Strafe nicht real und körperlich spürbar sein – bei manchen Experimenten wurden einem Probanden lediglich Punkte oder Spielmarken verweigert.

Wenn du Social Media nutzt, bekommst du das Äquivalent von Leckerbissen und Elektroschocks verpasst.

Die meisten User haben in sozialen Netzwerken schon einmal »catfishing«[7]   erlebt (was Katzen hassen) – sie wurden grundlos abgelehnt, lächerlich gemacht oder ignoriert, wurden vielleicht sogar auf geradezu sadistische Weise gequält oder erlebten noch Schlimmeres. So ähnlich wie Zuckerbrot und Peitsche zusammenwirken, kann unangenehmes Feedback eine ebenso große Rolle beim Entstehen von Abhängigkeit und bei heimlichen Verhaltensmodifikationen spielen wie angenehme Rückmeldungen.

Der Reiz des Rätselhaften

Mit der Phrase »ab und zu« bezieht Parker sich wahrscheinlich auf eines der merkwürdigen Phänomene, die Behavioristen bei Experimenten mit Tieren und auch Menschen entdeckt haben. Wenn ein Proband belohnt wird – sei es durch soziale Anerkennung oder einen Bonbon –, wann immer er etwas Bestimmtes tut, wird er dazu neigen, diese Aktion zu wiederholen. Wenn zum Beispiel eine Person gelobt wird, weil sie etwas in ihrem Social-Media-Netzwerk gepostet hat, wird sie sich angewöhnen, mehr davon zu posten.

Das mag ganz unschuldig klingen, kann aber schon die erste Phase einer Sucht sein, die sowohl für den betroffenen Menschen als auch die Gesellschaft zum Problem werden kann. Obwohl die Leute im Silicon Valley einen wohlklingenden Euphemismus für diese Phase haben (»Engagement«)[8]  , ruft sie bei ihnen so ernste Befürchtungen hervor, dass sie ihre Kinder genau davor schützen. Viele der Kinder aus meinem Bekanntenkreis im Silicon Valley besuchen Waldorfschulen, an denen elektronische Geräte prinzipiell verboten sind.

Das Erstaunliche ist aber weniger, dass positives und negatives Feedback funktionieren, sondern dass mehr oder weniger zufälliges, unvorhersehbares Feedback sogar noch mehr Interesse wecken kann als standardisiertes Feedback.

Wenn du als Kind jedes Mal, wenn du »bitte« sagst, einen Bonbon bekommst, wirst du wahrscheinlich immer öfter »bitte« sagen. Aber nehmen wir an, dass du hin und wieder keinen Bonbon bekommst. Es wäre denkbar, dass du dann nach und nach immer seltener »bitte« sagen würdest – denn schließlich führt das nicht mehr so zuverlässig zur erwünschten Belohnung wie bislang.

Doch manchmal passiert das Gegenteil. Es ist, als ob dein Gehirn – ein geborener Mustererkennungsapparat – der Versuchung nicht widerstehen kann: »Da muss doch noch irgendein anderer Trick dabei sein«, grübelt dein Gehirn, besessen von deinem Verlangen nach Bonbons. Du versuchst es immer wieder, sagst »bitte« und hoffst, dass sich ein weniger offensichtliches Muster zeigen wird – obwohl es tatsächlich nur eine endlose Kette von Zufälligkeiten gibt.

Für einen Wissenschaftler ist es gesund, von einem Muster fasziniert zu sein, das er nicht ganz versteht – vielleicht bedeutet es, dass es noch etwas Tiefgründigeres zu entdecken gibt. Auch beim Drehbuchschreiben ist das eine prima Methode, die man ausloten kann: ein bisschen Rätselhaftigkeit macht eine Geschichte oder Figur umso faszinierender.

Doch in vielen Lebenslagen ist das ein denkbar schlechter Grund für Faszination. Wahrscheinlich ist es der Reiz von unzuverlässigem Feedback, der viele Menschen in eine miserable co-abhängige Beziehung hineinzieht, in der sie nicht gut behandelt werden.

Es ist ganz einfach, ein bisschen Zufälligkeit in Social-Media-Netzwerke hineinzubringen. Da die verwendeten Algorithmen nicht perfekt sind, erzeugen sie ohnehin eine gewisse Beliebigkeit. Aber darüber hinaus werden Feeds normalerweise so berechnet, dass sie zusätzlich ein gewisses Maß an gewollter Zufälligkeit enthalten. Die Gründe dafür beruhten ursprünglich auf fundamentalen mathematischen Gesetzmäßigkeiten, nicht auf der menschlichen Psyche.

Social-Media-Algorithmen sind normalerweise »adaptiv«, was bedeutet, dass sie sich ständig ein bisschen selbst verändern, um so bessere Ergebnisse zu erreichen. »Besser« bedeutet hier, interessanter oder fesselnder zu sein – und daher auch profitabler. In solchen Algorithmen ist immer ein bisschen Zufälligkeit enthalten.

Stellen wir uns einmal Folgendes vor: Fünf Sekunden, nachdem du ein Katzenvideo gesehen hast, über das du lachen musstest, zeigt dir ein Algorithmus eine Gelegenheit, Socken oder Aktien zu kaufen. Ein adaptiver Algorithmus wird hin und wieder überprüfen, was passiert, wenn dieses Intervall auf beispielsweise viereinhalb Sekunden verändert wird. Würdest du dann mit größerer Wahrscheinlichkeit zuschlagen? Falls ja, könnte dieses geänderte Intervall von da an nicht nur für deinen eigenen Feed verwendet werden, sondern auch für die Feeds von zigtausend anderen Nutzern, die dir aufgrund von irgendwelchen Eigenschaften – von der Lieblingsfarbe bis zum Fahrverhalten – ähnlich zu sein scheinen.[9]

Wenn ein solcher adaptiver Algorithmus keinen zusätzlichen Nutzen mehr aus kleinen Änderungen seiner Einstellungen ziehen kann, bleibt er manchmal stecken. Wenn die Änderung auf viereinhalb Sekunden dazu führt, dass du mit geringerer Wahrscheinlichkeit Socken kaufen wirst, aber fünfeinhalb Sekunden einen Verkauf ebenfalls unwahrscheinlicher machen, dann wird das Intervall auf fünf Sekunden stehen bleiben. Aufgrund der verfügbaren Daten wären somit fünf Sekunden die optimale Wartezeit. Wenn keine kleine zufällige Änderung das Ergebnis mehr verbessert, hört der Algorithmus auf, sich anzupassen. Doch ein adaptiver Algorithmus soll nie aufhören, sich anzupassen.

Angenommen, eine größere Änderung würde das Ergebnis verbessern. Vielleicht wären zum Beispiel zweieinhalb Sekunden besser? Doch der Algorithmus ist bei fünf Sekunden stecken geblieben, und mit seinen kleinen, graduellen Änderungen kommt er nicht darauf. Das ist der Grund, warum viele adaptive Algorithmen auch eine kleine Dosis größerer Zufälligkeit in den Feed injizieren – hin und wieder findet ein Algorithmus bessere Einstellungen, wenn er gezwungen wird, aus einem nur mittelmäßigen Parametersatz »herauszuspringen«.[10]

Viele adaptive Systeme enthalten einen solchen Spring-Mechanismus. Ein Beispiel dafür ist auch das Auftreten von nützlichen Mutationen in der natürlichen Evolution, die in der Regel durch inkrementelle selektionsbasierte Ereignisse ausgelöst werden, durch die ein Gen des Individuums entweder weitergegeben wird oder nicht. Eine Mutation ist ein Joker, der neue Möglichkeiten eröffnet – ein plötzlicher Sprung. Hin und wieder entsteht bei einer Tierart durch eine Mutation eine ungewöhnliche, neue und nützliche Eigenschaft – und damit ein Überlebensvorteil für nachfolgende Generationen.

Viele Neurowissenschaftler fragen sich natürlich, ob sich auch im menschlichen Gehirn ein ähnlicher Prozess abspielt. In unserem Gehirn gibt es zweifellos adaptive Prozesse. Unser Gehirn könnte sich angewöhnt haben, nach Überraschungen zu suchen, weil Mutter Natur jede eingefahrene Routine verabscheut.

Es hat sich gezeigt, dass diese Zufälligkeit, die der Anpassung des Algorithmus dient, Personen, die diesem Algorithmus ausgesetzt sind, zusätzlich abhängig machen kann. Der Algorithmus versucht, die perfekten Einstellungen zu finden, um das Gehirn zu manipulieren, während das Gehirn sich verändert, um in den Ausschlägen des Algorithmus eine tiefere Bedeutung zu finden. Es ist ein Katz-und-Maus-Spiel, das auf reiner Mathematik basiert. Da die Reize, die der Algorithmus uns serviert, nichts bedeuten, da sie völlig zufällig sind, adaptiert sich unser Gehirn nicht an irgendetwas Reales, sondern an eine Fiktion. Dieser Prozess – von einer flüchtigen Illusion abhängig zu werden – ist Sucht. Während der Algorithmus versucht, dem Trott zu entkommen, verfängt sich das menschliche Gehirn genau darin.

Die Pioniere der Online-Ausbeutung dieses Schnittpunkts zwischen Mathematik und dem menschlichen Gehirn waren nicht etwa die Social-Media-Firmen, sondern die Entwickler von digitalen Spielautomaten, etwa Video-Poker, und dann von Internet-Glücksspielplattformen. Hin und wieder beklagen sich die Pioniere solcher Zocker-Websites, dass die Social-Media-Konzerne ihnen die Ideen geklaut hätten und nun damit noch mehr Geld machen würden als sie selbst. Aber meistens sind sie ganz froh, dass Social Media ihnen hilft, die anfälligsten Opfer leichter zu erkennen.[11]

Der Himmel und die Hölle, das sind die anderen[12]

Soziale Netzwerke bringen eine weitere Kategorie von Reizen ins Spiel: sozialen Druck.

Der Mensch reagiert extrem sensibel auf soziale Aspekte wie Status, Anerkennung und Konkurrenz. Im Gegensatz zu den meisten Tieren kommt der Mensch nicht nur völlig hilflos zur Welt, sondern bleibt auch noch jahrelang in diesem Zustand. Wir können nur überleben, wenn wir mit unseren Artgenossen auskommen. Soziale Aspekte sind keine nachgeordneten Prioritäten des menschlichen Gehirns – sie sind die wichtigsten.

Die Macht dessen, was andere Menschen von uns halten, hat sich als groß genug erwiesen, um das Verhalten von Probanden in berühmten Studien wie dem Milgram-Experiment und dem Stanford-Prison-Experiment zu verändern. Bei diesen Studien wurden ganz normale Menschen allein durch sozialen Druck dazu gebracht, schreckliche Dinge zu tun – etwa andere zu foltern.

In den sozialen Medien ist die Manipulation sozialer Gefühle die einfachste Methode, um Bestrafungen und Belohnungen herbeizuführen. Das wird sich vielleicht eines Tages ändern, wenn Drohnen am Himmel echte Bonbons abwerfen, doch bis es so weit ist, geht es nur darum, Gefühle bei dir hervorzurufen – hauptsächlich Gefühle, die sich darauf beziehen, was andere Leute über dich denken.

Wenn wir zum Beispiel befürchten, nicht für cool, attraktiv oder angesehen gehalten zu werden, fühlen wir uns nicht gut. Diese Angst ist eine sehr tiefsitzende Emotion – sie tut weh.[13]

Jeder Mensch leidet hin und wieder unter sozialen Ängsten, und jedes Kind ist schon einmal von einer Person gemobbt worden, die soziale Ängste als Folterinstrument eingesetzt hat – wahrscheinlich, um die Gefahr zu reduzieren, selbst gemobbt zu werden. Das ist der Grund, warum Menschen – selbst solche, die normalerweise nett sind – dazu neigen, sich dem Mobbing eines Opfers anzuschließen. Sie fürchten sich so sehr vor den sehr realen Schmerzen, die soziale Ängste mit sich bringen, dass sie für einen Moment ihren eigentlich anständigen Charakter aus den Augen verlieren können.

Das soll keineswegs heißen, dass alle sozialen Emotionen negativ sind. Wir können auch Gefühle wie Kameradschaft, Sympathie, Respekt, Bewunderung, Dankbarkeit, Hoffnung, Empathie, Nähe, Zuneigung und jede Menge andere positive Emotionen erleben, wenn wir Kontakt zu anderen Menschen haben. Auf der negativen Seite können wir Furcht, Feindseligkeit, Unbehagen, Abneigung, Abscheu, Eifersucht und Spottsucht empfinden.

Wenn eine sozial hervorgerufene Emotion sowohl als Bestrafung als auch als Belohnung eingesetzt werden kann, ist es dann wirkungsvoller, zu bestrafen oder zu belohnen, um die betreffende Person zu verändern? Diese Frage ist schon seit vielen Jahren untersucht worden, und es scheint, dass die Antwort davon abhängt, welche Bevölkerungsgruppe untersucht wird und in welcher Situation. Es gibt eine Studie, die darauf hindeutet, dass kleine Kinder stärker auf Belohnungen reagieren als auf Strafen, obwohl sich das nach dem zwölften Lebensjahr umkehren könnte.[14]   Eine andere Studie lässt vermuten, dass Strafen effektiver sind als Belohnungen, um Studenten zu manipulieren.[15]   Weitere Studien belegen, dass Bestätigung besser wirkt, um erwachsene Angestellte zu motivieren.[16]   Es scheint auch so zu sein, dass es von der Art der Aufgabe abhängt, ob positives oder negatives Feedback wirkungsvoller ist,[17]   ebenso von der Art, wie diese Aufgabe gestellt wird.[18]

In zahlreichen wissenschaftlichen Studien wurde der Einfluss von positivem und negativem Feedback verglichen, doch für das Design von Social-Media-Plattformen ist das nicht die entscheidende Frage. Hier geht es hauptsächlich darum, Kosten zu senken und den Erfolg zu steigern, um Profit zu maximieren. Unabhängig von der Frage, ob in bestimmten Fällen positives Feedback theoretisch wirkungsvoller sein könnte oder nicht, hat sich herausgestellt, dass negatives Feedback billiger ist – und damit die bessere Option fürs Geschäft. Folglich taucht es in sozialen Netzwerken öfter auf.

Negative Emotionen wie Angst und Wut lassen sich leichter herbeiführen, und sie halten länger vor als positive – es dauert wesentlich länger, Vertrauen aufzubauen als es zu verlieren. Eine Stressreaktion tritt in Sekundenbruchteilen ein, während es Stunden dauern kann, sich zu entspannen.

Das gilt nicht nur im realen Leben, sondern noch mehr im fahlen Licht der Algorithmen.

Jetzt gibt es natürlich kein böses Genie, das in seinem Kabuff bei irgendeinem Social-Media-Unternehmen sitzt, alles genau berechnet und dann entscheidet, bei den Nutzern schlechte statt gute Gefühle zu erzeugen, weil das das Engagement steigert und somit profitabler ist. Zumindest habe ich noch nie von so einem Menschen gehört.

Die Steigerung der Engagementrate ist das wichtigste Ziel, dem alles andere untergeordnet ist. Dass dafür negative Emotionen mehr verstärkt werden als positive, fällt erst einmal gar nicht auf. Engagement dient keinem anderen Zweck, als sich zu steigern, und so kommt es zu einer unnatürlichen globalen Verstärkung der »leicht« hervorzurufenden Emotionen – die zufälligerweise die negativen sind.

Das Bit als Köder

Betrachtet man die Welt als Ganzes, muss der Mensch natürlich mehr tun, als sich konform zu verhalten, damit unsere Spezies gedeihen kann, weshalb der Behaviorismus eine inadäquate Herangehensweise ist, um über unsere Gesellschaft nachzudenken. Wenn moralische Werte und Kreativität gefördert werden sollen anstatt stumpfer Dressur, dann sind Belohnung und Bestrafung denkbar ungeeignete Werkzeuge dafür.

Es gibt eine lange Reihe von Forschern, die sich mit diesem Thema beschäftigt haben, angefangen bei Abraham Maslow in den fünfziger Jahren. Nach ihm kamen viele andere wie Mihály Csíkszentmihályi oder Schriftsteller wie Daniel Pink. Anstatt die einfachen Mechanismen des Behaviorismus anzuwenden, müssen wir kreativer über das Menschsein nachdenken, wenn wir von Menschen erwarten, kreativ zu sein. Wir müssen Freude, kritisches Denken, Individualität, Wissbegierde und andere Qualitäten fördern, die nicht in ein akkurates Raster passen.

Doch die Rigidität der digitalen Technologie, das binäre An oder Aus der Bits, scheint die behavioristische Denkart unwiderstehlich anzuziehen. Belohnung und Bestrafung sind wie eins und null. Es ist kein Wunder, dass B.F. Skinner eine wichtige Rolle in den frühen Anfängen digitaler Netzwerke spielte.[19]   Er sah sie als ideales Werkzeug, um die Bevölkerung für seine angestrebte Utopie abzurichten, in der wir uns endlich alle ordentlich benehmen würden. Eines seiner Bücher heißt Jenseits von Freiheit und Würde. Jenseits!

Der Begriff »Engagement« ist Teil der weichgespülten, nichtssagenden Sprache, die verschleiert, welch eine idiotische Maschine wir da gebaut haben. Wir müssen anfangen, Begriffe wie »Abhängigkeit«, »Sucht« und »Verhaltensmodifikation« zu verwenden. Hier ist ein weiteres Beispiel aus dieser euphemistischen Sprache: Wir nennen die Kunden von Social-Media-Konzernen immer noch »Werbetreibende« – okay, viele von ihnen sind das auch. Sie wollen, dass du eine bestimmte Sorte Seife oder sonst was kaufst. Kunden von Social-Media-Konzernen können aber auch tückische, heimlichtuerische Widerlinge sein, die die Demokratie untergraben wollen. Also bezeichne ich solche Leute lieber als »Manipulatoren«.

Nichts für ungut, liebe Seifenverkäufer! Die Leute bei Firmen wie Procter & Gamble sind schon in Ordnung, ich weiß das, ich habe ein paar von ihnen kennengelernt. Und sie wären glücklicher, wenn sie sich nicht von Social-Media-Konzernen abhängig gemacht hätten.

Damals, in ihren frühesten Anfangstagen, bestand Online-Werbung tatsächlich nur aus dem Schalten von Anzeigen. Aber dann fielen diverse Fortschritte der Computertechnik zeitlich zusammen mit völlig perversen finanziellen Anreizen. Was als Anzeigenwerbung begann, mutierte zu einer Art Verhaltensmodifikations-Imperium, das man beliebig für seine Zwecke mieten konnte. Dieser Wandel hat eine Menge neuer Kunden/Manipulatoren angelockt – solche, die nicht gerade zu den sympathischen Zeitgenossen zählen.

Leider können Manipulatoren nicht jedes gewünschte Ergebnis mit dem gleichen Aufwand erzielen. Du kannst Social-Media-Konzerne nicht dafür bezahlen, Kriege zu beenden oder alle Menschen herzensgut zu machen. Social Media ist parteiisch, aber sie orientiert sich nicht nach links oder rechts, sondern nach unten. Da es einfacher ist, negative Emotionen hervorzurufen, um Menschen zu manipulieren und süchtig zu machen, ist es nur logisch, dass sich daraus eher hässliche Ergebnisse ergeben. Eine unglückselige Verbindung aus Biologie und Mathematik zieht also die Zersetzung der Menschheit nach sich. Cyber-Einsatzkommandos beeinflussen Wahlen, Hassgruppen rekrutieren Nachwuchs und Nihilisten bekommen erstaunliche Leistungen zum Schnäppchenpreis, wenn sie versuchen, unsere Gesellschaft zu zerstören.

Die ungeplante Verwandlung von Anzeigenwerbung in vorsätzliche Verhaltensmodifikation hat eine dramatische Verstärkung des Negativen in unserer Gesellschaft bewirkt. Auf das größere Potenzial von negativen Emotionen, menschliches Verhalten zu verändern, werden wir noch zurückkommen, wenn wir uns die persönlichen, politischen, wirtschaftlichen, sozialen und kulturellen Auswirkungen von Social Media genauer ansehen.

Sucht und Netzwerkeffekt

Sucht ist ein großer Teil der Erklärung, warum so viele von uns es hinnehmen, von unserer Informationstechnologie ausgeforscht und manipuliert zu werden, doch sie ist nicht der einzige Grund. Digitale Netzwerke bringen uns echten Nutzen. Sie können vieles im Leben effizienter und bequemer machen. Das ist der Grund dafür, warum so viele Menschen so hart gearbeitet haben, um sie möglich zu machen.

Wenn du dich erst einmal daran gewöhnt hast, mit deinem Smartphone eine Mitfahrgelegenheit oder eine Pizza zu bestellen, oder jederzeit checken zu können, wo deine Freunde gerade sind, fällt es schwer, wieder darauf zu verzichten. Wir können uns kaum noch erinnern, dass es früher für Menschen mit einer seltenen Krankheit unmöglich war, Leidensgenossen zu finden, mit denen sie über ihre ungewöhnlichen Probleme hätten sprechen können. Was für ein Segen, dass das möglich geworden ist.

Doch die Vorteile von Netzwerken entstehen nur, wenn viele Menschen dieselbe Plattform nutzen. Würde niemand für Uber fahren, würde dir deine Uber-App überhaupt nichts nützen. Wenn niemand deine Dating-App nutzen würde, wäre sie ebenso nutzlos.

Das führt leider zu folgendem Effekt: Wenn eine App erst einmal funktioniert, sind alle auf sie angewiesen. Es ist schwierig, sich aus einem bestimmten sozialen Netzwerk auszuklinken und auf ein anderes umzusteigen, weil jeder, den du kennst, schon auf dem ersten ist. Es ist praktisch unmöglich, dass alle Mitglieder einer Gesellschaft gleichzeitig ihre gesamten Daten sichern, gemeinsam umsteigen und dann dort ihre Daten wiederherstellen.

Solche Effekte nennt man »Netzwerkeffekte« oder »lock-ins«. Sie sind in digitalen Netzwerken kaum zu verhindern.

Ursprünglich hatten viele von uns, die daran arbeiteten, das Internet zu »skalieren«,[20]   die Hoffnung, dass das, was die Menschen zusammenbringen und einen Netzwerkeffekt generieren würde, das Internet selbst sein würde. Doch damals herrschte ein libertärer Zeitgeist, und so haben wir viele wichtige Funktionen weggelassen. So enthält das Internet selbst zum Beispiel keinen Mechanismus, um die Identität von Personen zu erfassen. Jeder Computer hat seine eigene Kennzahl, aber Menschen werden überhaupt nicht registriert. Und das Internet selbst liefert dir keinen Speicherplatz, um auch nur eine kleine Datenmenge permanent speichern zu können. Es bietet keinen Mechanismus, um Geld zu überweisen oder zu erhalten, und es hat keine Suchfunktion, um Menschen zu finden, mit denen du Gemeinsamkeiten haben könntest.

Wir alle wussten, dass diese Funktionen und viele andere über kurz oder lang gebraucht werden würden. Aber wir hielten es für klüger, diese Lücken von Unternehmern aus der freien Wirtschaft füllen zu lassen, anstatt diese Aufgabe dem Staat zu überlassen. Was wir dabei nicht bedachten, war der Umstand, dass diese digitalen Grundbedürfnisse aufgrund von Netzwerkeffekten und Lock-in-Phänomenen zum Entstehen von riesigen Monopolen führen würden. Wir haben blöderweise die Voraussetzungen für neue globale Monopole geschaffen und auch noch den schwierigsten Teil der Arbeit für sie erledigt. Oder, um es etwas genauer auszudrücken: Da du tatsächlich das Produkt und nicht der Kunde eines sozialen Netzwerks bist, ist »Monopson« der richtige Begriff.[21]   Unser damaliger libertärer Idealismus führte zu gigantischen globalen DatenMonopsonen.

Einer der wichtigsten Gründe, deine Social-Media-Accounts zu löschen, ist, dass du keine praktikable Möglichkeit hast, auf andere Social-Media-Accounts umzusteigen. Nur wenn du möglichst bald ganz aussteigst, kannst du wirklich etwas verändern. Wenn du nicht aussteigst, schaffst du nicht den Raum, den das Silicon Valley braucht, um an sich zu arbeiten.

Sucht und freier Wille sind Gegensätze

Eine Sucht macht dich nach und nach zu einem Zombie. Zombies haben keinen freien Willen. Auch diese Erkenntnis gilt nicht absolut, sondern statistisch. Die Wahrscheinlichkeit, ein Zombie zu werden, ist einfach höher, als sie es sonst wäre.

Es ist nicht nötig, an irgendwelche Mythen von perfekten Menschen zu glauben, die völlig frei von jeder Sucht sind. Solche Menschen gibt es nicht. Du wirst nie völlig perfekt und völlig frei sein, ganz egal, wie viele Selbsthilfebücher du liest und aus wie vielen süchtig machenden Online-Angeboten du dich ausklinkst.

Es gibt keinen völlig freien Willen. Unser Gehirn verändert sich ständig, um sich an eine Umwelt anzupassen, die sich ebenfalls ständig verändert. Das ist harte Arbeit, und auch ein Gehirn wird manchmal müde! Hin und wieder macht es Pause, klinkt sich aus und überlässt dem Autopiloten das Kommando. Aber das ist etwas ganz anderes, als wenn man von unsichtbaren Manipulatoren gesteuert wird.

Wir alle verändern ständig das Verhalten unserer Mitmenschen und sie unseres, und das ist gut so. Du wärst unsensibel und gleichgültig, wenn du nicht dein Verhalten in Gegenwart eines anderen verändern würdest, als Reaktion darauf, wie diese Person reagiert. Wenn wechselseitige Verhaltensmodifikation wirklich gut läuft, kann sie ein Teil dessen sein, was wir meinen, wenn wir von Liebe sprechen.

Wir müssen uns den freien Willen nicht als übernatürlichen Eingriff in den Lauf der Welt vorstellen. Vielleicht existiert der freie Wille, wenn unsere Anpassung aneinander und an die Welt außergewöhnlich kreativ ist.

Das Problem ist also nicht die Verhaltensmodifikation an sich, sondern vielmehr die unerbittliche, automatisierte und letztlich bedeutungslose Verhaltensmodifikation im Dienst unsichtbarer Manipulatoren und seelenloser Algorithmen.

Hypnose kann heilen, solange du deinem Therapeuten vertraust – aber wer würde schon einem Hypnotiseur vertrauen, der für unbekannte Dritte arbeitet? Gute Frage. Die Antwort: anscheinend Milliarden von Menschen.

Denk einmal an die Milliardenbeträge, die von Facebook, Google und der restlichen sogenannten »digitalen Werbeindustrie« eingenommen werden. Der weitaus größte Teil dieses Geldes kommt von Akteuren, die dein Verhalten verändern wollen und die davon überzeugt sind, dass ihr Geld gut investiert ist. Viele dieser Verhaltensänderungen ähneln denen, die TV-Werbespots bewirken sollen, die dich zum Beispiel dazu verführen wollen, ein bestimmtes Auto zu kaufen oder bei einer bestimmten Supermarktkette einzukaufen.

Doch obwohl die sozialen Netzwerke in mancherlei Hinsicht mehr über dich wissen als du selbst, wissen sie nicht immer, wer die Werbetreibenden sind – die, die davon profitieren, dich zu manipulieren. Rechtsanwälte von Technologiekonzernen haben unter Eid ausgesagt, ihre Mandanten hätten nicht wissen können, dass zum Beispiel russische Geheimdienste versucht haben, Wahlen zu stören oder eine Gesellschaft zu spalten, um sie zu schwächen.[22]

Ich finde, dass paranoides Denken generell kontraproduktiv ist – es demoralisiert dich. Aber denk einmal an die heutige Lage. Wir wissen, dass Social Media erfolgreich eingesetzt worden ist, um Gesellschaften zu beeinflussen,[23]   und wir wissen, dass so etwas erstaunlich wenig kostet. Wir wissen, dass die beteiligten Unternehmen horrende Summen einnehmen und dass sie nicht immer wissen, wer ihre Kunden sind. Also ist es mehr als wahrscheinlich, dass es Akteure gibt, die uns manipulieren – die dich manipulieren – und von denen wir nicht wissen, wer sie sind.

Wenn du dich befreien willst, authentischer und weniger süchtig sein willst, wenn du weniger manipuliert werden und weniger paranoid sein willst – dann musst du deine Social-Media-Accounts löschen.

2

Social Media ist BUMMER

Die BUMMER-Maschine

Vielleicht sieht es auf den ersten Blick nicht so aus, aber ich bin Optimist. Ich glaube nicht, dass wir die gesamte digitale Welt über Bord werfen müssen – vieles davon ist toll!

Das Problem ist nicht das Smartphone, obwohl eine Flut von Artikeln mit Schlagzeilen wie »Hat das Smartphone eine Generation zerstört?«[24]   uns das einreden will. Das Problem ist auch nicht das Internet, das ebenfalls ständig dafür verantwortlich gemacht wird, die Welt zugrunde zu richten.[25]

Irgendetwas richtet tatsächlich die Welt zugrunde, aber es ist nicht der Umstand, dass wir über weite Entfernungen mit Hilfe von Bits Kontakte zu anderen Menschen knüpfen können oder dass wir auf kleine leuchtende Displays starren. Sicherlich kann man auch zu viel auf das kleine Display starren[26]   – ebenso wie man auch viele andere Dinge übertreiben kann –, aber das ist kein existenzielles Problem für die Menschheit.

Eine spezielle Hightech-Sache ist jedoch selbst in kleinen Mengen toxisch. Diese neue Entwicklung muss gestoppt werden. Es ist wichtig, dieses Problem möglichst genau zu definieren, damit wir uns nicht noch mehr durcheinanderbringen.

Das Problem ist zum Teil, dass wir allesamt Geräte mit uns herumtragen, die für massenhafte Verhaltensmodifikation geeignet sind. Aber das ist nicht ganz die richtige Beschreibung für unser Problem, denn immerhin können unsere Geräte auch für viele andere Zwecke verwendet werden, und das werden sie ja auch oft.

Das Problem ist nicht allein, dass wir als User in Online-Umgebungen gedrängt werden, die unsere schlechtesten Eigenschaften zum Vorschein bringen. Es ist auch nicht allein die Tatsache, dass sich so enorm viel Macht auf die wenigen Akteure verteilt, die die gigantischen Cloud-Netzwerke kontrollieren.

Das Problem hat Schnittmengen mit all diesen Faktoren, aber selbst dieses Konglomerat definiert das Problem nicht genau.

Das Problem entsteht, wenn all die eben erwähnten Phänomene von einem Geschäftsmodell angetrieben werden, das darauf abzielt, Kunden zu finden, die bereit sind, dafür zu zahlen, das Verhalten anderer Menschen zu verändern. Früher, bei der altmodischen Form von Werbung, konnte man sehen, ob ein Produkt sich besser verkauft, nachdem eine Anzeige oder ein Werbespot geschaltet wurde. Heute hingegen messen Social-Media-Konzerne, ob der Einzelne sein Verhalten geändert hat, und der Feed wird für jeden Anwender ständig optimiert, um dessen individuelles Verhalten zu verändern. Dein persönliches Verhalten ist zu einem Produkt gemacht worden. Es ist ein besonders fesselndes Produkt nicht nur für die User, sondern auch für die Kunden/Manipulatoren, weil sie befürchten müssen, im Konkurrenzkampf auf der Strecke zu bleiben, wenn sie nicht zahlen.

Das Problem sind alle oben genannten Punkte, aber es kommt noch einer dazu. Wie im ersten Kapitel erklärt wurde, verstärkt das von mir beschriebene System negative Emotionen stärker als positive. Das bedeutet, dass es der Gesellschaft effizienter schaden als es sie verbessern kann: Für gruseligere Kunden lohnt sich ein Investment mehr.

Jetzt können wir das Problem klar definieren, was bedeutet, dass wir es ohne Kollateralschäden eliminieren können. Unser Problem ist zum Glück sehr spezifisch.

Wenn wir dieses destruktive Geschäftsmodell loswerden könnten, dann wäre die Technologie, auf der es aufbaut, vielleicht gar nicht so schlimm. Zumindest müssen wir es versuchen, weil wir ansonsten ein ganzes Universum an digitaler Technologie aufgeben müssten. Diese Technologie ist der letzte »Gott, der uns nicht im Stich gelassen hat«,[27]   das letzte Bollwerk des Optimismus. Wir können es uns nicht leisten, sie über Bord zu werfen.

Falls du gute Erfahrungen mit sozialen Netzwerken gemacht hast, kannst du beruhigt sein: In diesem Buch steht nichts, was diese Erfahrungen entwerten würde. Tatsächlich habe ich sogar die Hoffnung, dass wir – das heißt, die Konzerne und wir alle – einen Weg finden werden, um das, was uns so lieb geworden ist, behalten und verbessern zu können, indem wir genau definieren, was abgelehnt werden muss. Wenn du deine Accounts jetzt löschst, erhöhst du die Wahrscheinlichkeit, dass du in Zukunft Zugang zu besseren Social-Media-Erfahrungen haben wirst.

Manchmal werden Social-Media-Konzerne mit der Tabakindustrie verglichen.[28]   Dem werde ich mich nicht anschließen. Ein besserer Vergleich ist bleihaltige Farbe. Als man nicht länger bestreiten konnte, dass Blei gesundheitsschädlich ist, hat niemand gesagt, dass wir nun nie wieder unsere Häuser anstreichen sollten. Stattdessen wurden – nach genügend Druck auf die Industrie und entsprechender Gesetzgebung – bleifreie Farben der neue Standard.[29]   Kluge Menschen warteten einfach ab, bis eine weniger schädliche Farbe auf den Markt kam und strichen ihre Häuser erst dann wieder. Entsprechend sollten alle klugen Menschen ihre Accounts löschen, bis es eine ungefährliche Version davon gibt.

Ich spreche hier als Computerwissenschaftler, nicht als Soziologe oder Psychologe. Aus dieser Perspektive sehe ich, dass es höchste Zeit wird. Die Welt verändert sich rapide unter unserem Kommando, also ist Nichtstun keine Option. Wir haben nicht so viele fundierte wissenschaftliche Erkenntnisse, wie wir uns wünschen würden, um unsere Lage besser beurteilen zu können, doch immerhin wissen wir genug, um das zu lösende Problem zu beschreiben – es bleibt uns nur nicht mehr allzu viel Zeit, um es zu lösen.

Dies scheint mir ein guter Moment zu sein, ein griffiges Akronym einzuführen, damit ich nicht immer wieder die Faktoren, aus denen das Problem besteht, aufzählen muss. Wie wäre es zum Beispiel mit »Behaviors of Users Modified, and Made into an Empire for Rent«? BUMMER.[30]

BUMMER ist eine Maschine, ein statistischer Apparat, der in den Cloud-Netzwerken lebt. Noch einmal zur Erinnerung: Auch wenn ein Phänomen nur statistisch und ungenau ist, so ist es doch real. Selbst die besten BUMMER-Algorithmen können nur die Wahrscheinlichkeit berechnen, dass eine Person sich auf eine bestimmte Art und Weise verhalten wird. Was jedoch für jeden Einzelnen nur eine Wahrscheinlichkeit ist, wird im Durchschnitt einer großen Zahl von Menschen beinahe zur Gewissheit. Die gesamte Bevölkerung kann mit größerer Berechenbarkeit beeinflusst werden als irgendeine einzelne Person.

Da BUMMERs Einfluss ein statistischer ist, ähnelt die Bedrohung ein bisschen der Klimaveränderung. Man kann nicht sagen, dass die Klimaveränderung für ein bestimmtes Ereignis verantwortlich ist – einen Sturm, eine Flut oder Dürre –, aber man kann sehr wohl sagen, dass sie die Wahrscheinlichkeit verändert, dass ein solches Ereignis eintritt. Irgendwann könnte man dann die schrecklichsten Folgen – etwa der Anstieg der Meeresspiegel oder die Notwendigkeit, unzählige Menschen umzusiedeln und neue Nahrungsquellen zu finden – direkt der Klimaveränderung zuschreiben, aber dann wäre es ohnehin zu spät.

Entsprechend kann ich nicht beweisen, dass irgendein bestimmtes Arschloch von BUMMER zu einem noch größeren Arschloch gemacht wurde. Ich kann auch nicht beweisen, dass es nicht ohnehin zu einer bestimmten Zerfallserscheinung in unserer Gesellschaft gekommen wäre. Es gibt keine sichere Methode, um festzustellen, ob BUMMER dein Verhalten verändert hat, obwohl ich dir später noch ein paar Tipps geben werde, wie du zumindest Hinweise darauf finden kannst. Wenn du BUMMER-Plattformen benutzt, dann bist du wahrscheinlich schon verändert worden – zumindest ein bisschen.

Obwohl wir nicht genau wissen können, welche Aspekte unserer Welt ohne BUMMER anders aussehen würden, können wir uns durchaus das große Ganze vorstellen. Ebenso wie die Klimaveränderung wird BUMMER uns in die Hölle bringen, wenn wir nicht aus unseren Fehlern lernen.

Die Komponenten der BUMMER-Maschine

BUMMER ist eine Maschine mit sechs beweglichen Teilen.

Hier ist eine Übersicht für die sechs Komponenten der BUMMER-Maschine, falls du sie dir mal für einen Test merken musst:

- A
Die Arschloch-Herrschaft

- B
Totale Überwachung

- C
Aufgezwungene Inhalte

- D
Verhaltensmodifikation

- E
Ein perverses Geschäftsmodell

- F
Fake People

Jetzt kommt eine Beschreibung für jedes dieser Teile.

A Die Arschloch-Herrschaft

Im Internet benehmen sich viele Leute merkwürdig und boshaft. Dieses bizarre Phänomen hat in der Anfangszeit von digitalen Netzwerken alle Leute erstaunt, und es hat ernste Folgen für unsere Welt. Zwar ist nicht jede Erfahrung im Internet hässlich, aber durch die allgegenwärtige Niedertracht wird das Online-Umfeld insgesamt geprägt und eingeschränkt. Davon abgesehen hat sich diese Boshaftigkeit als sprudelnde Geldquelle für die Social-Media-Konzerne und andere Verhaltensmanipulations-Imperien erwiesen, da sie negatives Verhaltensfeedback befeuert.

Wie kommt es zu dieser Boshaftigkeit? Ich werde darauf noch näher eingehen, aber in aller Kürze: Normale Leute werden in einem Umfeld zusammengebracht, in dem die wichtigste – und häufig einzige – verfügbare Belohnung die Aufmerksamkeit der anderen ist. Niemand kann zum Beispiel ernsthaft erwarten, in sozialen Netzwerken Geld zu verdienen. Einfache User können nur falsche Macht und eingebildeten Wohlstand gewinnen, aber keine echte Macht und keinen echten Wohlstand. Daher werden Psychospielchen (»mind games«) dominant.

Wenn es nichts anderes zu erreichen gibt als Aufmerksamkeit, tendieren Menschen dazu, zu Arschlöchern zu werden, weil das größte Arschloch die meiste Aufmerksamkeit bekommt. Diese immanente Tendenz zur Herrschaft der Arschlöcher beeinflusst die Aktionen aller anderen Komponenten der BUMMER-Maschine.

B Totale Überwachung

Komponente B wurde schon im ersten Kapitel eingeführt.

Jeder User wird in einem Ausmaß überwacht, das direkt aus einem dystopischen Science-Fiction-Roman stammen könnte. Allgegenwärtiges Ausforschen könnte theoretisch auch ohne die Arschloch-erzeugenden Plattformen in Komponente A stattfinden, aber zufälligerweise sind diese beiden Komponenten in der von uns geschaffenen Welt meist miteinander verknüpft.

Das Ausforschen wird hauptsächlich über persönliche Geräte bewerkstelligt, die mit dem Internet verbunden sind – heute vor allem Smartphones – und die der Besitzer praktisch immer bei sich hat. Ständig werden Daten gesammelt, etwa über seine Kommunikation, seine Interessen, seine wechselnden Aufenthaltsorte, Kontakte zu anderen, seine emotionalen Reaktionen auf äußere Umstände, Mimik, Einkäufe, Vitalparameter – eine ständig wachsende, grenzenlose Vielfalt an Daten.

Falls du zum Beispiel dieses Buch auf einem elektronischen Gerät liest, kann es gut sein, dass darauf ein Algorithmus läuft, der protokolliert, wie schnell du liest und wo du eine Pause machst, um dir etwas anderes anzusehen, und Ähnliches mehr.

Andere Algorithmen analysieren dann die Daten und gleichen sie mit denen anderer Personen ab. Solche Korrelationen sind letztlich Theorien über die Persönlichkeitsmerkmale einer Person, und diese Theorien werden ständig überprüft und daraufhin ausgewertet, wie gut sie Verhalten vorhersagen können. Wie alle gut gepflegten Theorien werden sie im Laufe der Zeit durch adaptives Feedback immer besser.

C Aufgezwungene Inhalte

Algorithmen entscheiden auch, was einem User auf seinem Gerät vorgesetzt wird. Diese Komponente könnte man einen »Feed« nennen, einen »Empfehlungsapparat« oder einfach »Personalisierung«.

Komponente C bedeutet, dass jede Person etwas anderes zu sehen bekommt. Ihre Aufgabe besteht darin, Reize für individualisierte Verhaltensmodifikation zu liefern.

BUMMER macht es schwieriger, zu verstehen, warum andere so denken und handeln, wie sie es tun. Die Wirkungen dieser Komponente werden in den Kapiteln 4 »Social Media untergräbt die Wahrheit« und Kapitel 6 »Social Media tötet dein Mitgefühl« näher untersucht werden.

(Nicht jede Personalisierung ist ein Teil von BUMMER. Wenn Netflix dir einen Film empfiehlt oder eBay dir Kaufempfehlungen macht, ist das nicht BUMMER. Es wird nur in Verbindung mit anderen Komponenten BUMMER. Weder Netflix noch eBay wird von Dritten dafür bezahlt, dein Verhalten zu beeinflussen, abgesehen von den direkten Geschäften, die du mit diesen Anbietern machst.)

D Verhaltensmodifikation

Die oben genannten Komponenten werden zusammengeschaltet, um einen Mess- und Feedback-Apparat zu bauen, der gezielt menschliches Verhalten modifiziert. Dieser Prozess wurde im ersten Kapitel beschrieben.

Zur Erinnerung: Individualisierte Feeds werden optimiert, um das Engagement der User zu steigern, häufig mit Hilfe emotionalisierter Reize, die süchtig machen. Die Leute erkennen nicht, wie sie manipuliert werden. Der Hauptzweck dieser Manipulationen ist, immer mehr Menschen süchtig zu machen und sie dazu zu bringen, immer mehr Zeit im System zu verbringen.[31]   Doch es wird auch getestet, ob solche Manipulationen auch für andere Zwecke eingesetzt werden können.

Wenn du zum Beispiel etwas online liest, wird dein Leseverhalten mit demjenigen von zahllosen anderen Menschen abgeglichen. Wenn jemand, der sich beim Lesen ähnlich verhält wie du, etwas gekauft hat, nachdem dafür auf eine bestimmte Art und Weise geworben wurde, steigt die Wahrscheinlichkeit, dass dir die gleiche Werbung serviert wird. Vor einer Wahl könntest du seltsame Postings zu sehen bekommen, die erwiesenermaßen bei anderen, dir ähnlichen Menschen den inneren Zyniker geweckt haben – und zwar, um die Wahrscheinlichkeit zu senken, dass du wählen gehst.

BUMMER-Konzerne haben ganz stolz berichtet, wie sie damit experimentiert haben, Menschen traurig zu machen, die Wahlbeteiligung zu beeinflussen und Markentreue zu verstärken. Solche Beispiele aus der Gründungszeit von BUMMER gehören zu den bekanntesten Forschungsstudien zum Thema.[32]

Auf dem Weg zur Verhaltensmodifikation über digitale Netzwerke werden all diese Beispiele verflacht, all diese verschiedenen Ebenen des Lebens zu einer Ebene zusammengepresst. Aus der Sicht des Algorithmus sind Emotionen, Trauer und Markentreue einfach nur verschiedene, aber ähnliche Signale, die es zu optimieren gilt.

Falls sich herausstellt, dass eine bestimmte Art von Posting dich traurig macht, wirst du mehr solcher Postings zu sehen bekommen, wenn ein Algorithmus dich traurig machen will. Es ist nicht nötig, dass jemand weiß, warum genau diese Art von Posting diese Wirkung auf dich hat, und du selbst wirst wahrscheinlich nicht einmal merken, dass ein bestimmter Beitrag dich ein bisschen traurig gemacht hat oder dass du manipuliert wurdest. Die Wirkung ist subtil, aber kumulativ. Zwar sieht sich hin und wieder ein Wissenschaftler an, was da vor sich geht, weil er neue Erkenntnisse gewinnen will, doch zum größten Teil spielt sich der gesamte Prozess im Dunkeln ab, völlig automatisch – in einer neuartigen, unheimlichen Schattenwelt.

Algorithmen werden selten überprüft, und schon gar nicht von externen und unabhängigen Wissenschaftlern, und zwar unter anderem deshalb, weil es schwierig nachzuvollziehen ist, warum sie funktionieren. Sie werden ganz automatisch immer besser, durch Feedback.

Eines der Mysterien des heutigen Silicon Valleys ist, dass manche Menschen anscheinend besser darin sind als andere, solche Systeme, die auf maschinellem Lernen basieren, zum Laufen zu bringen. Niemand weiß, warum das so ist. Es hat sich gezeigt, dass diese extrem mechanische Methode, menschliches Verhalten zu manipulieren, eine erstaunlich intuitive Kunst ist. Diejenigen, die neue Algorithmen besonders gut optimieren können, werden zu Stars und verdienen spektakuläre Gehälter.

E Ein perverses Geschäftsmodell

Der Apparat zur massenhaften Verhaltensmodifikation wird vermietet, um Geld mit ihm zu machen. BUMMER-Manipulationen sind nicht perfekt, aber sie sind mächtig genug, dass es einem Selbstmord gleichkommen würde, wenn Marken, Politiker und andere unter Konkurrenzdruck stehende Personen und Organisationen darauf verzichten würden, den BUMMER-Maschinen Geld zu zahlen. Daraus entsteht eine universelle kognitive Erpressung, und das wiederum führt weltweit zu immer weiter steigenden Ausgaben für BUMMER.[33]

Wenn jemand eine BUMMER-Plattform nicht mit Geld bezahlt, muss er sich in eine Content-Quelle für diese Plattform verwandeln, um dort nicht unterzugehen. Als Facebook ankündigte, es werde in seinem Feed mehr Gewicht auf News legen, musste sich die gesamte Welt des Journalismus auf BUMMER-Standards umstellen. Um präsent zu bleiben, mussten Journalisten Geschichten schreiben, die auf Clickbaiting abzielen und sich aus dem Zusammenhang herauslösen lassen. Sie waren gezwungen, selbst BUMMER zu werden, um nicht von BUMMER vernichtet zu werden.

BUMMER hat nicht nur die Ethik des Silicon Valleys untergraben, es hat auch den Rest der Wirtschaft völlig verrückt gemacht. Im achten Kapitel werde ich auf die wirtschaftliche Seite von BUMMER näher eingehen.

Bevor ich mit Komponente F weitermache, muss ich die spezielle Rolle erklären, die Komponente E dabei spielt, die finanziellen Anreize zu schaffen, die die ganze BUMMER-Maschine am Laufen halten. Im Silicon Valley hört man viel Gerede darüber, dass es bald kein Geld mehr geben wird und wir Formen von Macht und Einfluss schaffen, die über Geld hinausgehen – aber trotzdem scheinen nach wie vor alle hinterm Geld her zu sein!

Wenn zufälligerweise am meisten Geld damit verdient wird, dass man die Aufmerksamkeit aller fesselt, indem man die Welt als furchterregend darstellt, dann wird genau das passieren – selbst wenn das bedeutet, dass die Stimmen böser Akteure verstärkt werden. Wenn wir das nicht wollen, dann müssen wir die Art ändern, wie Geld verdient wird.

Nach den US-Präsidentschaftswahlen 2016 kündigten Facebook, Twitter, Google Search und YouTube[34]   Änderungen ihrer Richtlinien an, um undurchsichtige Anzeigen, böswillige Fake News, Hate Speech und so weiter zu bekämpfen. Außerdem haben Aufsichtsbehörden zusätzliche Regularien eingeführt, die zum Beispiel vorschreiben, dass politische Anzeigen als solche kenntlich gemacht werden müssen. Als ich gerade dabei war, das Manuskript für dieses Buch fertigzustellen, hat Facebook angekündigt, es werde in seinem Feed weniger Gewicht auf Nachrichten legen. Die meisten Journalisten reagierten begeistert, weil sie dadurch möglicherweise mehr Freiheiten gewinnen werden, ihr Publikum selbstbestimmt anzusprechen.

Diese Änderungen könnten durchaus helfen, die BUMMER-Aktivitäten abzuschwächen, zumindest für eine Weile. Tatsächlich ist es auch früher schon gelungen, hässliche soziale Phänomene im Internet durch neue Vorschriften einzudämmen: Reddit hat 2015 einige hässliche Subreddits verboten, wodurch sich die Anzahl der Hass-Postings reduziert hat.

Durch kleine Änderungen werden allerdings die fundamentalen Anreize nicht beseitigt, was bedeutet, dass böswillige Akteure sich wahrscheinlich immer hinterlistigere und raffiniertere Gegenmaßnahmen ausdenken werden. Auch das ist schon geschehen. Es ist bekannt, dass es eine ziemlich große Branche gibt, die sich mit der sogenannten Suchmaschinenoptimierung beschäftigt und dadurch ihren Kunden hilft, mit den ständigen Änderungen der Suchmaschinen-Algorithmen fertigzuwerden.

Können schrittweise Reformen die durch BUMMER verursachten Probleme wie Sucht, Manipulation und die weltweite Verführung zum Irrsinn lösen, wenn die Anreize nicht verändert werden? Wenn begrenzte Reformen etwas bewirken können, bin ich sehr dafür. Ich hoffe, dass die Änderungen an Facebooks Feed die Welt ein bisschen besser machen werden, aber ich befürchte, dass durch solche kleinen Änderungen nicht genug erreicht werden kann. Das ist einer der Gründe, warum ich dieses Buch schreibe.

Es hat sich immer wieder gezeigt, dass fundamentale Anreize stärker wirken als Vorschriften. Die Art und Weise, wie der Mensch Regeln umgeht, um Anreizen nachzujagen, führt in vielen Fällen dazu, dass die Welt finsterer und gefährlicher wird. In der Regel funktionieren Verbote nicht. Als in den Vereinigten Staaten im frühen 20. Jahrhundert versucht wurde, den Konsum von Alkohol zu verbieten, führte das zu einer Zunahme der organisierten Kriminalität. Das Verbot musste bald wieder aufgehoben werden. Als einige Jahrzehnte später Marihuana verboten wurde, passierte das Gleiche. Jedes Verbot ist eine Triebfeder für Korruption, die die Gesellschaft in legale und illegale Branchen spaltet. Gesetze funktionieren am besten, wenn sie sich einigermaßen an den tatsächlich existierenden Anreizen orientieren.

An den Regularien für BUMMER herumzuschrauben, ohne die fundamentalen Anreize zu verändern, wird wahrscheinlich zu ähnlichen Misserfolgen führen. Schon jetzt ist klar, dass einige solcher Änderungen nichts gebracht haben: BUMMER-Pioniere wie Google und Facebook sind energisch gegen böswillige Akteure, Betrüger und unautorisierte Manipulatoren vorgegangen, haben damit aber lediglich den Aufstieg von technisch versierten Untergrund-Cybermafias erreicht, von denen einige im Dienst unfreundlicher Staaten stehen.

Die frustrierendste Nebenwirkung halbherziger Reformen an BUMMER-Regularien ist, dass jede neue Runde im Rüstungswettlauf zwischen Plattformen und böswilligen Akteuren immer mehr wohlmeinende Bürger fordern lässt, dass die BUMMER-Konzerne sich stärker in unser Leben einmischen sollen. Wir fordern von weit entfernten, riesigen Technologiekonzernen, zu beurteilen, was Hate Speech, böswillig verfälschte Nachrichten, Mobbing, Rassismus, sexuelle Belästigung, gefälschte Identitäten und andere hässliche Dinge sind. Wohlmeinende Aktivisten fordern von diesen Konzernen, das Verhalten der Nutzer immer stärker zu regeln: »Oh, bitte sagt uns, was wir sagen dürfen, ihr reichen jungen Programmierer im Silicon Valley! Diszipliniert uns!« Das spielt jenen böswilligen Akteuren in die Hände, die unsere Demokratie mit Hilfe der BUMMER-Maschine untergraben wollen, auch wenn ihre Aktivitäten dabei etwas beschnitten werden.

Beispiele für unglückliche BUMMER-Anreize finden sich an vielen Stellen in diesem Buch. Im neunten Kapitel wird eine andere Anreizstruktur vorgeschlagen, die womöglich die Welt verbessern könnte. Aber jetzt erst mal weiter mit Komponente F!

F Fake People

Diese Komponente ist fast immer vorhanden, obwohl sie typischerweise in der ursprünglichen Konstruktion einer BUMMER-Maschine nicht enthalten war. Es wimmelt nur so von Fake People, in unbekannter, aber riesiger Zahl, und sie bestimmen die Atmosphäre. Bots, KI-Systeme, Agenten, Fake-Reviewer, Fake-Freunde, Fake-Follower, Fake-Poster, automatisierte Catfisher – eine riesige Menagerie von Gespenstern.

Das führt zu unsichtbarem sozialem Vandalismus. Es wird ein sozialer Druck aufgebaut, der großen Einfluss auf die Psyche und das Verhalten der Menschen hat.

Auf die entscheidende Rolle von Fake People werde ich im vierten Kapitel über Wahrheit näher eingehen, das nach dem folgenden Kapitel über Arschlöcher kommt.

Das Problem ist definiert, also können wir es eindämmen

Je genauer wir ein Problem definieren können, desto lösbarer wird es. Ich habe die Hypothese aufgestellt, dass nicht das Internet, Smartphones, Smart Speakers oder die Raffinesse von Algorithmen für unsere Probleme verantwortlich sind. Das Problem, das in letzter Zeit die Welt verfinstert und verrückt gemacht hat, ist vielmehr die BUMMER-Maschine, und das Herz der BUMMER-Maschine ist eigentlich keine Technologie, sondern eine bestimmte Art von Geschäftsmodell, das perverse Anreize ausspuckt und Menschen korrumpiert.

Dieses Geschäftsmodell kommt nicht einmal besonders häufig zur Anwendung. Außerhalb Chinas sind die einzigen Technologieriesen, die völlig von BUMMER abhängen, Facebook und Google. Die anderen drei der fünf großen Technologiekonzerne setzen BUMMER zwar hin und wieder ein, weil es heutzutage so leicht ist, aber sie sind nicht davon abhängig. Einige wenige kleinere BUMMER-Unternehmen sind ebenfalls einflussreich, etwa Twitter,[35]   obwohl sie häufig zu kämpfen haben. Optimistisch bin ich unter anderem, weil BUMMER als langfristige Geschäftsstrategie nicht allzu viel taugt. Diese Beobachtung werde ich im achten Kapitel über Wirtschaft näher erklären.

Welche Unternehmen sind BUMMER? Darüber lässt sich streiten. Ein gutes Testkriterium ist, dass echte BUMMER-Unternehmen Aktivitäten oder Geld von böswilligen Akteuren wie russischen Cyberkrieg-Einheiten anlocken. Dieser Test zeigt, dass es Pseudo-BUMMER-Dienste gibt, die nur Teile der genannten Komponenten enthalten (etwa Reddit und 4chan), aber trotzdem wichtige Rollen im BUMMER-Ökosystem spielen.

Dienste, die BUMMER werden könnten, aber noch nicht die erforderliche Größe erreicht haben, werden von den anderen Technologieriesen Microsoft, Amazon und Apple betrieben, aber auch von kleineren Firmen wie Snap.

Aber hier soll es nicht um Konzerne gehen, sondern um dich. Da wir eine Linie um die BUMMER-Maschine gezogen haben, können wir jetzt auch eine Linie um das ziehen, was wir meiden müssen.

Das Problem mit BUMMER ist nicht, dass es irgendeine bestimmte Technologie nutzt, sondern dass es sich um einen Machttrip von jemand anderem handelt.

So ist zum Beispiel der methodische Behaviorismus, den ich im ersten Argument beschrieben habe, an sich kein Problem. Du könntest beschließen, dich von einem Spezialisten für kognitive Verhaltenstherapie behandeln zu lassen und daraus Nutzen ziehen. Hoffentlich hat dieser Therapeut einen Eid geschworen, die ethischen Normen seines Berufsstandes zu achten und bemüht sich, dein Vertrauen zu erwerben. Falls dein Therapeut allerdings ein Handlanger eines gigantischen, weit entfernten Konzerns ist und dafür bezahlt wird, dich dazu zu bringen, bestimmte Entscheidungen zu treffen, die nicht unbedingt in deinem besten Interesse sind, dann wäre das ein BUMMER.

Ganz ähnlich ist auch Hypnose an sich kein BUMMER. Wenn jedoch dein Hypnotiseur durch jemanden ersetzt wird, den du nicht kennst und der für Dritte arbeitet, die du auch nicht kennst, und du keine Ahnung hast, zu welchem Zweck du hypnotisiert wirst, dann wäre das in der Tat ein BUMMER.

Das Problem ist nicht irgendeine bestimmte Technologie, sondern die Verwendung einer Technologie, um Menschen zu manipulieren und um Macht auf eine Weise zu konzentrieren, die so verrückt und unheimlich ist, dass sie zu einer Bedrohung für das Überleben der Zivilisation wird.

Wenn du dazu beitragen willst, die Welt wieder zur Vernunft zu bringen, brauchst du gar nicht aufzuhören, dein Smartphone zu benutzen, im Internet zu surfen und Cloud-Dienste zu nutzen. Du brauchst keine Angst vor Mathematik, Soziologie oder Psychologie zu haben.

Du musst einfach nur BUMMER meiden. Lösch deine BUMMER-Accounts!

3

Social Media macht dich zum Arschloch

Lass mich die Überschrift für dieses Argument ein bisschen anders formulieren. Ich kenne dich nicht. Ich sage nicht, dass genau du dich auf jeden Fall zu einem Arschloch entwickeln wirst, aber vielen Leuten passiert genau das. Dabei merken sie allerdings nur, dass viele andere zum Arschloch werden. Ich habe es auch schon selbst erlebt, dass ich online zum Arschloch wurde, und das war beängstigend und deprimierend.

Was ich also eigentlich sagen will, ist ungefähr so etwas: »Du bist gefährdet, allmählich zum Arschloch zu werden, statistisch gesehen könnte das sehr leicht passieren. Also nichts für ungut, aber bitte nimm diese Gefahr ernst.«

Schwarzer Schnee

Ein Süchtiger kann versuchen, seine Sucht zu verheimlichen, vor allem vor sich selbst. Doch in vielen Fällen ist sie offensichtlich, denn seine Persönlichkeit verändert sich.

Der Lebensrhythmus eines stark abhängigen Menschen wird bestimmt von einem nervösen, zwanghaften Jammern über seine Situation – immer fühlt er sich benachteiligt und sehnt sich nach Bestätigung. Ein süchtiger Mensch wird ängstlich, seltsam fokussiert auf ominöse Ereignisse, die andere nicht sehen können. Er ist egoistisch, so beschäftigt mit seinem eigenen Zyklus, dass er kaum Zeit hat wahrzunehmen, was andere fühlen und denken. Er zeigt eine gewisse Arroganz, einen Fetisch für Übertreibungen, der allem Anschein nach überdecken soll, dass er zutiefst unsicher ist. Eine persönliche Mythologie ergreift Besitz von ihm. Er sieht sich selbst als grandios, und je tiefer er in die Abhängigkeit rutscht, desto unrealistischer wird sein Selbstbild.

Auch Hardcore-Social-Media-Süchtige zeigen diese Persönlichkeitsveränderungen, genauso wie Junkies oder Spielsüchtige. Aber häufiger kommt es vor, dass BUMMER-User sich nur ein bisschen in diese Richtung verändern – sie verhalten sich statistisch gesehen etwas öfter wie ein Süchtiger. Wie bei allem anderen, was mit BUMMER zu tun hat, gibt es auch hier Grautöne. Die ganze Gesellschaft ist durch Social Media um ein paar Grautöne dunkler geworden.

Die merkwürdigste Persönlichkeitseigenschaft eines Süchtigen ist, dass er sich schließlich zum Leiden hingezogen zu fühlen scheint, da Leiden ein Teil des Zyklus ist, der ihn seine Sucht befriedigen lässt. Ein Zocker ist nicht süchtig danach, zu gewinnen. Er ist süchtig nach einem Spiel, bei dem es wahrscheinlicher ist, dass er verliert. Ein Junkie ist nicht nur nach dem High süchtig, sondern nach dem schwindelerregenden Unterschied zwischen den Lows und den Highs.

Entsprechend wird auch ein BUMMER-Süchtiger über kurz oder lang unheimlich reizbar, als ob er den Streit geradezu sucht.

Süchtige sind überzeugt davon, dass ihnen keine andere Wahl bleibt, als aggressiv zu werden – entweder andere schikanieren oder selbst schikaniert werden, eine andere Wahl sehen sie nicht. Selbst erfolgreiche und nette BUMMER-Süchtige – etwa bekannte Social-Media-Influencer – haben berichtet, dass sie sich nicht allzu nett geben dürfen, weil sie dadurch in einem extrem konkurrenzorientierten Haifischbecken Schwäche[36]   zeigen würden. Man muss mehr Follower haben als man selbst followt, um den schönen Schein zu wahren.

Es ist schwierig, diese typische Persönlichkeitsveränderung an sich selbst zu erkennen und sie sich einzugestehen. An anderen ist sie leichter zu erkennen, vor allem, wenn man diesen anderen nicht mag. Wenn konservative BUMMER-Süchtige ihre Abneigung gegen liberale Studenten zeigen, beleidigen sie sie manchmal als »arme kleine Schneeflocken«.

Die ärmste Schneeflocke von allen ist jedoch Donald Trump, der genau dieses Verhalten an den Tag legt. Ich habe ihn über etliche Jahrzehnte mehrfach getroffen, und ich kann nicht sagen, dass ich ihn mag, aber damals war er zumindest kein BUMMER-Süchtiger. Er war eine typische Figur aus New York City, ein Manipulator und ein Schauspieler, der meisterhaft kalkulieren konnte, wer ihm nützen könnte und wen er besser fallen ließ. Doch als Charakter zeigte er eine gewisse Selbstironie. Selbst im Reality-TV hat er die nie ganz verloren.

Jetzt, als Twitter-Süchtiger, hat Trump sich verändert. Er zeigt das Schneeflocken-Muster und verliert manchmal die Kontrolle über sich. Er verhält sich nicht wie die mächtigste Person der Welt, denn seine Sucht ist mächtiger als er. Wie immer er auch sonst sein mag, wie auch immer er Leute fertigmachen kann – er ist auch ein Opfer.

Mein innerer Troll

Die sozialen Medien haben sich im Laufe der Jahre in vielerlei Hinsicht verändert, aber die Grundform gab es schon, als ich Anfang der achtziger Jahre begann, mich mit Computern zu beschäftigen. Die sozialen Netzwerke, die wir damals hatten, waren kaum mehr als eine Kommentarfunktion – eigentlich nur ein Haufen Leute, die ihren Text unter ein Thema schrieben. Man konnte weder für seine Lieblings-Postings stimmen noch wurde dein Feed von Algorithmen personalisiert. Sehr einfach.

Aber schon damals ist mir etwas Hässliches aufgefallen. Manchmal, aus heiterem Himmel, geriet ich in einen Streit mit jemandem oder mit einer Gruppe. Es war völlig irre. Wir fingen an, uns gegenseitig zu beleidigen, wollten den Streit gewinnen, gingen uns auf die Nerven. Und das über völlig idiotische Sachen – ob zum Beispiel irgendeiner weiß, wovon er redet, wenn es um verschiedene Klaviermarken geht. Echt.

Zwischen meinen Postings regte ich mich auf: »Ich bin nicht ignorant! Klar kenn ich mich mit Klavieren aus! Wie kann dieser Vollidiot es wagen, solchen Unsinn über mich zu verbreiten? Ich habe eine Idee: Ich werde ihn blamieren, indem ich ihn durch einen Trick dazu bringe, etwas Beklopptes zu sagen.«

Das passierte so oft, dass es normal wurde. Nicht nur für mich, sondern auch für alle anderen. Es war wie chaotisches menschliches Wetter: Nach einem wunderschönen Morgen braut sich plötzlich ein Sturm zusammen.

Um zu vermeiden, in dieses Arschloch-Verhalten abzurutschen, musste man so tun, als ob man supernett ist – fake-nett. Man musste zuckersüß-höflich sein, seine Worte immer sehr genau wählen, einen echten Eiertanz aufführen.

Das war noch ätzender!

Dann habe ich einfach aufgehört, das Zeug zu benutzen, weil mir nicht gefiel, zu wem ich da wurde. Kennst du die Redensart, dass man seinen Lebenspartner danach aussuchen sollte, wie man sich in Gegenwart dieser Person verhält? Das ist auch eine gute Methode, um zu entscheiden, mit welchen Technologien man sich beschäftigen will!

Als ein paar Freunde von mir in den neunziger Jahren die neuartige Online-Community »The Well« ins Leben riefen, gaben sie mir einen Account, aber ich habe dort nie etwas gepostet. Viel später, als ich ein paar Bekannten geholfen habe, die Online-Welt »Second Life« zu starten, passierte genau das Gleiche.

In den frühen 2000er Jahren brachte mich eine geschäftstüchtige Dame namens Arianna Huffington dazu, eine Zeit lang für ihre Huffington Post zu bloggen. Ich muss kurz erklären, wie sie das geschafft hat.

Wir waren auf einem protzigen Kongress in einem protzigen kleinen Städtchen in den Rocky Mountains, im Bundesstaat Colorado. Ich saß auf einer Bank und hatte meinen Arm auf eine runde Zementbrüstung gelegt, die einen Abfalleimer einrahmte. Da kam Arianna und setzte sich auf meinen Arm, sodass ich ihn nicht mehr bewegen konnte. »Arianna, du hast es wahrscheinlich nicht gemerkt, aber du sitzt auf meinem Arm – ich möchte ihn gern wiederhaben.«

Sie antwortete mit ihrem starken griechischen Akzent: »Weißt du, was manche Männer für dieses Privileg zahlen würden? Du kriegst deinen Arm nur wieder, wenn du für mich bloggst.«

Also habe ich für sie gebloggt. Für eine Weile war ich einer der Top-Blogger der Huffington Post, immer auf der Startseite. Aber dann stellte ich fest, dass ich wieder in das altbekannte Muster verfiel, wann immer ich die Kommentare las. Ich schaffte es nicht, sie einfach zu ignorieren. Bei solchen Gelegenheiten fühlte ich eine merkwürdige, verhaltene Wut in mir aufsteigen, manchmal auch einen absurden, glühenden Stolz, wenn es den Leuten gefiel, was ich geschrieben hatte – selbst wenn das, was sie schrieben, eher verdeutlichte, dass sie sich nicht ernsthaft mit meinem Text beschäftigt hatten. Die Autoren solcher Kommentare suchten hauptsächlich Aufmerksamkeit für sich selbst.

Wir waren alle in demselben Chaos, manipulierten uns gegenseitig, blähten uns auf.

Schon bald stellte ich fest, dass ich Sachen schrieb, die ich nicht einmal selbst glaubte, nur um meine Leser auf die Palme zu bringen. Manchmal schrieb ich das, was die Leute hören wollten, ein andermal das genaue Gegenteil, weil ich wusste, dass sie sich darüber aufregen würden.

Verdammt! Ich war wieder an genau dem gleichen Punkt angekommen – ich wurde zum Arschloch, wegen dieser blöden Technologie! Also bin ich ausgestiegen – noch einmal. Von allen zehn Gründen in diesem Buch ist es dieser, der mir emotional wirklich zu schaffen macht. Ich will kein Arschloch sein, und auch kein aufgesetzt netter Mensch.

Ich will authentisch nett sein, aber bestimmte Online-Designs scheinen das mit geradezu magischen Kräften zu bekämpfen. Das ist der Hauptgrund, warum ich keine Accounts bei Facebook, Twitter, WhatsApp[37]  , Instagram, Snapchat oder sonst wo habe. Es gibt zwar Fake-Accounts mit meinem Namen, sogar einen @RealJaronLanier auf Twitter, aber ich habe keine Ahnung, wer das ist – ich jedenfalls nicht.

Ich halte mich nicht für besser als dich, weil ich keine Social-Media-Accounts habe. Vielleicht bin ich sogar schlechter. Vielleicht kannst du besser mit dem Zeug umgehen als ich.

Aber mir ist aufgefallen, dass Arschlöcher mehr zu sagen haben auf der Welt, seit Social Media so erfolgreich ist.

Auf BUMMER-Plattformen ist ein Pendeln zwischen zwei Extremen zu beobachten: Entweder gerät man in einen von Arschlöchern ausgelösten Shitstorm (das ist kein schiefes Bild, oder?) oder alle sind supervorsichtig und aufgesetzt nett.

Die größten Arschlöcher ziehen die meiste Aufmerksamkeit auf sich, und daher bestimmen sie letztlich häufig die Atmosphäre einer Plattform. Selbst wenn es Bereiche einer Plattform gibt, in denen nicht jeder dauernd ein Arschloch ist, wirken diese Ecken wie eingezäunt, weil direkt davor die Arschlöcher warten. Das ist einer der Gründe, warum BUMMER-Komponente A Gruppendynamiken fördert.

Das Mysterium der Arschloch-Verstärkungstechnologie

Bisher konnte mich niemand davon überzeugen, dass er wirklich verstanden hat, warum Komponente A dein inneres Arschloch zum Vorschein bringt. Darüber gibt es viele Theorien.[38]   Hier gehe ich nur auf die ein, die ich am nützlichsten finde.

Es ist nicht hilfreich, davon auszugehen, dass es auf der Welt nur Arschlöcher und Nichtarschlöcher gibt, oder, wenn du so willst, Trolle und Opfer.

In jedem von uns wohnt tief drinnen ein Troll. Früher, bevor alle auf Social Media waren, war es leichter zu merken, wie bizarr es ist, wenn dein innerer Troll anfängt zu reden. Er ist wie ein hässlicher Alien, der in dir lebt und den du längst vergessen hast. Lass nicht zu, dass dein innerer Troll die Kontrolle übernimmt! Wenn dir das regelmäßig in einer bestimmten Situation passiert, dann meide diese Situation! Es ist egal, ob das eine Online-Plattform, eine Beziehung oder ein Job ist. Dein Charakter ist wie deine Gesundheit, wertvoller als alles, was du kaufen kannst – wirf ihn nicht weg.

Aber warum, warum ist der innere Troll überhaupt da?

Er ist ein so verbreitetes Problem, dass es sich um eine fundamentale, sehr ursprüngliche Eigenschaft handeln muss, um eine Tragödie unseres evolutionären Erbes, um einen dummen Fehler im Herzen der menschlichen Psyche. Aber das bringt uns nicht weiter – was genau ist denn nun der innere Troll?

Manchmal übernimmt der innere Troll die Führung, manchmal nicht. Meine Arbeitshypothese ist schon seit langem, dass es irgendwo tief in der Persönlichkeit jedes Menschen einen Schalter gibt, mit dem einer von zwei Zuständen aktiviert werden kann. Wir sind wie Wölfe. Wir können entweder Einzelgänger sein oder Mitglieder eines Wolfsrudels. Ich nenne diesen Schalter den »Einzelgänger-/Rudel-Schalter«.

Wenn wir Einzelgänger-Wölfe sind, dann sind wir freier. Wir sind vorsichtig, können aber auch mehr Freude empfinden. Wir denken eigenständig, improvisieren, sind kreativ. Wir sammeln, jagen, gehen in Deckung. Ab und zu heulen wir den Mond an, aus reiner Lebensfreude.

Wenn wir dagegen im Rudel sind, werden Interaktionen mit anderen zur wichtigsten Sache der Welt. Ich weiß nicht, wie weit das bei Wölfen geht, doch beim Menschen ist es dramatisch. Wenn Menschen in einer konkurrenzorientierten, hierarchischen Machtstruktur gefangen sind – etwa in einem Großkonzern –, können sie die Realität ihres Handelns aus den Augen verlieren, weil der unmittelbare Machtkampf die eigentliche Wirklichkeit überschattet.

Heutzutage ist das beste Beispiel für dieses Phänomen das Bestreiten der Klimaveränderung. Die Wissenschaft und so gut wie alle Länder der Welt sind sich darüber einig, dass wir uns diesem Problem stellen müssen, doch eine kleine, aber mächtige Gruppe von Wirtschaftslenkern und Politikern wollen das nicht wahrhaben. Sie halten die wissenschaftlichen Erkenntnisse über die Klimaveränderung für ein Komplott, das darauf abzielt, sie um ihren Wohlstand und ihre Macht zu bringen. Das ist eine absurde Vorstellung. Diese Absurdität ist nur möglich, wenn man die Welt ausschließlich durch den Filter von Machtkämpfen zwischen verschiedenen Gruppen wahrnimmt, wodurch die eigentliche Realität ausgeblendet wird.

Für eine Kreatur der technischen Welt ist es tröstlich, auf ein solches Beispiel zu verweisen, weil es uns aus der Verantwortung entlässt. Aber auch wissenschaftliche Gemeinschaften können darunter leiden, wenn der Schalter auf »Rudel« gestellt wird. So hat zum Beispiel der theoretische Physiker Lee Smolin dokumentiert, wie die Verfechter der Stringtheorie eine Zeit lang eine Mob-Herrschaft in der Welt der theoretischen Physik errichtet haben.[39]   Dieses Muster tritt immer dann auf, wenn Menschen sich in Gruppen zusammenfinden. Streetgangs haben nur Rudel-Probleme wie Revier und Rache im Blick, obwohl sie dadurch ihre Leben, ihre Familien und ihre Viertel zugrunde richten. Wenn der Schalter auf »Rudel« steht, bist du so sehr mit deinen Kameraden und deinen Feinden in der Welt der Rudel beschäftigt, dass du blind werden kannst für alles andere, was sich genau vor deiner Nase abspielt.

Wenn der Einzelgänger-/Rudel-Schalter auf »Rudel« steht, werden wir in den Bann einer Hackordnung gezogen und von ihr beherrscht. Vielleicht kennst du die Redensart »Nach oben buckeln, nach unten treten«: Wir treten diejenigen, die unter uns sind, um nicht degradiert zu werden, und zugleich sind wir sehr bemüht, denjenigen über uns Honig um den Bart zu schmieren und sie aus dem Hinterhalt anzugreifen, wenn die Zeit reif ist. Die uns gleichgestellten wechseln so schnell zwischen »Verbündeter« und »Feind«, dass wir sie gar nicht mehr als Individuum registrieren, sie werden zu Archetypen aus einem Comicheft. Die einzig verlässliche Grundlage von Freundschaft ist die gemeinsame Feindschaft gegenüber anderen Rudeln.

Ja, ich vermische Tiermetaphern. Klar, ich glaube, dass eine moderne, »domestizierte« Katze eher einem Einzelgänger-Wolf ähnelt als einem Rudel-Wolf, obwohl auch für Katzen hierarchische Gesellschaftsstrukturen sehr wichtig sind. Vielleicht haben Katzen einen Stolz-Schalter, und das Leben mit dem Menschen gab ihnen die Freiheit, ihren Stolz weniger wichtig zu nehmen. Je ergiebiger die Jagdgründe sind, desto leichter ist es, sich unter seinesgleichen nicht als Arschloch zu verhalten. Vielleicht war für Katzen das Einziehen beim Menschen das, was für uns das Vorantreiben des technischen Fortschritts war – mehr Optionen bedeuten mehr Möglichkeiten, nicht zum Troll zu werden. Das ist es zumindest, was das Vorantreiben des technischen Fortschritts in der Menschheitsgeschichte normalerweise bedeutet hat. BUMMER ist eine unglückselige Ausnahme – eine Methode, Technologie dafür einzusetzen, den Menschen einen Teil ihrer Freiheit zu nehmen.

Der Schalter im Menschen sollte generell auf »Einzelgänger« gestellt bleiben.

Wenn Menschen Einzelgänger-Wölfe sind, hat jeder Einzelne Zugang zu etwas unterschiedlichen Informationen über die Welt und zu etwas unterschiedlichen Arten, diese Informationen zu verarbeiten. Ich habe schon über den Zusammenhang zwischen der Einzelgänger-Position und dem persönlichen Charakter gesprochen, aber darüber hinaus gibt es noch andere Gründe, den Schalter auf »Einzelgänger« gestellt zu lassen.

Sehen wir uns einmal ein Experiment an, das vielen Wirtschaftsstudenten in ihrer ersten Vorlesung vorgeführt wird. Der Professor hält ein großes, mit Bonbons gefülltes Glas hoch und fordert jeden Studenten auf, zu schätzen, wie viele Bonbons es enthält. Der Durchschnitt aus allen Schätzungen ergibt dann normalerweise eine Zahl, die der tatsächlichen Zahl der Bonbons sehr nahe kommt. Jede Person trägt eine andere Perspektive zur Lösung des Rätsels bei, unterschiedliche Herangehensweisen, Fertigkeiten und Strategien kommen zusammen, und der Durchschnitt ihrer Schätzungen trifft die Übereinstimmungen zwischen ihnen. (Das funktioniert nur für Antworten, die aus einer einzigen Zahl bestehen. Wenn du einen Ausschuss aufforderst, ein Produkt zu gestalten oder einen Roman zu schreiben, sieht das Ergebnis so aus, als wäre es von einem Ausschuss hervorgebracht worden.)

Nehmen wir jetzt mal an, die Studenten könnten das Glas mit Bonbons nur auf Fotos in einem Social-Media-Feed sehen. Es würden sich verschiedene Lager mit unterschiedlichen Vorstellungen über die Zahl der Bonbons bilden, und sie würden anfangen, sich gegenseitig lächerlich zu machen. Der russische Geheimdienst würde ähnliche Bilder von ähnlichen Gläsern mit einer anderen Anzahl von Bonbons streuen. Bonbonverkäufer würden Trolls zu der Behauptung veranlassen, es seien nicht genug Bonbons und du müsstest mehr davon kaufen. Und so weiter. Es würde keine Chance mehr geben, die Zahl der Bonbons zu schätzen, weil die Macht der Vielfalt kompromittiert worden wäre. Wenn das passiert, verlieren Märkte ihre Nützlichkeit für die Welt.

Du kannst das Bonbonglas durch einen politischen Kandidaten, ein Produkt oder irgendwas anderes ersetzen. Das wirft allerdings Probleme auf, die ich in den Kapiteln aufgreifen werde, in denen es darum geht, wie BUMMER unseren Zugang zu Wahrheit und Bedeutung ruiniert.

Stell dir fürs Erste einfach vor, das Glas in diesem Beispiel ist deine Identität, wie sie durch Social Media repräsentiert wird. Solange die Leute eigenständig denken, werden sie gemeinsam die Zahl der Bonbons im Glas richtig schätzen, was aber nicht funktionieren kann, wenn sie im Rudel und im Gruppendenken gefangen sind. Dann werden sie deine Identität auslöschen.

Es gibt Lebenslagen, in denen es notwendig ist, den Schalter auf »Rudel« zu stellen – militärische Einheiten sind das klassische Beispiel. Manchmal müssen Menschen sich einer Hierarchie unterordnen, weil sie nur so überleben können. Doch eines der Hauptziele einer Zivilisation sollte sein, solche Situationen möglichst selten eintreten zu lassen.

Kapitalismus funktioniert nicht, wenn der Schalter auf »Rudel« gestellt ist, weil dadurch an den Märkten Spekulationsblasen und andere Probleme entstehen. Sicherlich gibt es viele Geschäftsleute, die auch im Wirtschaftsleben militärische Metaphern vorziehen: Du sollst hart und skrupellos sein. Da die Rudel-Schalterstellung dich jedoch auch mehr oder weniger blind macht, ist dieser Persönlichkeitsstil auf lange Sicht nicht so gut fürs Geschäft, wenn wir Geschäft als etwas definieren, bei dem es um die Wirklichkeit jenseits von Konkurrenzkämpfen geht.

Wenn Menschen sich jedoch wie Einzelgänger-Wölfe verhalten, hat jeder von ihnen seinen besonderen Platz in der Gesellschaft und denkt auf seine ganz eigene Weise. Ein weiteres Beispiel: Demokratische Wahlen sind eine echte Vermischung unterschiedlicher Ideen, und sie haben in der Menschheitsgeschichte diversen Gesellschaften geholfen, sich trotz Kontroversen weiterzuentwickeln – aber nur, solange die Schalter der Bürger auf »Einzelgänger« gestellt sind. Eine Demokratie geht zugrunde, wenn die Schalter auf »Rudel« stehen. Von Stammesdenken bestimmte Wahlen, Persönlichkeitskults und autoritäre Herrschaftsformen sind die politischen Ausdrucksformen der »Rudel«-Schalterstellung.

Vielleicht hört es sich zunächst wie ein Widerspruch an, doch das ist es nicht: Kollektive Prozesse sind am sinnvollsten, wenn die Teilnehmer als Individuen agieren.

Der machtvollste Hauptschalter[40]

Nehmen wir an, du akzeptierst die Theorie vom Einzelgänger-/Rudel-Schalter. Dann stellt sich die Frage, welcher Aspekt unserer Online-Aktivitäten dazu führt, dass der Schalter auf »Rudel« gestellt wird. Die einfachste Antwort ist wahrscheinlich auch die richtige: Der Schalter wird auf »Rudel« gestellt, wenn die Vorteile der Einzelgänger-Stellung vernebelt werden.

Wenn du ein Einzelgänger-Wolf bist, bist du gezwungen, dich der Realität zu stellen, der es egal ist, was die Gesellschaft denkt. Du musst Wasser und eine Höhle finden, sonst wirst du umkommen. Du musst für dich selbst sammeln und jagen, um nicht zu verhungern. Deine Persönlichkeit verändert sich. Du musst Probleme mit Hilfe der Erfahrungen lösen, die du selber sammelst, anstatt auf die Wahrnehmung von Gruppen zu achten. Du entwickelst die Eigenschaften eines Wissenschaftlers oder Künstlers.

Wenn du dagegen im Rudel lebst, werden sozialer Status und Intrigen wichtiger als die Realität. Du wirst eher wie ein Maschinist, ein Politiker oder Sklave.

Daher werden Situationen, in denen dein direkter Kontakt zur Realität verstellt wird und deine sozialen Interaktionen in den Vordergrund treten, deinen inneren Schalter auf »Rudel« stellen.

Diese Theorie klingt nicht nur plausibel, sie steht auch im Einklang mit den vorliegenden Erkenntnissen. So ist zum Beispiel unter den großen sozialen Netzwerken LinkedIn dasjenige mit den wenigsten Arschlöchern.[41]   Das soll nicht heißen, dass LinkedIn nicht andere BUMMER-Probleme hätte – zum Beispiel wird LinkedIn von Tristan Harris kritisiert, weil es die sozialen Ängste seiner Nutzer ausnutze, um sie stärker an sich zu binden.[42]

Ein Hinweis: Ich stehe in einer beruflichen Beziehung zu LinkedIn, die meine Objektivität beeinträchtigen könnte (obwohl ich keinen Account bei LinkedIn habe). Du solltest nicht akzeptieren, was ich sage, ohne es kritisch zu hinterfragen. Der Interessenkonflikt, den ich hier offenlege, eignet sich gut dafür, jetzt damit anzufangen – denke selbstständig!

Jedenfalls sind die Leute, die ich bei LinkedIn kenne, ganz wunderbare Menschen, aber das kann ich auch über die Leute sagen, die ich bei Twitter und Facebook kenne. Der Unterschied bei LinkedIn ist ganz einfach, dass die User dort noch etwas anderes zu tun haben als sozialen Eindruck zu schinden – etwas, bei dem es mehr zu gewinnen gibt. Die Plattform ist dafür bekannt, dass man dort seine berufliche Karriere voranbringen kann. Sie verdient ihr Geld hauptsächlich damit, dass sie Jobkandidaten an Arbeitgeber vermittelt, anstatt Leute zu manipulieren, damit sie etwas kaufen oder ihr Verhalten sonst wie ändern.

Eine berufliche Laufbahn ist ein physischer, realer Prozess, der einen Lebensunterhalt einbringt. Sie ist nicht nur real, sondern auch nicht austauschbar – jede Karriere ist sowohl einzigartig als auch unentbehrlich für die betreffende Person. Die LinkedIn-User verfolgen nicht alle genau die gleiche Karriere, was bedeutet, dass sie untereinander nicht in direkte Konflikte oder taktische Spielchen gezwungen werden. Sie erhalten keinen persönlichen Beliebtheits-Score wie Social-Media-Anfänger, die sofort in einen riesigen weltweiten Wettbewerb geworfen werden.

LinkedIn-User haben etwas anderes zu tun als sich sozial in den Vordergrund zu drängen, was tendenziell Arschlöcher motiviert. Die meisten Menschen wollen lieber etwas anderes sein als ein Arschloch, wenn sie die Wahl haben. Das Entscheidende ist, dass es ein Motiv geben muss, irgendetwas anderes zu tun als Aufmerksamkeit zu suchen oder andere, ausschließlich psychologische Belohnungen anzustreben. Diese einfache Eigenschaft – dass es um mehr gehen kann als um Psychospielchen – genügt, um das Niveau eines Online-Umfelds deutlich zu heben.

So einfach ist das. Ein praktischer Nutzen – zum Beispiel, wie man seinen Lebensunterhalt verdient – ist letztlich das, was uns vereint und dadurch zivilisiert.[43]

In BUMMERland scheint es so, als ob jeder kleine Kommentar entweder zu einem Krieg um totale persönliche Herabsetzung und Vernichtung führt, oder aber alle ganz kuschelig werden und rumschleimen. Das eklatanteste Beispiel dafür ist, dass der BUMMER-süchtige US-Präsident, der Großmeister aller Social-Media-Abhängigen, aus jeder Kleinigkeit einen Wettbewerb macht, wer den anderen mit einem Tweet völlig fertigmachen kann – oder aber, wer sich so schleimig loyal zeigt, dass er gut von Trump behandelt wird.

Geh dorthin, wo du am freundlichsten bist

Natürlich hat es auch vor BUMMER schon Arschlöcher gegeben, doch es war nicht so schwer zu vermeiden, selbst eins zu sein. Auf BUMMER musst du sogar gegen die Schwerkraft ankämpfen, um anständig zu bleiben.

Das Problem der Online-Arschloch-Herrschaft könnte ziemlich einfach gelöst werden, indem man einfach das BUMMER-Geschäftsmodell verschrottet. Eine Möglichkeit wäre, dass die Leute häufiger und fairer Geld verdienen könnten mit dem, was sie online tun. Auf diese Idee werde ich im achten Kapitel näher eingehen, das untersucht, wie Social Media das Wirtschaftsleben zerstört.

Was wir brauchen, ist irgendetwas, das jenseits der sozialen Angeberei real ist und worauf die Leute sich konzentrieren können, statt Arschlöcher zu werden.

Bis es so weit ist, gibt es etwas, das du persönlich tun kannst. Falls du auf Online-Plattformen aktiv bist und dabei etwas Unerfreuliches in dir selbst bemerkst – eine Unsicherheit, ein geringes Selbstwertgefühl, den Drang, jemanden zu attackieren: dann verschwinde von dieser Plattform. Ganz einfach.

Heutzutage ist Online-Mobbing ins öffentliche Bewusstsein gerückt, und das ist auch richtig so. Vielleicht bist auch du schon mal im Internet schikaniert worden – sehr, sehr viele Menschen haben so etwas schon ertragen müssen.

Aber ich möchte dich auch bitten, in dich hineinzuhorchen, ganz privat – erzähle niemandem etwas davon –, ob du nicht auch manchmal die Lust verspürst, eine andere Person online zu attackieren. Vielleicht hat diese andere Person damit angefangen, wie auch immer. Lass es jedenfalls – es lohnt sich nicht. Verlasse diese Plattform. Poste das beleidigende Video nicht, setz keinen Rache-Tweet ab.

Wenn Twitter morgen den Betrieb einstellen würde, dann könnte Trump logischerweise nicht nur nicht mehr tweeten, er würde auch, das glaube ich zumindest, zu einem netteren, besseren Menschen werden, und zwar zu jeder Tages- und Nachtzeit – jedenfalls solange er sich nicht auf einer anderen BUMMER-Plattform eingeklinkt hat.

Das kann ich nicht beweisen, und viele Leute werden das anders sehen. Aber das macht nichts. Hinterfrage dich selbst – mal im Ernst: Bist du so freundlich, wie du eigentlich gerne sein würdest? Bei welchen Gelegenheiten bist du eher die Person, die du gerne sein würdest, und wann wirst du reizbar oder machst andere schlecht?

Dein Charakter ist das Kostbarste an dir. Lass ihn nicht unter die Räder kommen.

4

Social Media untergräbt die Wahrheit

Alle wissen es

Der Ausspruch »Truth is Dead« ist zu einem geflügelten Wort unserer Zeit geworden.[44]   Die Übeltäter, die am häufigsten beschuldigt werden, die Wahrheit ermordet zu haben, sind Social Media und ein gewisser Präsident, der davon abhängig ist. Es gibt so viele einschlägige Artikel (etwa »Wie Technologie die Wahrheit untergräbt«[45]  ), dass ich dem kaum noch etwas hinzufügen muss.

Dieses Buch liefert verschiedene Erklärungen dafür, wie und warum die sozialen Medien die Wahrheit untergraben. Diese Erklärungen bilden jeweils den Kern der anderen neun Kapitel.

Darüber hinaus zerstört jede der BUMMER-Komponenten A bis F die Wahrheit auf ihre eigene Art.

- A
Arschlöcher machen Austausch zum Auskotzen. Sie stellen den Einzelgänger-/Rudel-Schalter auf »Rudel«, wodurch die Leute so sehr auf ihren Sozialstatus-Wettbewerb fixiert werden, dass sie für alles andere blind werden können, für jede höhere oder fundamentale Wahrheit.

- B
Technologiekonzerne forschen dich aus und überwachen dich. Um die Wahrheit registrieren zu können, müssen Menschen authentisch sein, damit sie authentisch wahrnehmen können. Dieses Prinzip wurde anhand der Analogie von den Bonbons im Glas erklärt. Wenn Menschen ständig von Spionagetechnologie herumgeschubst werden, verlieren sie ihre Authentizität.

- C
Menschen werden Inhalte aufgezwungen. Wenn das Produkt, mit dem einige der reichsten Konzerne der Welt ihr Geld machen, aus dem besteht, was die Menschen wahrzunehmen gezwungen werden, dann ist klar, dass die Wahrheit leiden wird. Der Verlust der Wahrheit ist ihr Produkt.

- D
Die umfassende Verhaltensmodifikation. Wenn absichtlich herbeigeführte Abhängigkeiten eingesetzt werden, um für wirtschaftlichen Profit massenhaft Menschen zu manipulieren, ist klar, dass diese Massen die Wahrheit aus dem Blick verlieren. Und genau das ist das Ziel.

- E
Ein Geschäftsmodell, das darin besteht, bestimmte Leute mit meist bösen Absichten heimlich das Verhalten von anderen Menschen manipulieren zu lassen. Wirtschaftliche Anreize sind meist wirkungsvoller als Regeln, Richtlinien und gute Absichten. Das wird im nächsten Kapitel, in dem es um Wirtschaft geht, noch näher erläutert. Die von BUMMER gesetzten Anreize sorgen daher häufig dafür, dass Wahrheit bekämpft wird. Bestenfalls kümmern sie sich gar nicht um die Wahrheit.

- F
Fake People haben keinen Grund, die Wahrheit zu sagen. Tatsächlich ist die Wahrheit Selbstmord für eine Fake-Person. Aber Fake People werden von BUMMER angelockt und gefördert.

Die »Wahrheit« im Sinne von Behauptungen, die überprüft werden können oder Ereignissen, die ehrlich dokumentiert werden – das, was die gesamte Menschheit zusammen besitzen kann –, ist definitionsgemäß ein Fluch für die BUMMER-Manipulationsmaschine. Nur allzu oft muss sie, um ihren Zweck erfüllen zu können, die Wahrheit umgehen oder versuchen, sie zu unterdrücken.

Wenn Menschen »fake« sind, wird alles fake

Die Fake People aus Komponente F sind die Stammzellen für alles andere, was in BUMMER fake ist.

Abgesehen von ganz offensichtlichen Fake People wie Alexa, Cortana und Siri könntest du den Eindruck haben, dass du im Internet noch nie etwas mit einer Fake-Person zu tun hattest – aber das hast du durchaus, und zwar schon oft. Vielleicht hast du dich schon einmal entschieden, etwas zu kaufen, weil es eine Menge positive Kundenrezensionen dafür gab – tja, viele dieser Bewertungen stammen von künstlichen Personen. Vielleicht hast du mit Hilfe einer Suchmaschine eine Ärztin gefunden, aber diese Ärztin taucht nur deswegen ganz oben in der Trefferliste auf, weil sehr viele Fake People einen Link auf ihre Homepage gesetzt haben. Vielleicht hast du dir ein Video angesehen oder eine Meldung gelesen, weil so viele andere Leute das auch schon getan hatten, aber die meisten von ihnen waren fake. Und wenn dir ein Tweet auffällt, dann oft nur deshalb, weil er zunächst von unzähligen automatisierten Bots retweeted wurde.

Ein junger Mensch wird von seinem Freundeskreis zutiefst beeinflusst, aber das gilt auch für den Rest seines Lebens. Wenn es in deinem erweiterten Freundeskreis eine Menge Fake People gibt, die kreiert werden, um dich zu manipulieren, wirst du wahrscheinlich beeinflusst werden, ohne es überhaupt zu merken.

Diese Wahrheit ist schwer zu akzeptieren, aber da soziale Eindrücke eine so wichtige Rolle spielen, hast auch du selbst dich schon – zumindest ein bisschen – fake verhalten. BUMMER macht auch dich fake, mehr oder weniger.

Alles, was du online tun kannst, können auch Bots tun, aber millionenfach schneller als du. Fake People sind eine kulturelle Denial-of-Service-Attacke.

Bei einer Denial-of-Service-Attacke setzen Hacker eine Bot-Armee in Gang, um eine Website mit so viel Datenverkehr zu überlasten, dass echte Menschen sie nicht mehr laden können. Das ist eine typische Anwendung von Computerviren durch böswillige Akteure – sie infizieren Millionen von Computern mit einem Virus und befehlen diesen Computern dann, alle gleichzeitig die anzugreifende Website abzurufen. Häufig werden solche Angriffe auch als bezahlte Dienstleistung angeboten.

In vergleichbarer Weise nehmen Heerscharen von Fake People auf BUMMER-Plattformen den echten Menschen die Luft zum Atmen und lenken die Welt im Dienst ihrer Meister.

Solche Fake People werden normalerweise nicht von den Leuten koordiniert, die die BUMMER-Plattformen betreiben; vielmehr werden sie in einer neuen Unterwelt fabriziert. Heute gibt es eine ganze Branche, die gefälschte Menschen verkauft.

Einem Bericht der New York Times zufolge lag der marktübliche Preis für Fake People auf Twitter Anfang 2018 bei 225 Dollar für die ersten 25.000 Follower.[46]   Die Fake-Accounts können gefälschte Profile echter Nutzer sein und auf den ersten Blick echt wirken. Diverse Prominente, Unternehmen, Politiker und ein immer größer werdender Kundenkreis krimineller Cyber-Akteure nutzen die Dienste solcher Fake-People-Fabriken. Auch die Firmen, die Fake People verkaufen, sind häufig fake. (Die New York Times hat zum Beispiel festgestellt, dass ein bekannter Bot-Anbieter eine gefälschte Adresse angegeben hat.)

Manche Plattformen würden wahrscheinlich gar nicht existieren, wenn es keine Fake People gäbe. Das bekannteste Beispiel könnte Ashley Madison sein, eine Website, die vorgibt, Seitensprünge zu vermitteln. Dort wurden Berichten zufolge Fake-Frauen eingesetzt, um Männer dazu zu verleiten, einen teureren Account zu registrieren.[47]   Ihr wurde sogar vorgeworfen, Fake-Kritiker erfunden zu haben, um öffentlichen Wirbel zu erzeugen und dadurch Werbung für sich selbst zu machen.[48]

Auch die Mainstream-BUMMER-Konzerne haben keine blütenreine Weste in Bezug auf solche Bots. Mainstream-BUMMER-Betreibern fällt es schwer, ihre Plattformen völlig von Fake People freizuhalten, weil sie co-abhängig sind – ähnlich wie ein Tier, dass ohne Bakterien im Darm nicht überleben kann. Komponente F liefert der BUMMER-Maschine Schwung und kostenlose Energie: die Eindringlinge werden zu Teilen des Räderwerks der Maschine.

Fake-Accounts werden durchaus von allen Technologiekonzernen bekämpft, doch sie profitieren auch von ihnen. Wenngleich die Leute, die bei Twitter arbeiten, es vielleicht auf emotionaler oder moralischer Ebene besser finden würden, wenn es keine Bots auf ihrer Plattform gäbe, sorgen die Bots doch auch für mehr Aktivität und Intensität auf der Site. Es ist erwiesen, dass massenhaft gefälschte soziale Aktivitäten echte Menschen beeinflussen. Auf indirektem Weg erzeugen sie eine echte soziale Realität, was bedeutet, dass sie Geld einbringen. Echte User werden erfolgreich durch sie manipuliert. Techies rechtfertigen solche Vorgänge vor sich selbst zum Beispiel mit der Behauptung, dass Bots die Meinungsvielfalt steigern würden[49]   oder ähnlichem Unsinn, obwohl Bots tatsächlich die echten Meinungsäußerungen im künstlich erzeugten Stimmengewirr untergehen lassen können.

Ein anderes Phänomen im Zusammenhang mit Komponente F ist, dass einige konventionelle Medien – etwa Fox News in den USA – immer übellauniger und tendenziöser geworden sind. (Mit »konventionelle Medien« sind im Silicon-Valley-Jargon Fernsehen, Radio und Printmedien gemeint.) Warum ist das im Social-Media-Zeitalter so massenhaft zu beobachten, wenn es früher nur gedämpft aufgetreten ist, zumindest in modernen Zeiten? Dafür kommen zahlreiche Gründe infrage, doch einer davon ist sicherlich, dass BUMMER dazu eingesetzt werden kann, eine gesellschaftliche Stimmung zu erzeugen, die das einst Undenkbare denkbar macht. So nehmen zum Beispiel die verrücktesten Verschwörungstheorien auf BUMMER ihren Anfang und werden von Fake-Profilen befeuert, um dann in extrem tendenziösen konventionellen Medien aufzutauchen.[50]

Extrem parteiische Medien wie Fox News kann man daher zu Komponente F zählen. Solche konventionellen Medien wurden provisorisch zurecht gebastelt, um zu einem Bestandteil der BUMMER-Maschine zu werden.[51]

Komponente F macht die BUMMER-Maschine widerstandsfähig in ihrer Abscheulichkeit, sodass kleine Änderungen mit dem Ziel, sie zu bessern, kaum etwas ausrichten. So haben die US-Aufsichtsbehörden die Social-Media-Konzerne zum Beispiel aufgefordert, zu kennzeichnen, wer für eine Anzeige bezahlt. Da es jedoch unzählige Fake-Akteure gibt, die die BUMMER-Maschine antreiben, ist es sehr fraglich, welchen Sinn eine solche Kennzeichnung haben kann.

Bots umgehen Versuche, BUMMER zu regulieren oder durch kleine Änderungen zu bessern. Wenn zum Beispiel strenge Vorschriften für BUMMER-Anzeigen eingeführt würden, dann könnten Bots einen Shitstorm[52]   von Postings entfesseln, um das zu bewirken, was mit Anzeigen nicht mehr erreicht werden könnte. Das ist einer der Gründe, warum BUMMER aus der Welt geschafft werden muss.

Bei einer Anhörung vor dem US-Senat haben Rechtsanwälte von Social-Media-Konzernen ausgesagt, ihre Mandanten könnten Fake People nicht erkennen. Sie hätten ganz einfach nicht die Möglichkeiten dazu.[53]

Das ist eine finstere Komödie. Die BUMMER-Algorithmen versuchen vermutlich, die Fake People zu manipulieren, ebenso wie sie dich manipulieren – doch im Gegensatz zu dir sind Bots gegen Manipulationen immun.

Ich muss betonen, dass die Fake People, über die ich mich hier auslasse, ein massenhaft produzierter Betrug sind, der dazu dient, echte Menschen zu manipulieren. Es steht mir absolut nicht zu, zu beurteilen, was für dich authentisch ist oder wie du deine Online-Identität konstruierst. Ich will keine Authentizitätstheorie vorschlagen, sondern eine illegitime Machtbeziehung kritisieren. Wenn ein Teenager einen gefälschten Instagram-Account einrichtet, muss das nicht unbedingt etwas Schlechtes sein. Wenn du ein guter Bürger der Gesellschaft werden willst, in der du lebst, ist es wichtig, dass du dich mit ihren Gepflogenheiten auskennst. Und wenn diese Gesellschaft auf Fake People basiert, dann solltest du tunlichst lernen, wie man selbst einen Fake-Account konstruiert.

BUMMER tötet

Ein großer Teil des von BUMMER angerichteten Schadens kann beseitigt werden, indem du deine Accounts löschst, aber der gesellschaftliche Verlust von Wahrheit quillt aus BUMMER heraus, greift um sich und schadet sogar Menschen, die gar nicht direkt etwas mit BUMMER zu tun haben. Es gibt zahlreiche Beispiele für diese Gefahr, vor allem in der Politik. Hier will ich mich aber auf das öffentliche Gesundheitswesen konzentrieren.

Ich bin Vater einer Tochter, und ich will, dass die Kinder, mit denen meine Tochter spielt, geimpft sind. Impfungen sind ein gemeinsames Gut, ein Geschenk, das wir einander machen können. Sie sind eine der großartigsten Erfindungen der Menschheitsgeschichte.

Noch in meiner Kindheit konnte man viele Menschen sehen, die sich nur mühsam fortbewegen konnten, weil sie unter den Fehlbildungen einer Kinderlähmung litten. Wer das überlebte und danach überhaupt noch gehen konnte, konnte sich glücklich schätzen. Es machte keinen Unterschied, ob du reich oder arm warst, schwarz oder weiß – jeder konnte an Kinderlähmung erkranken.

Wann hast du zuletzt jemanden mit Kinderlähmung gesehen? Diese Krankheit ist keineswegs das einzige Beispiel. Die Generation meiner Eltern hat Epidemien erlebt, denen Millionen – oder gar zig Millionen – Menschen zum Opfer fielen.

Impfungen sind besser als elektrischer Strom, Spültoiletten und Raumfahrt zusammengenommen – und ich finde jede dieser Erfindungen großartig.

Aber ich kenne andere Eltern – gebildete Menschen aus der oberen Mittelschicht der Vereinigten Staaten –, die nicht einmal in Erwägung ziehen würden, ihre Kinder impfen zu lassen. Manche von ihnen sind links, andere rechts. Das Problem ist nicht nur, dass sie glauben, Impfungen seien schlecht; sie glauben vielmehr, dass Impfungen böse, unmenschlich und ekelhaft sind. Sie glauben, Impfungen würden Autismus verursachen. Sie können solche Verschwörungstheorien nicht aus ihrem Kopf kriegen. Jetzt könntest du denken, ich sei elitär, weil ich entsetzt bin über »gebildete«, mehr oder weniger wohlhabende Eltern, die gefährlichen Unsinn verbreiten. Aber ist es nicht der ganze Sinn von Bildung, die Menschen weniger anfällig für gefährlichen Unsinn zu machen?

Ich habe versucht, solche Eltern mit sachlichen Argumenten zu überzeugen, aber dann zeigen sie mir ihre BUMMER-Feeds. Jeden Tag verinnerlichen sie Meme, gefälschte Schauergeschichten und Clickbait, die anscheinend von Bots erzeugt werden,[54]   wenn auch niemand genau weiß, in welchem Umfang.[55]   Diese BUMMER-Süchtigen sind in einem Umfeld von Paranoia und Besserwisserei gefangen, während sie jeden Tag einem neuen Kick aus positiven und negativen sozialen Anreizen hinterherhecheln.

Es hat schon immer seltsame Wellen von Unwahrheit in Gesellschaften gegeben, aber irgendwie haben wir, um in unserer komfortablen Moderne anzukommen, allmählich einen gemeinsamen Weg zur Wahrheit gefunden. Die letzten Jahre sind jedoch davon gekennzeichnet, dass sich viele von uns das Bonbonglas erst gar nicht mehr selbst ansehen.

In unserer BUMMER-Ära sind die Informationen, die bei den Leuten ankommen, das Ergebnis einer Zusammenarbeit zwischen manipulativen Werbetreibenden und machtbesoffenen Technologiekonzernen, die irrsinnige, konstruierte Wettbewerbe um sozialen Status fabrizieren. Das führt dazu, dass es im gesellschaftlichen Meinungsbildungsprozess immer weniger Authentizität gibt, die uns helfen kann, zur Wahrheit zu finden.

Die Menschen werden diversen paranoiden Peergruppen zugeordnet, weil sie dann einfacher und zuverlässiger zu beeinflussen sind. Dieses Einteilen in Gruppen geschieht automatisch, ist steril und – wie immer – merkwürdig unschuldig. Es hat nie jemanden in einem Technologiekonzern gegeben, der beschlossen hätte, das Gerede von Impfgegnern als geschäftliche Taktik zu fördern. Es hätte ebenso gut eine Kampagne gegen Hamster sein können. Der einzige Grund, warum BUMMER solches Zeug verstärkt, ist der Umstand, dass Paranoia sich zuverlässig als effiziente Methode erwiesen hat, um Aufmerksamkeit zu erregen.

Der Umstand, dass der Mensch die Errungenschaften der Moderne genießen kann – etwa die Eindämmung von tödlichen Epidemien –, obwohl er sogar vorübergehend den Nutzen schwer erkämpfter Wahrheiten ablehnt, ist ein Beweis dafür, wie weit der technologische Fortschritt uns gebracht hat. Einige von uns können sogar eine Zeit lang damit davonkommen, zu glauben, dass die Menschheit auch ohne Impfungen gesund bleiben würde – als ob Gesundsein der natürliche Zustand der Dinge wäre.

Unser öffentliches Gesundheitswesen und die moderne Medizin haben unsere Lebensspanne verdoppelt. Verdoppelt! Eine unbeabsichtigte Nebenwirkung dieser Entwicklung ist, dass jetzt ein paar von uns an Unsinn glauben können, ohne dafür mit dem Leben bezahlen zu müssen. Zumindest eine Zeit lang.

Um auf lange Sicht vom technischen Fortschritt profitieren zu können, müssen wir eine Möglichkeit finden, zu vermeiden, dass unsere verbesserte Lebensqualität und Sicherheit zu einer Entschuldigung werden, bequem in gefährliche Phantasien abzudriften. Formen von Medien, die Wahrheit fördern, sind überlebensnotwendig, doch die heutzutage dominierenden Medien werden diesem Anspruch nicht gerecht.

Ich habe mich auf dieses Beispiel konzentriert, weil es mich als Vater eines Kindes wütend macht, auf einer sehr fundamentalen Ebene. Es macht mich wütend, durchs Silicon Valley zu fahren und zu wissen, dass viele meiner Freunde, die hinter all den grünen Fenstern in den sich bis zum Horizont erstreckenden niedrigen Bürogebäuden der Technologiekonzerne arbeiten, womöglich zu einer Entwicklung beitragen, die einstmals besiegte Kinderkrankheiten wieder aufleben lässt.[56]

Rette Kinderleben: Lösch deine Accounts.

5

Social Media macht das, was du sagst, bedeutungslos

Ohne Kontext hat das, was du sagst, keine Bedeutung.

Diese Tatsache wird bei unserem alltäglichen Umgang miteinander leicht übersehen, weil der jeweilige Kontext normalerweise offensichtlich ist. Wenn ich zum Beispiel sage: »Hau ab! Ich habe jetzt keine Zeit mehr für dich!«, klingt das merkwürdig oder grausam, bis du merkst, dass ich es zu unserer Katze Loof sage, weil sie wirklich übertrieben viel Aufmerksamkeit fordert. (Sie heißt so, weil sie das genaue Gegenteil von »aloof« – unnahbar – ist.)

In extremen Situationen wird dieses Prinzip noch klarer. Wenn du jemanden in einem Auto sitzen siehst, bei dem Rauch unter der Motorhaube hervorquillt, und du »Feuer!« schreist, kannst du dieser Person damit womöglich das Leben retten. Wenn du jedoch in einer überfüllten Diskothek »Feuer!« schreist, kann es sein, dass du dadurch eine Panik auslöst, bei der Menschen totgetrampelt werden – auch wenn es gar nicht wirklich brennt.

Online haben wir kaum oder gar nicht die Möglichkeit, den Kontext zu kennen oder zu beeinflussen, in dem unsere Äußerungen verstanden werden. Das Prinzip ist am einfachsten zu verstehen, wenn man sich extreme Beispiele ansieht.

Die am besten belegten Extrembeispiele sind solche, bei denen die Urheber einer Äußerung einen gewissen Einfluss haben und eine Veränderung herbeiführen können. Nehmen wir zum Beispiel folgendes Problem, mit dem Werbetreibende auf YouTube konfrontiert waren: Eine Zeit lang war es nicht ungewöhnlich, dass einem YouTube-User eine Anzeige für etwas Harmloses – etwa ein Stück Seife – unmittelbar vor oder nach einem grauenhaften Terroristen-Anwerbevideo serviert wurde. Als immer mehr Anzeigenkunden sich darüber beschwerten – also erst, nachdem es schon geschehen war –, begann YouTube, Videos mit terroristischen Inhalten zu löschen.[57]   Den betroffenen Kunden wurde sogar Schadensersatz gezahlt. Zahlende Kunden haben also eine Stimme. Haben gewöhnliche User ebenso viel Mitspracherecht über den Kontext, in den sie durch BUMMER-Maschinen platziert werden?

Zu den häufigsten Extrembeispielen kann es kommen, wenn Frauen oder Mädchen, die sich online äußern wollen, entsetzt feststellen, dass ihre Postings oder Fotos sexualisiert oder in einen von Gewalt geprägten oder manipulativen Rahmen gestellt werden. Postings von Frauen werden häufig auf groteske Weise aus dem Zusammenhang gerissen, um sie zu demütigen, bloßzustellen oder zu belästigen.[58]   Prominente Frauen sind bereits seit Jahren daran gewöhnt, belästigt zu werden – etwa die von »Gamergate« betroffenen Frauen –, aber jetzt trifft es auch ganz gewöhnliche junge Frauen.[59]

Zu solchen extremen Beispielen kann es nur kommen, weil du laut den auf BUMMER-Plattformen geltenden Spielregeln nicht weißt, in welchen Kontext deine Äußerung gestellt wird und weil du nicht sicher wissen kannst, wie sie anderen Usern präsentiert wird.

Das Problem ist inzwischen so allgegenwärtig, dass es beinahe unsichtbar geworden ist – wie die Luft, die wir atmen. Wir haben keinen Einfluss mehr auf den Kontext. Social Media schreddert Bedeutung. Was immer du sagst, gewinnt seine Bedeutung durch die Art und Weise, wie Algorithmen, Gruppen von Menschen und Gruppen von Fake People – die ebenfalls Algorithmen sind – sie kontextualisieren und mit dem vermengen, was andere Leute sagen.

Niemand kann jemals genau wissen, wie seine Äußerungen interpretiert werden, aber in Nicht-BUMMER-Situationen hast du zumindest eine ungefähre Vorstellung davon. Ich halte manchmal Vorträge, und dabei passe ich instinktiv meine Präsentation an das jeweilige Publikum an – Schülern sage ich etwas anderes als einem Publikum von Quants.[60]   Das ist einfach ein normaler Teil der Kommunikation zwischen Menschen.

Wenn man aber etwas auf Social Media postet, ist das eigentlich gar kein Sprechen. Der Kontext wird dem, was du sagst, nachträglich verpasst, und zwar für die Zwecke und den Profit von anderen.

Dadurch verändert sich, was ausgedrückt werden kann. Wenn der Kontext den Zwecken der Plattform geopfert wird, werden Kommunikation und Kultur banal, flach und vorhersehbar. Du musst total extrem werden, wenn du etwas sagen willst, das in einem unvorhersehbaren Kontext auch nur kurz überleben kann. Das kann nur durch Arschloch-Kommunikation erreicht werden.

Ohne Kontext keine Bedeutung

Die BUMMER-Maschine ersetzt deinen Kontext durch ihren Kontext. Aus Sicht der Algorithmen hast du keinen Namen, sondern bestehst aus Zahlen: die Anzahl von Followern, Likes, Klicks oder anderen Parametern, die messen, wie viel du zur BUMMER-Maschine beigetragen hast, rund um die Uhr, in jedem Augenblick.

In vielen dystopischen Science-Fiction-Romanen gibt es ein böses Imperium, in dem Namen durch Zahlen ersetzt worden sind. Auch in echten Gefängnissen bekommen die Häftlinge eine Nummer verpasst. Das hat einen einfachen Grund: Zur Nummer zu werden bedeutet, ausdrücklich einem Herrschaftssystem unterworfen zu werden. Eine Nummer ist eine öffentliche Bescheinigung über reduzierte Freiheit, niedrigeren Status und eingeschränktes Menschsein. Für mich ist das besonders verstörend, weil meine Mutter die Gefangenschaft in einem Konzentrationslager überlebt hat, wo den Insassen ihre Nummer auf den Arm tätowiert wurde. Heute wäre das viel zu teuer. Jetzt würden die Nazis einfach deine Nummer – zusammen mit deinen biometrischen Daten – in der Cloud speichern.

Das alles klingt vielleicht ein bisschen zu finster für Leute, die beim Social-Media-Zahlenspiel mitmachen. Dadurch gerate ich in ein sehr modernes Dilemma: Wenn ein Mensch unterworfen werden will – wie komme dann ausgerechnet ich dazu, ihm zu sagen: »Du musst für deine persönliche Würde kämpfen!« Macht das nicht mich zu demjenigen, der die Wünsche anderer nicht respektiert?

Daher will ich Menschen nicht kritisieren, denen diese Situation zu gefallen scheint – zum Beispiel junge Leute, die versuchen, als Social-Media-Influencer erfolgreich zu sein. Vielmehr werde ich mich auf diejenigen konzentrieren, die etwas anderes erreichen wollen als nur eine Zahl zu sein, ungeachtet dessen, dass sie der neuen Realität der Herrschaft von Zahlen unterworfen sind.

Viele Menschen finden Quellen von Inhalten – etwa Nachrichten-Websites – hauptsächlich durch BUMMER. Also müssen solche Websites sich so präsentieren, dass sie von Algorithmen und großen Gruppen bevorzugt werden.

In einem Newsroom, den ich kürzlich besucht habe, standen überall große Bildschirme – ähnlich wie im NASA-Kontrollzentrum. Diese zeigten sekundenaktuelle Statistiken über jedes Posting an, das von einer der im Raum anwesenden Personen veröffentlicht wurde. Vermutlich müssen Journalisten und andere Urheber von Inhalten wie gebannt an solchen Bildschirmen kleben, um das Engagement zu maximieren. Sie werden gezwungen, sich zu Rädern im Getriebe der BUMMER-Maschine zu machen. Sie tun mir leid.

Dieses Problem wird hauptsächlich auf den Feed von Facebook bezogen, doch es ist ein Problem der gesamten BUMMER-Branche. Es war schon ein Problem, bevor der Facebook-Feed überhaupt existierte.[61]   Jetzt, da Facebook angekündigt hat, in seinem Feed weniger Gewicht auf News zu legen, wird die Lage vielleicht etwas besser werden. Dennoch ist es kaum vorstellbar, dass Nachrichten jetzt von einem Tag auf den anderen von der BUMMER-getriebenen Kontextverfälschung frei sein werden. Damit Nachrichten ihren Kontext wiedergewinnen können, müssen User News-Sites über Nicht-BUMMER-Systeme finden. Welche Systeme werden das sein? Hoffentlich werden die Menschen direkte Beziehungen zu Anbietern von Nachrichten und anderen Inhalten knüpfen, und noch wünschenswerter wäre, dass sie Abos abschließen.

Bis es so weit ist, schafft es zahlreiche Probleme, dass die Arbeit von Journalisten dem Gott der Statistik unterworfen wird. Manche Kritikpunkte sind bekannt: Zu viel Clickbait senkt das Niveau öffentlicher Diskussionen; die Autoren bekommen nicht den Freiraum, Risiken einzugehen.

Erinnerst du dich, dass BUMMER-Algorithmen sich ständig selbst optimieren? Und dass sie dabei manchmal bei bestimmten Werten stecken bleiben? Dieser Prozess wurde im ersten Kapitel beschrieben. Alle User, auch Journalisten, sind gezwungen, bei diesem Optimierungsspiel mitzumachen, weil sie nur so hoffen können, für sich das meiste aus BUMMER herauszuholen. Eine News-Site wird so lange optimiert, bis weitere Änderungen nicht mehr zu besseren Ergebnissen führen. Dann geht das ganze Spiel von vorne los. Darum sind sich so viele Clickbait-Anzeigen so ähnlich – es gibt nur den »one weird trick«, die effekthascherische Headline, um Clickbait zu optimieren.[62]

Es sind nicht die kleinen Änderungen, sondern das BUMMER-Umfeld, das bewirkt, dass die Leute so an Social Media kleben. Draußen in der richtigen Welt – außerhalb von BUMMER – gibt es so viel Komplexität und Subtilität, dass kleine Änderungen nicht dazu führen, dass wir alle am selben Ort stecken bleiben. Feedback ist eine gute Sache, doch wenn Feedback in einer künstlich eingeschränkten Online-Umgebung überbetont wird, führt das zu lächerlichen Ergebnissen.[63]

Hier ist eine etwas weniger nerdige Darstellung derselben Idee: Kann es sein, dass es auf lange Sicht wichtiger ist, wenn man auf seine innere Stimme hört oder einer Leidenschaft für Moral oder Schönheit nachgeht, selbst wenn das auf kurze Sicht als weniger erfolgreich beurteilt wird? Kann es sein, dass es wichtiger ist, einige wenige Menschen auf einer tiefen, ernsthaften Ebene zu erreichen als alle Menschen mit Nichts zu erreichen?

Es müssen noch einige andere Fragen gestellt werden. Erstens: Warum sollte man den Zahlen glauben? Wie im vorigen Argument beschrieben, ist ein großer Teil der Online-Welt fake – Fake-Leser, Fake-Reviewer, Fake-Empfehlungen. Mir ist aufgefallen, dass News-Sites, die Anzeigenkunden direkt anlocken wollen, spektakulär höhere Abrufzahlen für Artikel über Produkte anzugeben scheinen, für die eine Anzeige geschaltet werden könnte – etwa einen Testbericht über Spielkonsolen –, als für Artikel zu anderen Themen.

Das bedeutet keineswegs, dass die betreffende Website gefälschte Statistiken zeigt. Vielmehr hat wahrscheinlich einer ihrer Manager eine Unternehmensberatung beauftragt, die Auswahl der statistischen Parameter so zu optimieren, dass Abrufzahlen dabei herauskommen, die die Site für potenzielle Anzeigenkunden interessanter machen. Mit anderen Worten: Die Betreiber der Site haben die Zahlen nicht bewusst frisiert, aber irgendwie wissen sie schon mehr oder weniger, dass ihre Statistiken Bestandteil eines riesigen gefälschten Kuchens sind.

Mach ihnen daraus keinen Vorwurf. Es gibt so wenige unabhängige News-Sites, sie sind kostbar. Sie sind von BUMMER in die Ecke gedrängt worden und extrem gefährdet. Die Nachrichtenagenturen – vor allem solche, die teure investigative Recherchen beauftragen – bekommen seit zwanzig Jahren zu hören, sie müssten flexibel genug sein, um neue Geschäftsmodelle zu entwickeln, die den von Technologiekonzernen verursachten »Verwerfungen« standhalten könnten. Aber ein wirklich nützlicher Rat ist bisher noch niemandem eingefallen.

Die Nachrichten werden also immer dünner, und die Nachrichtenmedien selbst geraten immer häufiger in die Schlagzeilen. Ständig geht es dabei um BUMMER, und zumindest in den Vereinigten Staaten sind kaum noch lokale investigative Nachrichtenredaktionen übrig geblieben. Unser riesiges Land ist kurz davor, gar keine unabhängigen Nachrichtenorganisationen mit den notwendigen Ressourcen und Reichweiten mehr zu haben.

Wenn ein Journalist immer weniger von dem Wunsch motiviert wird, die Menschen direkt zu erreichen, sondern vielmehr ständig darauf achten muss, einem nicht unbedingt berechenbaren Scoringsystem zu Diensten zu sein, verliert er den Draht zu seinem Kontext. Je erfolgreicher ein Journalist in diesem System ist, desto weniger weiß er, was seine Leser tatsächlich zu sehen bekommen.

Selbst wenn es echte Leser sind und keine Fakes, werden sie von Algorithmen zu bestimmten Inhalten gesteuert. Also können sie nicht wirklich unabhängig entscheiden, was sie lesen wollen. Die Zahlen, die diesen Vorgang steuern, sind definitionsgemäß nicht zuverlässig. Du kannst nicht jemandem sagen, wohin er gehen soll, und dann behaupten, du hättest etwas Neues entdeckt, weil du herausgefunden hast, wohin diese Person gegangen ist. Dies ist ein weiteres allgegenwärtiges Problem, das genauso schwierig zu sehen ist wie die Luft, die wir atmen.

Man kann es aber auch positiv sehen: Die Tatsache, dass der unabhängige Journalismus in BUMMERs Schatten mit Schwierigkeiten zu kämpfen hat, ist ein Zeichen für seine Integrität. Viele Journalisten haben sich erfolgreich höhere moralische Standards erhalten als Social-Media-Influencer, aber sie haben auch einen Preis dafür gezahlt. Heute werden echte Nachrichten als Fake News bezeichnet, weil nach BUMMER-Standards alles Echte gefälscht ist. Im BUMMER-Apparat haben stupide Zahlen die Wirklichkeit ersetzt.

Podcast People

Eine andere Art, die trickreiche Zersetzung von Kontext zu beleuchten, ergibt sich, wenn man sich Online-Situationen ansieht, in denen es das Problem nicht gibt – zumindest bis jetzt noch nicht. Ein Bereich der Online-Welt, der seinen eigenen Kontext nicht zerstört hat – zumindest bis jetzt noch nicht, während ich dies im Jahr 2018 schreibe –, ist die Podcast-Szene. Sie ist noch nicht BUMMER.

Podcaster sind echte Menschen, die der Zuhörer kennt. Podcasts bestehen aus vielen Folgen und schaffen so ein Gefühl für Persönlichkeit und Kontext. Der Zuhörer kann in Audio-Inhalten (noch) nicht so leicht vor- und zurückspringen wie in visuellen Inhalten, etwa einer Website oder einem Video. Also gleicht die Wahrnehmung des Zuhörers eher dem, was der Podcaster sich vorgestellt hat, als dem, was passiert, wenn jemand einen BUMMER-Feed nutzt.

Um den Unterschied zu verdeutlichen, werde ich mir eine Methode ausdenken, Podcasting zu ruinieren. Das darfst du aber nicht zu Hause nachmachen, okay?

Irgendein schlechter Mensch könnte eine App entwickeln, die alle von einem Anbieter erhältlichen Podcasts in Text umwandelt und daraus mit Hilfe »künstlicher Intelligenz« (KI) einen neuen Podcast zusammensetzt, der dann Schnipsel aus ganz vielen verschiedenen Podcasts enthält, in denen – als eines von vielen denkbaren Beispielen – die gleichen Schlüsselwörter vorkommen. Du könntest vielleicht sagen: »Ich will Meinungen über den politischen Kandidaten X hören«, oder vielleicht über irgendeinen Popstar.

Dann würdest du eine maschinengewehrartige Salve von Aussagen verschiedener Podcaster zu diesem Thema zu hören bekommen. Du würdest allerdings nicht hören können, was vor dem jeweiligen Schnipsel gesagt wurde oder was als Nächstes kommt. Die Schnipsel würden so schnell aufeinanderfolgen und es wären so viele, dass du gar nicht alles erfassen könntest, selbst wenn ein Computer anhand der Stimme des jeweiligen Sprechers anzeigen würde, von wem jeder Schnipsel stammt.

Im nächsten Schritt würden die Podcaster dann versuchen, Schnipsel zu liefern, die spektakulär genug sind, um hängen zu bleiben und in die Wurst gestopft zu werden. Es würde reichlich bescheuertes Fluchen, Überraschungseffekte, freakiges Lachen und Rumgebrülle geben – aber nichts davon würde viel bedeuten.

KI-Forscher würden stolz vorführen, wie sie mit der Stimme des einen Podcasters etwas sprechen lassen können, was ein anderer Podcaster gesagt hat. Du könntest dir also all deine Podcasts von deinem Lieblingsschauspieler vorlesen lassen – etwa das, was der Investigativjounalist Ezra Klein gesagt hat, gesprochen von dem Comedian Gilbert Gottfried.

In diese Schnipsel-Kette, den Podcast-Feed, würden deine persönlichen Voicemail-Nachrichten eingebaut werden, um dein Interesse zu fesseln. Vielleicht wäre das die einzige Möglichkeit, deine eigenen Nachrichten überhaupt noch zu hören.

Ach ja, und dann würde natürlich auch Werbung eingebunden werden: die Stimme deiner Liebsten, die dir die neuesten Internet-of-Things-Klamotten anpreist, die mit Sensoren ausgestattet sind, die deine Körperhaltung an dir unbekannte, auf individualisierte Werbung spezialisierte Agenturen schicken. Mitten im Gestrüpp geschredderter Fragmente eines Politik-Podcasts würde dann plötzlich eine Stimme berichten, dass eine Politikerin aus dem Keller einer Pizzeria heraus einen Kindersexring betreibt.

Unmengen von Trollen und Fake-Trolls würden das System austricksen und genug grausame Podcast-Schnipsel in die Mischung schummeln, um deinen Podcast-Feed unerträglich zu machen. Selbst die angenehmsten Schnipsel würden zu bloßen Verzierungen einer grausamen, paranoiden, wütend und verrückt machenden akustischen Suppe verkommen.

Oder vielleicht wäre dein Podcast-Feed eine Filterblase, die nur die Meinungsschnipsel berücksichtigen würde, mit denen du einverstanden wärst. Allerdings wären es gar keine richtigen Meinungen, weil sämtliche Inhalte zu einem kontinuierlichen Strom von Fragmenten zusammengestückelt wären – eine Karikatur dessen, was normalerweise alle Zuhörer hören. Du würdest nicht einmal mehr in derselben Welt leben wie eine andere Person, die einen anderen Podcast-Feed zu hören bekommt.

Diese Podcast-Feed-App würde einen irgendwie KI-arroganten Namen bekommen, zum Beispiel Podcast Metagenius, oder irgendwas in niedlicher Babysprache – wie wär’s mit Poddytraining?

Wenn du dieses Szenario absurd und grotesk findest, dann sieh dir nur mal an, was schon jetzt mit Text, Bildern und Videos gemacht wird: In welcher Hinsicht wäre Poddytraining anders oder schlechter als das, was Menschen, die sich über Social-Media-Feeds mit der Welt verbinden, schon jetzt über sich ergehen lassen?

Derzeit sind Podcasts auf Stores und Abos angewiesen, was bedeutet, dass sie sich eine Struktur von Mensch zu Mensch bewahren, statt einer Struktur von Mensch zu Gruppe/Algorithmus/verdecktem Manipulator.

Erfreue dich an Podcasts, so lange das noch möglich ist. Bitte achte darauf, wie sich die Dinge entwickeln, und wenn auch Podcasts ruiniert werden, hör auf, welche aufzunehmen oder dir anzuhören. Und denk immer daran, dass du nur einen sehr geringen Einfluss hast auf die Bedeutung dessen, was du dem BUMMER-Monster in den Rachen wirfst.

6

Social Media tötet dein Mitgefühl

Dieses Kapitel ist eine logische Folge der Aussage aus dem vorigen Kapitel, dass Social Media dem, was du sagst, die Bedeutung nimmt. Entsprechend werden die Äußerungen von anderen auch für dich bedeutungslos, weswegen du kaum noch verstehen kannst, was sich bei ihnen abspielt.

Vielleicht erinnerst du dich, dass BUMMER-Komponente C – »Aufgezwungene Inhalte« – bedeutet, dass Algorithmen bestimmen, was du zu sehen bekommst. Das bedeutet wiederum, dass du nicht weißt, was andere zu sehen bekommen, weil Komponente C für sie andere Ergebnisse berechnet. Du kannst also nicht wissen, inwieweit die Sicht der Welt anderer Menschen durch BUMMER verzerrt und geprägt wird. Die Ursache dieses Problems sind personalisierte Suchen, Feeds, Streams und so weiter.

Nehmen wir an, ein Behaviorist der alten Schule würde in einem Labor eine Reihe von Käfigen mit Hunden aufstellen, und jeder Hund bekäme Leckerbissen oder Elektroschocks, je nachdem, was er gerade getan hat. Das Experiment würde nur funktionieren, solange die Reize mit dem Verhalten des jeweiligen Hundes verknüpft wären. Wenn die Drähte versehentlich vertauscht würden, sodass jeder Hund die Reize für einen anderen Hund zu spüren bekommen würde, würde das Experiment nicht mehr funktionieren.

Genau so ist es mit Menschen auf einer BUMMER-Plattform.

Die Folgen sind für sie allerdings noch gravierender als für Hunde, da sie sich nicht in separaten Käfigen befinden und daher unbedingt auf soziale Wahrnehmung angewiesen sind.

Damit ist gemeint, dass jeder Mensch auf die Reaktionen von anderen achtet, da ihm das hilft, sich zurechtzufinden. Wenn alle in deinem Umfeld aus irgendeinem Grund nervös sind, wirst du auch nervös werden, weil anscheinend irgendwas nicht stimmt. Wenn alle entspannt sind, wirst du dich wahrscheinlich auch entspannen.

In meiner Kindheit haben wir den Leuten gerne einen Streich gespielt: Wir gingen irgendwohin, wo viele Menschen waren, und fingen einfach an, in den Himmel zu gucken. Sofort sahen auch alle anderen angestrengt in den Himmel – obwohl es da überhaupt nichts zu sehen gab.

In ein Land zu reisen, dessen Sprache du nicht beherrschst, ist eine ausgezeichnete Möglichkeit, um sich die soziale Wahrnehmung bewusst zu machen. Du wirst feststellen, dass du plötzlich sehr sensibel auf das reagierst, was andere Leute tun und worauf sie achten, weil das deine einzige Chance ist, mitzukriegen, was gerade vor sich geht. Als ich einmal in Thailand auf einer Trekking-Tour durch den Dschungel war, ist mir irgendwann aufgefallen, dass unsere thailändischen Führer sich ständig umsahen. Also habe ich mich ebenfalls immer wieder umgesehen und konnte dann gerade noch zur Seite zu springen, als hinter uns wie aus dem Nichts eine Kolonne von Militärjeeps auftauchte und an uns vorbeiraste. Soziale Wahrnehmung hat mir das Leben gerettet. Sie war schon immer ein Teil der Überlebensstrategie des Menschen.

Wenn jedoch jeder von uns eine andere, private Welt zu sehen bekommt, dann verlieren unsere wechselseitigen Signale ihre Bedeutung. Unsere Wahrnehmung der Realität jenseits der BUMMER-Plattform wird beeinträchtigt.

Es gibt viele aktuelle Beispiele für dieses Phänomen, so zum Beispiel den Vorfall, bei dem jemand in einer Pizzeria einen Schuss abfeuerte, weil er aufgrund von Online-Gerüchten davon überzeugt war, dass jemand im Keller des Lokals einen Kindersexring betrieb.[64]   Auch vor BUMMER hat es schon falsche Gerüchte gegeben, die sich durch kollektiven Wahnsinn wie ein Lauffeuer ausgebreitet haben – zum Beispiel jene, die zu den Hexenprozessen von Salem führten. Früher waren solche akuten Ausbrüche jedoch seltener als heute. Die Geschwindigkeit, mit der sich falsche soziale Wahrnehmungen ausbreiten, ihre Idiotie und Dimension werden heute durch die BUMMER-Maschinerie so massiv verstärkt, dass die Menschen manchmal gar nicht mehr in derselben Welt – nämlich der realen Welt – zu leben scheinen.

Dies ist ein weiteres jener inzwischen offensichtlichen Probleme, die sich heimlich an uns herangeschlichen haben. Der öffentliche Raum schrumpft, aber auch die gesellschaftliche Gemeinsamkeit überhaupt hat an Wert verloren.

Ein Gedankenexperiment mag verdeutlichen, wie verrückt unsere Situation geworden ist: Kannst du dir vorstellen, wie es wäre, wenn Wikipedia jedem Nutzer eine andere Version eines Artikels präsentieren würde, und zwar aufgrund eines heimlich angelegten Profils der betreffenden Person? Ein Trump-Fan würde einen völlig anderen Artikel zu lesen bekommen als ein Trump-Gegner, aber es würde nirgendwo festgehalten werden, welche Unterschiede es zwischen diesen Versionen gäbe und warum.

Das mag sich vielleicht dystopisch oder grotesk anhören, aber es entspricht ungefähr dem, was du heute in deinem BUMMER-Feed zu sehen bekommst. Die Inhalte werden für dich ausgesucht und die Anzeigen auf dich zugeschnitten, und du weißt nie, wie viel davon für dich geändert worden ist oder warum.

Eine andere Sicht auf das Problem erhält man, wenn man an öffentliche Räume denkt. Wenn du in einem Raum mit Leuten zusammen bist, die nicht auf ihre Smartphones starren, dann seid ihr alle gemeinsam in diesem Raum. Ihr habt eine gemeinsame Wahrnehmungsbasis. Das kann ein wunderbares Gefühl sein und es ist ein wichtiger Grund dafür, warum so viele Menschen in einen Verein eintreten, zum Fußball gehen oder in die Kirche.

Wenn sich jedoch alle unaufhörlich mit ihrem Smartphone beschäftigen, kannst du kaum ein Gefühl dafür bekommen, was in ihnen vor sich geht. Ihre Gefühle werden durch weit entfernte Algorithmen gesteuert. Zwischen dir und ihnen kann keine ungestörte Gemeinsamkeit aufkommen, solange die Smartphones nicht beiseite gelegt werden.

Es gibt nach wie vor Spuren der alten, gemeinsam erlebten Welt. Du kannst dir altmodische Fernsehnachrichten ansehen, die sich Menschen ansehen, die so sind wie du – oder solche, die sich Menschen ansehen, die anders sind als du. Ich halte zum Beispiel nichts von den Fox-News-Nachrichten in den USA, weil sie mir zu paranoid, tendenziös und launenhaft sind. Aber hin und wieder sehe ich sie mir an, weil sie mir helfen, besser zu verstehen, was ein typischer Fox-News-Zuschauer denkt und fühlt. Diese Möglichkeit ist mir sehr wichtig.

Ich habe jedoch keine Möglichkeit, deinen Social-Media-Feed zu sehen. Daher sind meine Fähigkeiten, nachzuvollziehen, was du denkst und fühlst, eingeschränkt. Wir müssen nicht alle das Gleiche sehen, um uns verstehen zu können – nur altmodische, autoritäre Regime versuchen, alle Menschen das Gleiche sehen zu lassen. Aber wir müssen durchaus in der Lage sein, einen Eindruck von dem zu bekommen, was andere sehen.

Empathie[65]   ist der Treibstoff einer anständigen Gesellschaft. Ohne Empathie bleiben nur noch trockene Vorschriften und Machtkämpfe übrig.

Vielleicht bin ich dafür verantwortlich, den Begriff Empathie in die Sprache des Hightech-Marketing eingeführt zu haben, da ich schon in den achtziger Jahren begonnen habe, darüber zu sprechen, Virtual Reality (VR) als Empathie-Tool einzusetzen. Wenn in einer zukünftigen, besseren Gesellschaft Technologien überhaupt eine Bedeutung haben werden, dann wird Empathie dabei eine Rolle spielen.

Die BUMMER-Maschine ist jedoch präzise darauf abgestimmt, die Empathie-Fähigkeit der Menschen zu zerstören.

Digital erzeugte gesellschaftliche Abstumpfung

Eine oft geäußerte und zutreffende Kritik an der BUMMER-Maschine ist, dass sie Filterblasen erzeugt.[66]   Deine eigenen Ansichten werden bestätigt, außer wenn dir die – von Algorithmen berechneten – irritierendsten Versionen gegensätzlicher Meinungen präsentiert werden. Sanftes Geplätscher oder wüstes Geschrei: was immer deine Aufmerksamkeit am besten fesselt.

Du wirst dabei mit Menschen in die Manege geführt, die mit dir zusammen – als Gruppe – optimal in den Bann der Maschine gezogen werden können. BUMMER-Algorithmen tendieren automatisch dazu, Menschen in Blasen zusammenzuführen, weil es effektiver und wirtschaftlicher ist, eine Gruppe zu fesseln, als das Interesse jeder einzelnen Person zu verstärken.

(Aber noch mal zur Erinnerung: Eigentlich ist der richtige Begriff nicht »in den Bann ziehen« oder »fesseln«, sondern »manipulieren«, da das im Dienste unbekannter Dritter gemacht wird, die BUMMER-Konzerne dafür bezahlen, dein Verhalten zu verändern. Denn wofür sollten sie sonst bezahlen? Wie könnte Facebook denn sonst erklären, dass es zig Milliarden Dollar einnimmt – wofür?)

Auf den ersten Blick sind Filterblasen schlecht, weil du die Welt nur noch mit Scheuklappen siehst. Aber sind sie wirklich neu? Natürlich gab es auch schon vor BUMMER schädliche und ärgerliche Formen ausschließender sozialer Kommunikation, zum Beispiel den Einsatz rassistischer Vorurteile für politische Zwecke.

So wurde im US-Präsidentschaftswahlkampf 1988 von Politikern gern die Geschichte eines afroamerikanischen Häftlings namens Willie Horton verbreitet, der bei mehreren Freigängen weitere Straftaten begangen hatte. Damit sollte der latente Rassismus ihrer Wähler geschürt werden. In diesem Fall allerdings konnte jeder diese Aussagen hören oder lesen, sodass du zumindest ein Gefühl dafür bekommen konntest, warum jemand darauf mit rassistischen Äußerungen reagiert, auch wenn du selbst völlig anderer Meinung bist.

Heute hingegen bekommt nur ein bestimmter Kreis von Rezipienten solche rassistischen Aussagen zu sehen, weil sie häufig in Form sogenannter »Dark Ads« auftreten, die im News-Feed einer Person auftauchen, obwohl sie formal nicht als News-Meldung veröffentlicht werden.[67]   Von zahlreichen dieser extremistischen politischen Dark Ads haben wir nur erfahren, weil es zu Ermittlungen über eine möglicherweise illegale Einflussnahme im US-Präsidentschaftswahlkampf 2016 kam.[68]   Diese Dark Ads waren aufdringlich, krass und toxisch, und Facebook hat angekündigt, sie einzudämmen. Die Maßnahmen sind aber bisher noch nicht umgesetzt worden.

Während außerhalb – oder vielleicht auch innerhalb – von Facebook niemand weiß, wie häufig Dark Ads und ähnliche Botschaften platziert worden sind und welche Wirkung sie erzielt haben,[69]   so zeigt sich hier doch die häufigste Form eines eingeengten Online-Blickfelds: Die meisten Leute haben nicht genug Zeit, um sich etwas anderes anzusehen als das, was ein von Algorithmen berechneter News-Feed ihnen vorsetzt.

Ich habe mehr Angst vor der Feinabstimmung von Feeds durch Algorithmen als vor aufdringlichen Dark Ads. Früher war es unmöglich, in Sekundenschnelle maßgeschneiderte Botschaften an Millionen Menschen zu verschicken. Früher war es unmöglich, eine Vielzahl verschiedener, maßgeschneiderter Botschaften zu entwickeln und zu testen, auf der Grundlage von detaillierter Observierung und Feedback ahnungsloser Menschen, die ständig überwacht werden.

Es könnte sich zum Beispiel herausstellen, dass eine bestimmte Schriftart in der Bildunterschrift eines Fotos von einer Person an einem bestimmten Tag dazu geführt hat, dass ein kleiner Prozentsatz der Menschen, die dieses Foto gesehen haben, dieser Person ein kleines bisschen weniger vertrauen. Vielleicht ist diese Schriftart am selben Tag in einem Video über ein unerfreuliches Thema aufgetaucht. Freilich wird niemand jemals erfahren, warum diese Schriftart diese Wirkung hat. Es ist alles Statistik.

Die Ergebnisse zeigen sich in allmählichen winzigen Änderungen des Verhaltens von Menschen. Doch kleine Änderungen kumulieren sich, wie Zins und Zinseszins.

Dies ist einer der Gründe, warum BUMMER automatisch eine falsche Identitätspolitik fördert und tiefe Risse in die Gesellschaft treibt, selbst wenn die Techies der BUMMER-Konzerne die besten Absichten haben. Damit ein BUMMER-Programmcode sich selbst optimieren kann, konzentriert er sich ganz natürlich und automatisch auf latent vorhandenes Stammesdenken und Rassismus, weil dies die neuronalen Hashtags sind, die in der Psyche eines jeden Menschen lauern und die für die Zwecke eines Aufmerksamkeitsmonopols angesprochen werden können. (Auf dieses Problem werde ich im neunten Kapitel näher eingehen, bei dem es darum geht, wieso Social Media gesellschaftlichen Fortschritt unmöglich macht.)

So wird nicht nur deine Sicht der Welt verzerrt, du kannst dir auch die Perspektiven anderer nicht mehr bewusst machen. Vielmehr wirst du von den Erfahrungen anderer Gruppen ferngehalten, die separat manipuliert werden. Ihre Eindrücke sind ebenso unsichtbar für dich wie die Algorithmen, die deinen eigenen Feed hervorbringen.

Dies ist eine epochale Entwicklung: Die Version der Welt, die du zu sehen bekommst, ist unsichtbar für die Menschen, die dich nicht verstehen, und umgekehrt.

Die verlorene Theorie in deinem Gehirn

Für die Fähigkeit, eine Theorie zu bilden über das, was ein anderer Mensch erlebt, weil du diesen Menschen besser verstehen willst, gibt es einen Namen: Theory of Mind. Eine Theory of Mind zu haben bedeutet, in deinem Kopf eine Geschichte über das zu entwickeln, was im Kopf eines anderen Menschen vor sich geht. Eine Theory of Mind ist die Basis für Gefühle wie Respekt und Empathie, und sie ist eine Voraussetzung für jegliche intelligente Kooperation, sinnvolle Politik oder Zivilisiertheit. Sie ist der Grund, warum es Geschichten gibt.

Vielleicht kennst du die Redensart »Um einen Menschen beurteilen zu können, musst du einen Tag lang in seinen Schuhen gegangen sein.« Du kannst jemanden nicht verstehen, wenn du nicht zumindest ein bisschen was darüber weißt, was er erlebt hat. Die meisten Tiere kommen ohne eine Theory of Mind aus, aber der Mensch braucht sie.

Wenn du nur das Verhalten eines Menschen sehen kannst und nicht die Erfahrungen, die sein Verhalten beeinflussen, wird es dir schwer fallen, eine Theory of Mind über diese Person zu entwickeln. Wenn du zum Beispiel siehst, dass ein Mensch einen anderen schlägt, aber nicht gesehen hast, dass er so ein Kind verteidigen wollte, könntest du die Situation falsch interpretieren.

Entsprechend könnte dir eine Person einfach nur verrückt vorkommen, wenn du nicht die Dark Ads, das Flüstern im Hintergrund und die kaltherzigen Meme in dem von Boshaftigkeit triefenden maßgeschneiderten Feed sehen kannst, der dieser Person angezeigt wurde.

Das ist unsere neue BUMMER-Welt: Wir halten uns gegenseitig für verrückt, weil BUMMER uns unserer Theorien über das Verhalten von anderen beraubt.

Selbst wenn die Erfahrungen anderer mit versteckter Kamera gefilmt werden, etwa mit einem Smartphone oder einer Dashcam, erzeugt BUMMER so viel Hintergrundrauschen, dass jede Gemeinsamkeit zerstört wird. Die von der BUMMER-Maschine erzeugte Intransparenz zeigt sich ständig: Wenn zum Beispiel ein Video die Sekunden vor dem Todesschuss eines Polizisten zeigt, bringt BUMMER die Leute dazu, endlose Varianten dieses Videos hochzuladen, mit diversen Edits, Overlays und Verfälschungen. Jeder Anflug von Empathie verliert sich im Rauschen.

Trump-Unterstützer sind für mich Verrückte, und sie wiederum halten Liberale für verrückt. Aber es wäre falsch, zu sagen, wir hätten uns auseinandergelebt und könnten uns nicht mehr verstehen. Tatsache ist, dass wir immer weniger von dem zu sehen bekommen, was die anderen sehen, und wir damit auch immer seltener die Möglichkeit bekommen, einander zu verstehen.

Natürlich kannst du dir zumindest einen Teil der typischen Inhalte, die andere wahrscheinlich gezeigt bekommen, ansehen. Ich besuche zum Beispiel regelmäßig konservative News-Sites. Ich versuche immer, persönlichen Kontakt zu Menschen herzustellen, die anderer Meinung sind als ich, wenn sie dazu bereit sind.[70]   Auf Reddit gibt es sogar eine nette Community, die das gleiche Anliegen hat,[71]   aber leider in einem Ozean aus Gift untergeht.

Es ist nicht möglich, zu bestimmen, wie verschieden das, was jemand anders zu sehen bekommt, von dem ist, was ich mir vorstelle, was er sieht. Die Intransparenz unserer Zeit ist umso schlimmer, weil nicht zu erkennen ist, wie intransparent sie ist. Ich kann mich noch gut an die Zeit erinnern, als wir darauf vertrauten, dass das Internet eine transparente Gesellschaft hervorbringen würde. Tatsächlich ist inzwischen jedoch das Gegenteil der Fall.

7

Social Media macht dich unglücklich

Warum enden so viele berühmte Tweets mit dem Wort »traurig«?

In der fröhlichen Rhetorik der BUMMER-Unternehmen geht es immer um Freunde und weltweite Vernetzung. Die Wissenschaft aber enthüllt[72]   die[73]   Wahrheit.[74]   Studien[75]   zeigen keineswegs eine immer besser vernetzte Welt,[76]   sondern vielmehr eine, in der das Gefühl der Vereinsamung immer mehr zunimmt.[77]

Das Muster[78]   ist so klar,[79]   dass selbst unternehmenseigene Studien der Social-Media-Konzerne zu dem Ergebnis kommen, dass sie ihre Nutzer traurig machen. Facebooks Wissenschaftler prahlen[80]   praktisch damit, dass sie ihre Nutzer unglücklich machen können, ohne dass diese selbst den Grund dafür ahnen.[81]

Warum sollte man so etwas als großartiges Forschungsergebnis herausposaunen? Schädigt das nicht das Markenimage von Facebook? Der Grund ist wohl, dass es in Wirklichkeit sehr gute Werbung war – für die echten Nutzer, die Kunden, die zahlen, um zu manipulieren. Derjenige, der manipuliert wird, nämlich du, ist Produkt, nicht Kunde.

Kürzlich haben Facebooks Wissenschaftler auch endlich bestätigt,[82]   was ihre unabhängigen Kollegen herausgefunden haben: dass ihre Produkte echten Schaden anrichten können.

An der Art, wie die Betreiber von Social-Media-Netzwerken über dieses Problem reden, ärgert mich hauptsächlich ihre Behauptung: »Ja, wir können dich unglücklich machen, aber insgesamt tun wir mehr Gutes als Böses in der Welt.« Das Gute aber, mit dem sie sich brüsten, besteht in Wirklichkeit aus Eigenschaften des Internets selbst, und das könnte man – soweit wir wissen – ja auch ohne das Böse haben, ohne BUMMER. Ja, es ist toll, wenn Menschen miteinander vernetzt werden,[83]   aber warum sollten sie die Manipulation durch Dritte als Preis für diese Vernetzung hinnehmen? Was, wenn die Manipulation, nicht die Vernetzung, das eigentliche Problem wäre?[84]

Zu Anfang dieses Kapitels habe ich einige Quellen angeführt, die beschreiben, wie Social Media dich unglücklich macht, selbst wenn es dich scheinbar glücklich macht, dich mit anderen Menschen über das Internet zu verbinden. Doch die Fülle an Belegen ist überwältigend. Gib es einfach mal in eine Suchmaschine ein. (Sei dir dabei aber bewusst, dass du dadurch deinen Feed beeinflusst; du wirst womöglich als potenziell depressiv eingeordnet – nicht unbedingt explizit, aber implizit, durch Assoziationen –, und Manipulatoren könnten versuchen, sich das, mit Hilfe von Algorithmen, zunutze zu machen, was wiederum dich deprimieren könnte.)

Lies die Aufsätze in den Fußnoten, um dich mit Studien vertraut zu machen, die die These unterstützen, dass Social Media dich unglücklich macht. Dort findest du auch verschiedene Hypothesen, warum das so ist: die Herausbildung unrealistischer Schönheits- und Statusideale zum Beispiel, oder die Gefahr von Troll-Angriffen.

Warum gibt es so viele unterschiedliche Methoden, die User zu manipulieren? Würde eine nicht genügen? Nein, denn die Kernstrategie des BUMMER-Geschäftsmodells lautet, dass das System sich automatisch so anpassen soll, dass du so weit wie möglich hineingezogen wirst. Und weil negative Emotionen leichter auszunutzen sind, wird ein solches System unvermeidlich viele Wege finden, um deine Stimmung zu senken. Es wird zwischen den Tiefpunkten aber auch kleine Belohnungen[85]   einstreuen, weil der Autopilot, der an deinen Emotionen zerrt, merken wird, dass der Wechsel zwischen Belohnung und Bestrafung wirksamer ist als Belohnung oder Bestrafung allein. Eine Begleiterscheinung der Sucht ist die Anhedonie (Lustlosigkeit), eine Verminderung der Fähigkeit, die Freuden des Lebens ohne das Suchtmittel zu genießen. Tatsächlich scheinen Social-Media-Süchtige langfristig vermehrt von Anhedonie betroffen zu sein.[86]

Selbstverständlich machen die BUMMER dich unglücklich. Aber wie? Die jeweilige Form des Unglücks wird natürlich speziell auf dich zugeschnitten. Die Menschen hinter den BUMMER-Unternehmen brauchen gar nicht zu wissen, was genau dich runtergezogen hat. Das weißt nur du selbst, sozusagen ein letzter Rest Privatsphäre. Vielleicht fürchtest du, nicht so attraktiv oder erfolgreich zu sein wie andere, die dir vorgeführt werden, während du selbst gleichzeitig dazu missbraucht wirst, unbekannten anderen Nutzern ebendieses Gefühl zu vermitteln.

Laut den Forschungsergebnissen gibt es gewisse Trends bei den Formen des Unglücklichseins durch Social Media, also könnte ich begründete Vermutungen anstellen, was in dir vorgeht. Möglicherweise hast du, gemessen an der Zeit, die du mit Sex-Apps verbringst, weniger Sex, als du dir wünschst.[87]   Stattdessen sitzt du da und wischst auf deinem Display herum. Möglicherweise verbringst du weniger Zeit mit deiner Familie als damit, dein harmonisches Familienleben in den sozialen Netzwerken zu präsentieren.[88]   Möglicherweise steigt dein Risiko, dir selbst etwas anzutun, je intensiver du Social Media nutzt, besonders, wenn du eine junge Frau bist.[89]   Möglicherweise empfindest du traumatische Erlebnisse stärker, wenn du Social Media nutzt.[90]   Möglicherweise schwindet dein Selbstvertrauen, wenn du dich im Internet darstellst.[91]

Das alles könnte ich vermuten, doch das ist nicht der Ansatz, den ich wählen möchte. Ich kenne dich ja nicht. Studien weisen lediglich statistische Tendenzen nach, und du bist vielleicht eine Ausnahme. Es ist nicht meine Aufgabe, herumzuraten, was das Richtige für dich ist.

Das falsche Ende des BUMMERs

Ich möchte dir stattdessen schildern, wie ich darauf gekommen bin, dass mich bestimmte Dinge im Internet, besonders Social Media, unglücklich machen. Meine Unzufriedenheit begründet sich aus allen Argumenten, die ich bereits angeführt habe: BUMMER drängt mich in die Position eines Untergebenen. Schon seine Struktur ist eine Demütigung.

Was mich dabei so runterzieht, ist keine bestimmte Form der Darstellung – etwa, dass alle anderen Nutzer sich als wohlhabender, glücklicher und sorgloser präsentieren, als sie in Wirklichkeit sind –, sondern der Kern des BUMMER-Systems. Es macht mich unglücklich, süchtig zu sein und manipuliert zu werden, aber es steckt noch mehr dahinter. BUMMER gibt mir das Gefühl, in einem unfairen und erniedrigenden Wettbewerb gefangen zu sein, der keinem sinnvollen Zweck dient.

Aufgefallen sind mir diese negativen Eindrücke schon bei den Anfängen von Social Media, die bis in die achtziger Jahre zurückreichen. Selbst bei urtümlichen Formen der Vernetzung wie Usenet stellte ich nach der Sitzung ein seltsames, fremdartiges, hohles Gefühl in mir fest. Es war etwas, das ich zuletzt als Kind gefühlt hatte, eine tiefgreifende Verunsicherung, die Befürchtung, durchzufallen, abgelehnt zu werden. Wie aus dem Nichts war es wieder da.

Ich dachte, das müsse an mir liegen, denn die Vernetzung über Usenet war doch ein großer technischer Fortschritt, es musste daher doch besser sein als primitive, analoge Medien wie Telefon und Zeitung.

Dieses Gefühl fiel zwar zeitlich mit der Entdeckung meines inneren Trolls zusammen, den ich bereits im Kapitel über Arschlöcher beschrieben habe, wurde aber auch unabhängig davon ausgelöst. Ich fing an, mich selbst als Versuchsperson zu sehen. Wenn ich mich nach der Nutzung einer Website schlecht fühlte, fragte ich mich, welche besonderen Eigenschaften sie hatte. Worin unterschied sie sich von anderen Websites, die mich glücklich machten? Dabei fand ich unter anderem heraus, dass es mir nichts ausmacht, beurteilt und eingestuft zu werden, wenn die Beurteilenden sich wirklich Mühe geben und das Ergebnis einem ehrlichen und höheren Zweck dient. Aber ich mag es absolut nicht, wenn eine Masse von Nutzern mich gedankenlos abschätzt oder ein dämlicher Algorithmus Macht über mich hat.

Ich mag es nicht, wenn ein Programm zählt, ob ich mehr oder weniger Freunde als andere habe, ob ich beliebt bin oder auf irgendeine Art besser und cooler, ob ich Chancen habe, reich zu werden, oder was auch immer. BUMMER-Algorithmen müssen dich aber in solche Kategorien einordnen und in Rangordnungen stellen, eben weil sie BUMMER sind. Der ganze Sinn von BUMMER besteht darin, dich und dein Verhalten zu einem Produkt umzuformen. Diese Algorithmen arbeiten grundsätzlich für die Betreiber der Plattformen und ihre Anzeigenkunden, und diese Parteien brauchen dich in Form von Zahlenwerten, um dich manipulieren zu können.

Die BUMMER-Algorithmen von Unternehmen wie Facebook und Google sind in einigen der ganz wenigen spionagesicheren Dateien weltweit gespeichert. So geheim sind sie! Selbst die größten Geheimnisse der NSA[92]   und der CIA[93]   sind geleakt worden, und zwar wiederholt, aber du wirst im Darknet weder den Suchalgorithmus von Google noch den Feed-Algorithmus von Facebook finden.[94]

Das liegt zum Teil daran, dass die Öffentlichkeit ziemlich beunruhigt wäre, wenn bekannt werden würde, wie heutige KI- und andere hochgelobte Cloud-Programme wirklich arbeiten. Die Menschen würden nämlich merken, wie willkürlich deren Ergebnisse oft sind. (Diese Willkür wird im ersten Kapitel erklärt.) Die Algorithmen sind nur teilweise nützlich, nur für die Statistik, und doch reicht selbst dieser geringe Nutzen, um die größten Vermögen unserer Zeit damit zu scheffeln.

Mir aber geht es nicht einmal um die Programme, so überschätzt sie auch sein mögen, sondern um das Machtgefälle, das entsteht, weil die Nutzer diese Programme akzeptieren und implizit respektieren.

Es hat schon immer jemanden gegeben, der übertriebene und lächerliche Behauptungen und Meinungen über dich in die Welt gesetzt hat, aber sie haben nie viel Schaden angerichtet. Ein Beispiel ist das altmodische Horoskop in der Tageszeitung. Kein Unternehmen konnte deine Klicks oder Augenbewegungen mitverfolgen, also wusste auch niemand, was genau du liest. Wenn du also das Horoskop liest (was ich – tut mir leid, falls du an Astrologie glaubst – ziemlich lächerlich finde), was macht das schon?

Vielleicht hast du dabei wirklich in die Zukunft schauen wollen, vielleicht fandst du es einfach interessant, dass da beliebige Behauptungen über dich aufgestellt wurden, vielleicht war das Horoskop für dich auch nur ein Witz, ganz lustig eben. Was auch immer – es blieb eine Interaktion zwischen dir und einem unbelebten Objekt, die nur derjenige mitbekam, dem du selbst davon erzählt hast.

Das Zeitungshoroskop bewirkte nur in deinem Kopf etwas. Das Machtverhältnis zwischen dir und anderen konnte es nicht beeinträchtigen.

Heute, im Zeitalter von BUMMER, ist das anders. Nehmen wir statt der gedruckten Zeitung einen Internetdienst, und nehmen wir statt Horoskopen eine Liste von Ansichten über dich: über deine Gesundheit, deine Arbeitseinstellung, deine Chancen auf dem Datingmarkt oder etwas in der Art. Facebook zum Beispiel stuft dich je nach deiner politischen Einstellung und vielen anderen Faktoren in bestimmte Kategorien ein.[95]   Diese Kategorien sind die Antwort von BUMMER auf das Horoskop von gestern.

Die Beurteilungen der BUMMER-Algorithmen, nach denen du klassifiziert wirst, sind im wissenschaftlichen Sinn weder relevant noch zuverlässig, aber im realen Leben zählen sie sehr wohl. Sie beeinflussen, welche Nachrichtenmeldungen du zu sehen bekommst, wer dir als potenzielles Date vorgestellt wird, welche Produkte man dir anbietet. Beurteilungen aufgrund sozialer Netzwerke entscheiden womöglich, ob dir ein Kredit gewährt wird,[96]   ob du in ein Land einreisen darfst,[97]   ob du einen bestimmten Job bekommst,[98]   ob dir ein Studienstipendium gewährt wird,[99]   ob dein Versicherungsanspruch ausgezahlt wird[100]   und mit wem du dich treffen kannst.[101]   (In vielen dieser Beispiele wenden Dritte ihre eigenen Beurteilungsalgorithmen auf BUMMER-Daten an, anstatt sich direkt auf die von den BUMMER-Unternehmen angewandten Kategorien zu stützen.)

Deine kleinen Eigenarten und Macken liegen zum ersten Mal unter dem Mikroskop von Mächten, die größer sind als du, außer du hast in einem Polizeistaat wie der DDR oder Nordkorea gelebt.

Dass ich mir keinen Freiraum mehr schaffen und mich darin ungestört neu erfinden kann, ohne ständig beurteilt zu werden – das macht mich unglücklich. Wie kann man Selbstvertrauen aufbauen, wenn es nicht länger üblich ist, zuerst einmal sich selbst zu vertrauen?

Wie kann man glücklich sein, wenn man kein authentisches Selbstvertrauen mehr hat? Wie kann man authentisch sein, wenn alles, was man liest, sagt oder tut ständig in eine Beurteilungsmaschine eingespeist wird?

Um es deutlich zu sagen: Es gibt zwei Ebenen der Beurteilung in der BUMMER-Maschinerie. Die eine kann man als Mensch verstehen, und sie ist für Menschen sichtbar. Das Internet ist voller Meinungen über dich, ja dich ganz persönlich, jetzt gerade. Wie viele Freunde, wie viele Follower? Bist du angesagt? Wie viele Punkte hast du bekommen? Hast du einen virtuellen goldenen Stern oder vielleicht virtuelles Konfetti von einem Internetversand bekommen, weil du ihm neue Kunden eingebracht hast?

Die andere Beurteilungsebene beruht auf mathematischen Korrelationen, die womöglich nie ein Mensch zu sehen bekommt und die er auch nicht verstehen würde. Sie werden mitunter als »intermediate-layer interpretations« bezeichnet, weil sie durch lernfähige Algorithmen generiert werden. Sie dienen zur Optimierung der BUMMER-Tricks: Welche Anzeigen wirken am wahrscheinlichsten auf dich, welche Nachrichtenartikel, welche niedlichen Katzenbilder in der WhatsApp-Familien-gruppe?

Wie auch immer das im Detail aussieht – mach dir klar, was hier geschieht. Auf einmal steckst du mit anderen in einem Haufen dämlicher Wettbewerbe, um die niemand gebeten hat. Warum bekommst du weniger coole Bilder zugeschickt als dein Freund? Warum hast du weniger Follower? Diese konstante Dosis sozialer Versagensangst bindet die Nutzer stärker an Social Media. Tiefsitzende Mechanismen in den für das Soziale zuständigen Teilen unseres Gehirns überwachen ständig unser Prestige, machen uns Angst, wir könnten zurückbleiben wie eine Missgeburt, die von der weiterziehenden Horde in der Savanne ausgesetzt wird, den Raubtieren zum Fraß.

Mir ist schon lange klar, dass ich nicht benotet und eingestuft werden möchte, außer wenn es einem bestimmten Zweck dient, dem ich bewusst zustimme. Wenn ich zum Beispiel Fördergelder für ein Forschungsprojekt beantragen möchte, muss ich mich mit anderen Bewerbern messen und weiß, dass mein Projekt mit in ein Ranking eingeht. Aber wie kann es irgendein blöder Algorithmus wagen, mich ungebeten in eine Rangfolge einzustufen?

Doch so lächerlich diese Benotungen auch sind – ich kann sie nicht einfach übergehen. In mir wohnt dieser kleine Dämon, der will, dass ich besser dastehe als die anderen. Vermutlich haben die meisten von uns so einen.

Wenn ich sehe, dass Wie-heißt-er-gleich gerade als beliebter/intelligenter/vernetzter/wertvoller/wasauchimmer als ich eingestuft worden ist, sagt der kleine Dämon: »Das wollen wir doch mal sehen.« Ich verspüre den Drang, etwas zu unternehmen: entweder das Spiel zu gewinnen oder mir ein anderes Spiel zu suchen.

Solange man in BUMMER bleibt, kann man dem Spiel nicht entkommen. Es gibt eine Million BUMMER-Spiele, die überall gleichzeitig laufen, und du bist in den meisten der Verlierer, weil du gegen die gesamte Weltbevölkerung antrittst. Die Gewinner werden außerdem meist durch den Zufall bestimmt.

Das ist so, als wenn statt eines einzelnen Fußballspiels mit zwei Mannschaften eine große, endlose Partie mit der ganzen Welt stattfindet, bei der jeder gegen jeden antritt und die meisten immer verlieren. Der schlimmste Sport aller Zeiten.

Noch schlimmer ist, dass es einige wenige Menschen gibt, Silicon-Valley-Typen wie mich, die dabei auf dich herabschauen, die mehr als du oder deine Freunde sehen – und dich manipulieren.

Der Blick von oben

Diese Tatsache wurde mir durch ein Erlebnis klar, das ich hatte, als Google noch neu und ein kleines Unternehmen war. Ich hatte im damaligen Firmensitz (Prä-Googleplex) zu tun, und ein Freund, einer der ersten Programmierer dort, erzählte mir von einer E-Mail, die eine verärgerte Frau ihnen geschrieben hatte: Wann immer jemand den Namen der Betreffenden googelte, tauchte als erstes Suchergebnis ein widerlicher Post auf, in dem es hieß, sie stehe auf Urin.

Für die damalige Google-Belegschaft war das ein interessanter Augenblick. Sollten sie die verzweifelten Bitten der Frau erhören und ihr aus dieser Lage heraushelfen, oder sollten sie darauf vertrauen, dass dieser kleine Kollateralschaden letztlich durch den Nutzen für das große Ganze aufgewogen werden würde?

Dieses Problem ist heute ein alter Hut, aber es ruiniert immer noch das Leben von Betroffenen. Uber, ein Pseudo-BUMMER, nannte die Fähigkeit, Kunden ungesehen und lückenlos zu überwachen, den »Gottesblick«.[102]

Von der wundersamen gottgleichen Warte des Silicon Valleys herab können Menschen wie Algorithmen ständig mitverfolgen, wer wann was geschrieben hat, und wer es wann angeklickt und gelesen hat. Wir sehen den ganzen Ablauf, als wenn wir einen Ameisenhügel beobachten würden. Und die kleinen Ameisen wissen das sogar. Sie wissen, dass sie beobachtet werden. Die Frau flehte in ihren E-Mails an Google immer dringlicher um Hilfe. Manchen Google-Mitarbeitern tat sie damals leid, andere lachten über sie.

Dieses Gefühl, wie eine Ameise von angeblich übermächtigen Wesen beobachtet zu werden, die in Wirklichkeit überhaupt nicht übermächtig sind, sondern einfach die Klassenkameraden von früher, die zufällig einen BUMMER-Arbeitsplatz ergattert haben … dieses Gefühl ist demütigend und deprimierend.

Ich möchte dich nochmals daran erinnern, dass negative Emotionen leichter auszunutzen sind und die Nutzer eher an BUMMER fesseln als positive.

Wenn alle Durchschnittsmenschen glücklich und zufrieden wären, würden sie sich womöglich von ihrer Social-Media-Besessenheit losreißen und auf einer Blumenwiese herumtollen oder sich sogar gegenseitig ein bisschen Aufmerksamkeit schenken. Aber wenn sie alle nur daran denken, ob sie auch beliebt genug sind, und sich Sorgen machen, dass die Welt untergehen könnte, oder wütend über Trolle sind, die plötzlich in ihren Gesprächen mit Freunden und Angehörigen auftauchen, dann wagen sie es nicht, sich auszuklinken. Sie hängen fest, weil ihr natürliches Misstrauen geweckt ist.

Und wir im Silicon Valley schauen nur zu gerne zu, wie die Ameisen immer eifriger im Dreck wühlen. Ja, sie schicken uns sogar Geld dafür.

Dieses asymmetrische Machtverhältnis hast du ständig vor Augen. Fühlst du dich nicht erniedrigt, wenn du eine Facebook-Tochter wie Instagram oder WhatsApp benutzt? Facebook ist das erste börsennotierte Unternehmen, das von einem einzigen Menschen kontrolliert wird.[103]   Ich meine, persönlich habe ich nichts gegen Mark Zuckerberg. Es geht auch gar nicht um ihn. Aber warum sollte man einen Großteil seines Lebens irgendeinem bestimmten Menschen ausliefern?

Schon als ich noch klein war, gab es mächtige Politiker, reiche Leute, Popstars, Industriemagnaten und so weiter, aber keiner davon hatte großen Einfluss auf mein Leben. Sie sagten hin und wieder etwas, das meine Aufmerksamkeit erregte, das war alles. Mit meinem Privatleben hatten sie nichts zu tun.

Auch wenn du behauptest, dass dir das Ganze nichts ausmacht und dass es keinen Sinn hat, sich darüber aufzuregen, weil man eh nicht ändern kann, glaube ich, dass es dich ganz tief in deinem Inneren trotzdem stört. Du kannst was dagegen machen: Lösch deine Social-Media-Accounts.[104]

8

Social Media fördert prekäre Arbeitsverhältnisse

Doppel-BUMMER

Seit es BUMMER gibt, ist die wirtschaftliche Existenz vieler Bürger von Industriestaaten unangenehm prekär geworden. Mehr und mehr Menschen leben von der Gig-Economy, bei der eine Online-Plattform als Mittler zwischen Kunde und Auftragnehmer fungiert. Diese Form der Beschäftigung lässt kaum eine Lebensplanung zu. Arbeiter in der Gig-Economy erreichen kaum je finanzielle Sicherheit, selbst nach vielen Jahren Arbeit. Mit anderen Worten, ihr finanzielles Risiko nimmt nie ab, wie viel auch immer sie erreicht haben. In den USA mit ihrem löchrigen sozialen Netz heißt das, dass selbst gut ausgebildete und fleißige Berufstätige durch Arztrechnungen in die Obdachlosigkeit getrieben werden, selbst wenn sie viele Jahre hart gearbeitet haben.

Gleichzeitig ist eine kleine Anzahl Unternehmer – die immer auf irgendeine Weise mit einer der großen IT-Firmen zu tun haben – phantastisch reich geworden. Die Schere zwischen Arm und Reich öffnet sich immer weiter, sodass man sich inzwischen im Goldenen Zeitalter des 19. Jahrhunderts wähnt. Das Risiko wird auf die Normalverbraucher ausgelagert, während diejenigen mit den größten Rechnern sich wie Kasinobetreiber hinter ihrem Reichtum verbunkern.

Hat diese nicht gerade nachhaltige Verschiebung im ökonomisch-sozialen Gesellschaftsvertrag mit BUMMER zu tun, oder handelt es sich um eine Koinzidenz? Die Antwort lautet, dass BUMMER nicht nur vielen Menschen die emotionale, sondern auch vielen die finanzielle Sicherheit geraubt hat.

Worin besteht nun die Verbindung? Um das zu erklären, muss ich zunächst auf die IT-Politik jener Jahre zurückgreifen, in denen BUMMER entstand.

Baby-BUMMER

BUMMER war teilweise die ungewollte Folge einer intensiven, fast religiösen Bewegung zur Durchsetzung kostenloser offener Software im Jahrzehnt vor dem Aufkommen des Internets. Ironisch dabei ist, dass es sozialer und politischer Druck von IT-Hippies war, der die Unternehmer dazu brachte, fast ausschließlich auf werbefinanzierte Geschäftsmodelle zu setzen, als das Internet Fahrt aufnahm.

Was auch immer die BUMMER-Unternehmen sonst noch der Welt zu bieten hatten – die Öffentlichkeit war wohl hauptsächlich davon fasziniert, dass ihre Dienste kostenlos waren. Google wollte keine Gebühr für eine Suchanfrage, und YouTube nahm kein Geld, ob man sich ein Video anschaute oder eins hochlud. Facebook und Twitter nahmen einen ohne Mitgliedsbeitrag auf.

Dass sie kostenlos waren, machte diese Dienste so schnell so groß. Diese Grundlage des BUMMER-Geschäftsmodells ist es auch, die so zerstörerisch wirkt und die meisten Menschen in Teilzeit-Versuchskaninchen verwandelt hat. (Außerdem ist es auch der Grund, warum die Bösen es sich leisten können, eine unbegrenzte Anzahl Fake People in die Welt zu setzen.)

Das Konzept, einen technisch fortgeschrittenen Informationsdienst kostenlos an die Verbraucher abzugeben und den Gewinn mit Werbeeinnahmen zu erzielen, war nicht einmal neu. In den ersten Jahrzehnten des 20. Jahrhunderts waren über Antenne ausgestrahlte und empfangene Rundfunk- und Fernsehsendungen kostenlos, weil es keine Möglichkeit für den Sender gab, zu kontrollieren, wer ihn empfing. Wem sollte man also eine Rechnung schicken? Geschäftsmodelle neigen allerdings dazu, zäh an ihrer Existenz zu hängen, selbst wenn sie veraltet sind: Die Werbung blieb auch, als die meisten US-Fernsehzuschauer auf gebührenpflichtige Kabelnetze umstiegen.

Beim Internet musste ganz zu Anfang eine Entscheidung getroffen werden. Das allererste Konzept eines digitalen Netzwerks, das noch auf Ted Nelsons Arbeiten als Student in den sechziger Jahren zurückgeht, ging davon aus, dass man jeweils winzige Beträge bei der Nutzung einer Dienstleistung über digitale Netzwerke zahlen würde. Diese Vorstellung wurde jedoch von der Bewegung für kostenlose Software gnadenlos und mit den besten Absichten niedergewalzt.

Die Forderung nach kostenloser Software entsprang einem gut gemeinten Fehler. Es wurde zum Dogma, dass Software nur dann offen sein konnte, wenn sie kostenlos war. Ansonsten bekäme nur der Eigentümer den Quellcode zu sehen, und niemand könnte verstehen, wie die Software wirklich funktionierte. Man muss dazusagen, dass diese Sorge keine reine Spekulation war: Firmen, die Software verkauften, hielten den Quellcode normalerweise wirklich geheim. War er zugänglich, konnte jeder Programmierer ihn leicht verändert als neues, eigenes Programm auf den Markt bringen, was dem ursprünglichen Entwickler dann kein Geld mehr einbrachte.

Jeder wusste, dass Software irgendwann wichtiger als das Gesetz sein würde, also war die Aussicht auf eine Welt, die mit geheimen Quellcodes betrieben wurde, düster und unheimlich. Die Transparenz, die für Demokratie, Bildung und Anstand zwingend erforderlich ist, erschien allein mit dem Geschäftsmodell kostenloser Software vereinbar. »Kostenlos« und »offen« waren von da an fest miteinander verbundene Begriffe. Aber wovon sollten die Programmierer leben, wenn ihr Quellcode beliebig kopiert werden konnte? Die Überlegung war, den Code zu verschenken und sich dann für die Lösung auftauchender Probleme bezahlen zu lassen. Damit würden sie in einer Gig- statt einer Tantiemen-Wirtschaft arbeiten. Sie wären Lohnarbeiter, anstatt Kapital anzusammeln. Aber immerhin, der Quellcode wäre zugänglich und mit ihm käme die Blüte einer offenen, demokratischen Gesellschaft.

Das war edel gedacht, funktionierte aber nicht. Damals, als die Aktivisten begannen, offene Software zu verlangen, waren die Computer noch nicht miteinander vernetzt. Heute sind sie es aber, und zwar schon seit Jahrzehnten. Das heißt, dass ein BUMMER-Unternehmen sich ein Software-Modell von dir bauen kann – und durch manipulierende Feeds kontrollieren kann, was du zu sehen bekommst –, indem es seine Programme ausschließlich auf seinen eigenen Rechnern laufen lässt. Diese Rechenzentren sind schwer gesicherte Anlagen, in die du niemals hineinkommst. Die Software dieser Unternehmen ist ultrageheim. Jede andere Datei ist bereits erfolgreich gehackt worden, aber nicht die Such- oder Feed-Algorithmen der großen BUMMER-Unternehmen. Der Geheimcode, mit dem du manipuliert wirst, ist so gut geschützt wie die Kronjuwelen.

Die wichtigste Software der Welt ist am allerbesten versteckt, über sie ist praktisch nichts bekannt. Weißt du, dass BUMMER-Programme normalerweise auf einem offenen, kostenlosen Betriebssystem wie dem Linux/Apache-Stack laufen? Aber niemand weiß, was da noch alles obendrauf kommt. Die Bewegung für offene Software ist mit ihrem Kreuzzug für Offenheit und Transparenz des Quellcodes, der unser Leben bestimmt, völlig gescheitert.

Es hätte nicht so schlimm kommen müssen. Heute, da die Computer miteinander vernetzt sind, kann man sich ein kooperatives Tool vorstellen, mit dem sich der Ursprung jeder Programmzeile, jedes digitalen Bilds und jedes Soundeffekts zurückverfolgen lässt. Man könnte feststellen, wer was geschrieben hat. So könnte jeder, der zu einem kooperativen Entwicklungsprojekt einen Beitrag leistet, nachher im Verhältnis zu seiner Leistung und zum Erfolg des Spiels bezahlt werden. Dass man Änderungen am Code, den man geschrieben hat, zulässt, hieße nicht länger, dass man für seine Mühe leer ausgeht. Wir haben uns eine Welt von Möglichkeiten entgehen lassen.

BUMMER im Konflikt

Bevor mit Google das erste BUMMER-Unternehmen aufkam, verfochten IT-Hippies mit furchterregender Konsequenz, dass alles, was mit Information zu tun hatte, kostenlos sein müsse. Das war aber nicht ihr einziges Ideal.

Die Techies beteten Star-Unternehmer wie Steve Jobs regelrecht an. IT-Firmengründer waren vielleicht nicht so schlau wie Hacker – das glaubten jedenfalls die Hacker –, aber sie waren als Visionäre anerkannt. Es gefiel uns, wenn sie reich dabei wurden. Wer wollte schon eine Zukunft, die von einer langweiligen Behörde oder einem Ausschuss entworfen wurde? Schau dir dagegen die eleganten, glänzenden Rechner an, mit denen Steve Jobs die Welt beschenkte!

Hier befanden sich zwei Leidenschaften miteinander im Konflikt. Alles muss kostenlos sein, aber wir lieben Mega-IT-Gründer-Superstars.

Siehst du den Widerspruch? Einerseits soll alles umsonst sein, andererseits sollen aber die Star-Unternehmer im Mittelpunkt stehen – und ein Unternehmer will Geld sehen. Wie soll man diese beiden Grundsätze unter einen Hut bringen?

Um die Jahrtausendwende gab es in dieser Hinsicht viel Hin und Her. Letztlich schälte sich die einzig mögliche Methode heraus: das Geschäftsmodell der Finanzierung durch Anzeigen. Durch Anzeigen konnte gesichert werden, dass Suchanfragen, Musikvideos oder Nachrichtenfeeds kostenlos blieben. (Das hieß allerdings nicht, dass die Musiker oder Journalisten irgendetwas vom Kuchen abbekamen, denn die galten bei den Techies als ersetzbar.) Die Werbung sollte zur beherrschenden Branche des Informationszeitalters werden.

Das erschien anfangs nicht einmal besonders dystopisch. Die ersten Anzeigen auf Google waren nett und harmlos. Aber mit der Weiterentwicklung des Internets, der Rechner und der Algorithmen verwandelte sich das Anzeigengeschäft zwangsläufig in Massenverhaltensmanipulation.

So wurde BUMMER geboren. Und wie wir Menschen nun einmal sind, haben wir schon vergessen, dass wir uns das selbst zuzuschreiben haben. Jetzt kommen wir uns hilflos vor. Aber wir haben immer noch die Wahl – die Entscheidung liegt immer noch bei uns.

BUMMER-Scheuklappen

Das Gefährlichste an BUMMER ist die weitverbreitete Illusion, BUMMER sei alternativlos. Es gibt im Silicon Valley Leute, die glauben, dass alles auf der Welt durch IT-Start-up-Unternehmen neu erfunden und aufgemischt werden kann. Fröhlich greifen wir in die Medizin, die Bildung, das Verkehrswesen, selbst in den Kreislauf von Leben und Tod ein, aber auf die Idee, unsere grundlegende Arbeitsmethode infrage zu stellen, kommen wir nicht. Wir haben es zu unserem Dogma gemacht, dass man die Verbindung zwischen zwei Menschen nur durch einen dritten finanzieren kann, der dafür bezahlt, beide zu manipulieren. Wir halten diese Arbeitsweise für die einzig mögliche, doch diese Alternativlosigkeit bilden wir uns nur ein.

Das BUMMER-Geschäftsmodell besteht auf der Annahme, dass ein digitaler Dienst nur auf eine einzige Art und Weise funktionieren kann, nämlich, indem du, der einzelne Nutzer, unterworfen wirst. Das stimmt nicht. Diese vorherrschende Meinung ist einer der besten Gründe, sich von Social Media zu verabschieden.

Das BUMMER-Prinzip ist so allgegenwärtig, dass es sich inzwischen auch auf verwandte Branchen ausbreitet. Wir nehmen es als gegeben hin, dass man, wenn man sich zum Beispiel der Vorteile einer App wie Uber bedienen will (d.h. mit der besten verfügbaren Technologie Angebot und Nachfrage von Fahrern und Fahrgästen zu koordinieren), akzeptieren muss, dass Uber einigen wenigen gehört und von diesen wiederum manche zu abstoßenden Oligarchen mutieren, während die Fahrer weniger soziale Sicherheit als ein traditioneller Taxifahrer zugestanden bekommen und den Fahrgästen auf entwürdigende Weise nachspioniert wird. Dabei ist keiner dieser Nachteile notwendig, um die Vorteile zu erhalten. Der einzige Grund, warum beides scheinbar zusammengehört, ist, dass BUMMER uns so konditioniert hat.

In einem Paralleluniversum – das wir schleunigst errichten sollten, um zu überleben – gäbe es sowohl den Komfort einer App wie Uber als auch ein nachhaltiges soziales und wirtschaftliches Netz, in dem viele Menschen sich ein sicheres Einkommen mit Würde verdienen.

Das grundlegende kommerzielle Produkt von BUMMER ist absurd und schädlich. Eine Gesellschaft wird nicht dadurch reich, dass sie in den Wahnsinn abdriftet. Der einzige Ausweg ist eine Änderung des Geschäftsmodells, damit die heutigen BUMMER-Unternehmen auf andere Weise zu ihren Gewinnen kommen. Dadurch würde anderen Firmen wie Uber der Weg gezeigt, sich auf ähnliche Cloud-Dienste und persönliche Empfangsgeräte zu stützen, und zudem nachhaltige, menschenwürdige Geschäftsmodelle einzuführen. Das ist durchaus möglich!

Besser als BUMMER

Eine Lösung wäre, Internetdienste wie Suchmaschinen und Social Media direkt zu bezahlen. Man könnte sich eine geringe monatliche Grundgebühr für die Nutzung vorstellen, aber wenn du selbst viel zum Inhalt beiträgst – wenn deine Posts, Videos oder was auch immer, sehr viele andere Nutzer anziehen –, dann könntest du damit auch Geld verdienen. So würde eine große Zahl von Nutzern von diesen Diensten finanziell profitieren, anstatt der wenigen auserwählten Vorzeigestars im gegenwärtigen System. (Ich sehe natürlich ein, dass man auch denjenigen, die sich die geringe Grundgebühr nicht leisten können, diese Dienste auf irgendeine Weise zugänglich machen müsste.)

Ich betone das Potenzial, durch die Nutzung auch Geld zu verdienen, deshalb so sehr, weil es ein Ausgleich für den drohenden Arbeitsplatzschwund durch KI und Automatisierung sein könnte. Wir sprechen hier von einer Branche, zu der einige der finanzstärksten Unternehmen aller Zeiten gehören, und diese Branche lebt von Menschen, die oft genug zu hören bekommen, dass sie in der Arbeitswelt überflüssig sind und sich bitte schön mit der Sozialhilfe als öffentlich finanziertem Grundeinkommen zu begnügen haben. Es geht einfach nicht, diesen Leuten zu sagen, sie seien wertlos, wenn doch die reichsten Unternehmen nur durch die Daten so reich sind, die sie von denselben Leuten beziehen.

Sehen wir uns zum Beispiel das Übersetzen von einer Sprache in die andere an. Es ist wunderbar, dass es jetzt automatische Übersetzungsprogramme für Text und ganze Internetseiten gibt, zum Beispiel vom Englischen ins Chinesische. Aber diese Übersetzungen werden nicht etwa autonom von einem Computergehirn irgendwo in einem Firmenkomplex erstellt.

Vielmehr werden tagtäglich mehrere Dutzend Millionen neue Satzentsprechungen, die echte Menschen generiert haben, ausgewertet. Diese Menschen wissen aber gar nicht, dass ihre Übersetzungen dazu verwendet werden. Wie läuft das konkret ab? Eine riesige Anzahl zweisprachiger Menschen übersetzt bei ihren Aktivitäten in BUMMER-Diensten ständig aus einer Sprache in eine andere, zum Beispiel, wenn sie für ihre Freunde ein Video mit Untertiteln versehen. Alles, was man auf BUMMER postet, gehört aber dem betreffenden Unternehmen, und es kann damit machen, was es will.

Die übersetzten Sätze werden mit den Sätzen anderer Nutzer verglichen, und ein daraus generierter Mash-up erzeugt dann einen verständlichen Text in der Zielsprache. Man braucht natürlich tagtäglich neue Beispielsätze, weil Sprachen lebendig sind und sich ständig verändern. Jeder Tag bringt neue Events, Popkultur und Slangwörter.

Es ist wundervoll, dass diese Methode funktioniert. Weniger wundervoll ist, dass die unfreiwilligen Datenlieferanten – echte, lebendige, zweisprachige Menschen –, keine soziale Sicherheit haben. Die berufliche Zukunft menschlicher Übersetzer ist ebenso unsicher geworden wie zuvor die der investigativen Journalisten, professionellen Musiker, Fotografen und anderer mehr.

Wir tun so, als ob Fachleute fürs Übersetzen überflüssig geworden seien, brauchen sie aber in Wirklichkeit nach wie vor. Ist es nicht praktisch eine Sünde, jemandem zu sagen, er sei überflüssig, obwohl das gar nicht stimmt?

Was wir als KI bezeichnen, sollte man nie als Alternative zu menschlicher Arbeit betrachten, sondern vielmehr als einen missverständlich bezeichneten Wertschöpfungskanal zwischen echten Menschen.

Das BUMMER-Geschäftsmodell besteht darin, heimlich die Daten der Nutzer auszuwerten und damit Geld zu verdienen. Schau dir an, wie reich die BUMMER-Unternehmen sind, und denk daran, dass ihr Reichtum ausschließlich auf den Daten beruht, die du ihnen geschenkt hast. Ich finde, ein Unternehmen wird verdientermaßen reich, wenn es den Kunden etwas gibt, was sie brauchen, aber ich finde nicht, dass die Kunden dafür zunehmend mit ihrer sozialen Sicherheit bezahlen sollten. Der Kapitalismus sollte kein Nullsummenspiel sein.

BUMMER ist wirtschaftlich nicht nachhaltig, was vielleicht noch schlimmer ist als dass es unfair ist. Eine Gesellschaft zu ruinieren, um selbst reich zu werden, ist närrisch, und das Silicon Valley verhält sich närrisch.

Wenn wir uns einmal eingestehen, dass ein Übersetzungsprogramm Input realer Menschen braucht, dann könnten wir diese Menschen sogar ermutigen, bessere, nützlichere Daten zu liefern. Sie könnten ehrliche Wertschätzung, eine Bezahlung und das Gefühl verdienter Würde bekommen. Dann würden vielleicht auch diese Maschinenübersetzungen besser! Die Wahnvorstellung von der Überflüssigkeit des Menschen missachtet nicht nur den Menschen, sondern schadet oft auch der Funktion sogenannter KI-Programme, weil niemandem die Qualität des Dateninputs am Herzen liegt.

Die Dummheit des BUMMER-Ansatzes, den Menschen für wertlos zu erklären, ist mehr als bloß wirtschaftlich nicht nachhaltig, sondern ein Verstoß gegen die Menschenwürde. Diesen Aspekt werde ich im zehnten Kapitel beleuchten, das sich mit spirituellen Problemen befasst.

Ursprünglich wurde BUMMER als Tauschgeschäft ausgegeben: »Wir dürfen dich ausspionieren, und du darfst dafür umsonst unseren Dienst nutzen.« Das klang kurzfristig vielleicht vernünftig, ist langfristig aber grauenhaft.

Für das, was du kostenlos nutzt, müsste eigentlich irgendwo jemand bezahlt werden, der das zur Verfügung gestellt hat. Musiker nutzen BUMMER, um kostenlos für sich Werbung zu machen. Aber Fakt ist, dass es heute weniger Musikern finanziell gut genug geht, um eine Familie zu gründen – eine brauchbare Definition für »finanzielle Sicherheit« – als zu der Zeit, da Musik noch auf Platte oder CD verkauft wurde.[105]   Professionelle Musiker, Übersetzer … wer sind die Nächsten?

Vor der BUMMER-Ära entstanden mit jeder neuen Technologie, die traditionelle Berufe überflüssig machte, neue Berufe, die weniger körperlichen Einsatz erforderten. Taxifahrer statt Pferdeknechte, zum Beispiel. Die neuen Berufsbilder, die infolge technischer Umwälzungen entstanden, waren oft kreativer und professioneller als die traditionellen: Robotikingenieure statt Eisengießer. Dadurch gewannen zunehmend mehr Menschen an Sozialstatus und wirtschaftlicher Würde.

BUMMER hat diesen Trend umgekehrt. Wer jetzt Erkenntnis, Kreativität oder Fachwissen in die Welt bringt, bekommt zu hören, dass BUMMER früher oder später diese Werte durch einen Cloud-Dienst – wahrscheinlich einen sogenannten KI-Dienst – leiten und dem Lieferanten die finanzielle Sicherheit nehmen wird, auch wenn seine Daten weiterhin benötigt werden. Es könnte zum Beispiel passieren, dass aus Daten, die einer Heerschar realer Künstler gestohlen werden, neue Kunstwerke kreiert werden. Sogenannte KI-Kunstprogramme werden heute bereits geradezu angebetet. Oder: Robot-Krankenschwestern werden mit Daten programmiert, die von echten Krankenschwestern stammen, aber diese echten Krankenschwestern müssen dann Lohneinbußen hinnehmen, weil sie nun mit Robot-Krankenschwestern konkurrieren.

Jeder liefert BUMMER Daten, weil er süchtig und von Netzwerkeffekten gefesselt wird, wie es im ersten Kapitel geschildert wird.

Im dritten Kapitel, in dem es darum geht, wie BUMMER einen zum Arschloch macht, habe ich vorgeschlagen, dass eine Art Belohnungssystem, das über die Machtspielchen von Online-Gruppen hinausgeht, Beziehungen im Internet wieder zu mehr Würde verhelfen könnte. Als positives Beispiel dafür habe ich LinkedIn angeführt, das durch wirtschaftliches anstatt rein soziales Engagement eine zivilisierende Wirkung entwickelt.

Diese Hypothese muss noch weiter überprüft werden, aber es ist durchaus möglich, dass dieses Internet weniger düster und durchgeknallt wäre, wenn die Nutzer für den Wert der Daten, die sie dem Internet liefern, bezahlt würden.

Das skizzierte Geschäftsmodell für die heutigen BUMMER-Dienste wie Social Media und Suchmaschinen ist aber nur eine Möglichkeit. Ich vermute, es gibt noch andere. Mein Modell habe ich in Wem gehört die Zukunft? ausführlich vorgestellt. Inzwischen wird dieser Ansatz für die Zukunft der digitalen Wirtschaft als »Data as Labor« (DaL) bezeichnet.[106]

DaL gewinnt in Wirtschaftskreisen an Zulauf und lohnt sicher die weitere Erforschung. Ein solches System wäre nicht perfekt, aber besser als BUMMER.[107]

Die Unternehmenssicht

Die BUMMER-Unternehmen selbst sollten übrigens keine Angst vor dem Wechsel zu einem Nicht-BUMMER-Geschäftsmodell haben. Es käme ihnen zugute!

Ich bin zum Beispiel kein Google-Hasser, obwohl ich philosophische Differenzen mit manchen in dieser Firma habe. Ich habe mit einigen Kumpeln ein Start-up-Unternehmen an Google verkauft und mich damals gerne im kleinen Samenkorn des künftigen Riesen herumgetrieben. Ich glaube nicht, dass die Menschen, die für Google arbeiten, böse geworden sind, auch wenn das für das Geschäftsmodell leider zutrifft.

Ich bekomme oft entgegengehalten, dass Google oder Facebook ihr Geschäftsmodell gar nicht ändern könnten, weil BUMMER so erfolgreich sei, dass die Anteilseigner das nicht zuließen. Da bin ich anderer Meinung.

Ein Problem des BUMMER-Geschäftsmodells ist nämlich, dass es wie Erdöl für einen Ölstaat ist. Eine BUMMER-abhängige Firma kann ihre Aktivitäten – ihre Kostenzentren – so stark diversifizieren, wie sie will, aber niemals ihre Profitzentren, weil sie stets die kostenlosen Dienste priorisieren muss, um mehr Daten für die Manipulationsdienste zu ernten. Die Nutzer sind Süchtige, aber die BUMMER-Imperien ebenso.

BUMMER macht IT-Unternehmen anfällig und lässt sie auf seltsame Weise stagnieren. Von den fünf IT-Riesen sind nur zwei vom BUMMER-Modell abhängig. Apple, Amazon und Microsoft spielen auch ein wenig mit BUMMER, kommen aber auch gut ohne dieses Modell aus. Die Nicht-BUMMER unter den Internetgiganten haben sich erfolgreich diversifiziert. Es gibt viele Gründe, diese Unternehmen zu kritisieren und verändern zu wollen, aber ihr Maß an BUMMER-Aktivitäten bedroht unsere Zivilisation nicht.

Die beiden anderen Internetriesen, Google und Facebook, sind BUMMER-süchtig, und zwar extrem. Sie erzielen den überwiegenden Teil ihres Gewinns aus BUMMER, obwohl sie mit massiven Investitionen in anderen Branchen neue Geschäftsfelder erschließen wollen. Wie groß ein Unternehmen auch ist – wenn es auf einem einzigen Trick gegründet ist, wird es verwundbar. Früher oder später kommt eine unvorhergesehene Umwälzung, und dann stürzt jedes BUMMER-Unternehmen, wie groß auch immer, in sich zusammen.

Warum also sollte BUMMER eine großartige Langzeitstrategie für IT-Unternehmen sein? Es ist keine. Mit BUMMER wird der langfristige Erfolg dem kurzfristigen geopfert, wie bei einem Ölstaat.

Anstatt zu versuchen, die BUMMER-Unternehmen zu vernichten, sollten wir sie lieber dazu bringen, ihr Geschäftsmodell zu ändern. Es ist zu ihrem eigenen Besten.

Die Kundensicht

Es klingt vielleicht abschreckend, wenn man in Zukunft für Dienste bezahlen soll, die man heute kostenlos bekommt, aber denk daran, dass dieselben Dienste auch dir dann Geld bringen können. Außerdem wird die Welt manchmal wirklich besser für alle, wenn man für das, was man benutzt, auch bezahlt. IT-Gurus mit ihren Visionen einer kostenlosen, offenen Softwarezukunft haben immer behauptet, für Kinofilme oder Fernsehen zu bezahlen, sei eine Schreckensvision, und die Kultur der Zukunft werde aus freiwilligen Beiträgen der Nutzer bestehen, wobei die digitale Verbreitung natürlich anzeigenfinanziert sein werde. Das war im Silicon Valley praktisch religiöses Dogma, als die großen BUMMER-Unternehmen gegründet wurden. Es war Ketzerei, daran zu zweifeln.

Aber dann kamen Anbieter wie Netflix und HBO und überzeugten die Nutzer, dass sie eine monatliche Grundgebühr wert sind. Das Ergebnis wird oft als »Höhepunkt des Fernsehzeitalters« bezeichnet. Warum sollte es nicht auch einen »Höhepunkt der Social Media« oder einen »Höhepunkt der Suchmaschinen« mit bezahlten Diensten geben?

Schau dir einmal die Credits im Abspann eines Netflix- oder HBO-Films an. Das ist eine gute Übung, um die Aufmerksamkeitsspanne zu trainieren! Lies die ganzen Namen, die da vorbeiscrollen. All diese Mitwirkenden, niemand von ihnen ein Star, haben ihre Miete damit verdient, diesen Film für dich zu produzieren.

BUMMER aber unterstützt nur Stars. Wenn du einer dieser ganz, ganz seltenen Menschen bist, die von BUMMER anständig leben können, zum Beispiel als Influencer,[108]   dann sei dir bewusst, dass du zu einem winzigen Club gehörst und verwundbar bist. Mach dir rechtzeitig einen Plan B! Ich vermiese dir nur ungern deine Träume, aber wenn du glaubst, dass du kurz davor stehst, von einer Position als Influencer oder etwas Ähnlichem leben zu können, dann baust du auf eine extrem niedrige statistische Wahrscheinlichkeit – wie fähig du auch sein magst und wie viele Vom-Tellerwäscher-zum-Millionär-Storys dir auch vorgeführt werden.[109]   Das Problem ist nicht mal, dass es nur so wenige Stars gibt, das gehört zur Definition des Begriffs. Das Problem ist vielmehr, dass eine BUMMER-Wirtschaft kaum Verdienstmöglichkeiten für Beinahe-Stars bietet. In einer echten, beständigen Wirtschaftsordnung gibt es viele Tätigkeitsfelder. Wer es als Profisportler nicht schafft, kann Sportfunktionär werden oder Sportjournalist – es gibt viele Jobs in diesem Bereich. Aber wer es als Star-Influencer nicht schafft, für den gibt es kaum eine Ausweichmöglichkeit. Denk an Plan B.

Wenn Social-Media-Unternehmen direkt von den Nutzern anstatt durch verborgene Dritte bezahlt werden, dann dienen sie auch diesen Nutzern. So einfach ist das. Man kann dann auch dafür bezahlen, sich bösartige Propaganda anzuschauen, wenn man mag, aber man kann nicht mehr dafür bezahlen, diese Bösartigkeit jemand anderem zuzumuten. Damit entfällt der Anreiz, die Welt zu vergiften.

Ich werde also erst dann ein Nutzerkonto bei Facebook, Google oder Twitter anlegen, wenn ich dafür bezahlen darf – und wenn ich das eindeutige Recht an meinen eigenen Daten habe und den Preis für sie selbst festsetzen kann, und es einfach und normal ist, dass ich mit meinen Daten Geld verdiene, falls sie wertvoll sind. Bis dahin muss ich vielleicht noch eine Weile warten, aber das ist es wert.

9

Social Media macht Politik unmöglich

Der Bogen stürzt ein[110]

Früher einmal gab es einen moralischen Bogen, der sich durch die Geschichte zog: Im Laufe der Zeit gab es für immer mehr Menschen Gerechtigkeit, wie Martin Luther King ausgeführt hat. Zuerst wurden die Sklaven befreit, dann bekamen Frauen das Stimmrecht, dann erkämpften sich die LGBTQ-Communities ihre Rechte und ihre Würde. Die Demokratie verbreitete sich in immer mehr Ländern.

In jüngster Zeit jedoch, im BUMMER-Zeitalter, scheint dieser Bogen einstürzen und brennend in Trümmer sinken zu wollen. Es gibt nicht nur Widerstand, während wir diesen Bogen erklettern, sondern auch für undenkbar gehaltene, katastrophale Rückschläge.

In den vergangenen Jahren sind in der Türkei, in Österreich, in den USA, in Indien und anderen demokratischen Staaten autoritär angehauchte Führer gewählt worden, die ihre Macht auf Stammesdenken gründen. Der Wähler wählt sich selbst ab. In all diesen Fällen hat BUMMER eine wichtige Rolle gespielt. Ich hoffe sehr, dass unsere Zeit einmal als kurzer Rückfall im ansonsten kontinuierlichen Aufstieg hin zu einer demokratischeren Welt erscheinen wird.

Im Augenblick aber stehen wir einer erschreckenden, plötzlichen Krise gegenüber. Vor der BUMMER-Ära herrschte die allgemeine Ansicht, dass ein Staat, der einmal demokratisch wurde, nicht nur demokratisch bleiben, sondern auch immer demokratischer werden würde, weil das Volk es so verlangte.

Leider ist das nicht mehr der Fall, und zwar erst seit kurzem.[111]   Etwas entfremdet junge Menschen von der Demokratie. Trotz all des hoffnungsvollen Eigenlobs der Social-Media-Unternehmen scheint es so, als ob durch die Schwächung der Demokratie auch das Internet hässlich und betrügerisch geworden ist.

Die Korrelation zeigt sich in Entwicklungsländern womöglich noch stärker. Der einfachere Zugang zu technischen Informationsmedien, zum Beispiel die Möglichkeit, SMS per Telefon zu verschicken, hat wahrscheinlich mit zum wunderbaren und historischen Rückgang schwerer Armut überall auf der Welt in den letzten Jahrzehnten beigetragen. Dann aber kamen die sozialen Netzwerke, und die Mobiltelefone verwandelten sich in Propagandawerkzeuge irrsinniger gesellschaftlicher Gewalt.

Eine der größten humanitären Katastrophen weltweit – die noch andauert, während ich dies schreibe – ist das Los der Rohingya in Myanmar. Diese Krise fällt zeitlich mit der Ankunft von Facebook vor Ort zusammen, das rasch mit Shitposts über die Rohingya überschwemmt wurde.[112]   Gleichzeitig verbreiteten sich im Internet virale Lügen über Kindesentführungen, meist auf WhatsApp, einem Facebook-Dienst, und destabilisierten Teile Indiens.[113]   Laut einem UN-Bericht sind die sozialen Netzwerke im Südsudan durch Shitposts zu einer tödlichen Waffe geworden.[114]

Anonyme Urheber überfluten die sozialen Netzwerke mit bizarren Behauptungen über Unrecht, das eine Blutrache nach sich zieht, und angeblich von Angehörigen der feindlichen Gruppe begangen wurde. Meme, die zum Völkermord anstiften sollen, behaupten oft schreckliche Gewalttaten an Kindern. Wie immer bei BUMMER bekommen die abstoßendsten, paranoidesten Nachrichten die größte Aufmerksamkeit, die Emotionen verselbständigen sich, weil auch die Betroffenheit außer Kontrolle gerät.

Nun hatten die Regionen, in denen dies geschieht, schon immer ihre Probleme. Ihre Geschichte ist voller seltsamer, böser und verrückter Politiker, Massenhysterien und gewalttätiger Ausschreitungen aufgrund zahlreicher Gerüchte. Und voller gescheiterter Staaten. Leben wir wirklich in einer so ungewöhnlichen Zeit?

Das müssen die Historiker der Zukunft entscheiden. Mir scheint jedenfalls, dass in unserer Welt etwas schrecklich schiefläuft, und zwar erst seit wenigen Jahren, seit dem Aufkommen von BUMMER. Wir erleben keine nie da gewesenen Gräuel – sie sind alle schon da gewesen –, aber der kostbare Bogen des Fortschritts entgleitet uns. Auf einmal rutschen wir ihn auf schreckliche Weise wieder hinunter.

Ein typischer Fall von Social-Media-Einfluss auf die Politik sieht so aus: Eine Gruppe hipper, junger Gebildeter entdeckt eine Social-Media-Plattform für sich, weil solche Plattformen von anderen hippen, jungen Gebildeten gegründet werden. Sie sind Idealisten. Vielleicht sind sie Liberale, vielleicht Konservative, was auch immer. Sie wollen ernsthaft die Welt verbessern. Das gilt sowohl für die IT-Leute, die eine BUMMER-Plattform ins Netz stellen, wie für die Nutzer draußen am Rechner.

Zuerst funktioniert das wunderbar, oft mit spektakulärem Erfolg, mit ekstatischem Erfolg, aber dann wird wie durch einen Zauber alles kaputt gemacht. BUMMER zieht letztlich eher großmäulige Arschlöcher und Betrüger an als hippe, junge, gebildete Idealisten, weil BUMMER langfristig mehr der versteckten, böswilligen Manipulation dient als jedem anderen Zweck.

Von seinem Wesen her, ganz ohne bösen Plan, studiert BUMMER die frühen Idealisten und katalogisiert ihre Eigenheiten. Das Ergebnis hat den ungewollten Effekt, dass die angelockten Idealisten mit Shitposts bombardiert werden, die sie, statistisch gesehen, ein wenig verärgerter und ein wenig unfähiger machen, mit Menschen zu kommunizieren, die eine andere Ansicht vertreten. In der Konsequenz sind sie nun ein wenig isolierter und ein wenig unfähiger, gemäßigte oder pragmatische Politik zu tolerieren.

BUMMER untergräbt die politische Entwicklung und schädigt Millionen Menschen, aber viele dieser Geschädigten sind gleichzeitig so süchtig, dass sie nicht anders können, als BUMMER zu loben, weil sie sich darin über die Katastrophen beklagen können, die BUMMER ihnen eingebrockt hat. Das ist wie das Stockholm-Syndrom oder Hörigkeit in einer gewalttätigen Zweierbeziehung. Die ehrlichen Idealisten der Anfangszeit sind die Verlierer, doch sie danken BUMMER noch dafür, was es ihnen geschenkt hat und wie es sie zusammengebracht hat.

ViSiT WWW.iBOOKS.TO

Arabischer Frühling

Den Arabischen Frühling nahm das Silicon Valley zum Anlass, sich von ganzem Herzen selbst zu beglückwünschen. Wir nahmen ihn damals für uns als Ruhmesblatt in Anspruch. Die Begriffe »Facebook-Revolution« und »Twitter-Revolution« hörte man ziemlich oft.[115]

Wir versammelten uns vor Großbildschirmen, um den jungen Leuten auf dem Tahrir-Platz in Kairo zuzuschauen, wie sie es mit einer despotischen Regierung aufnahmen, und wir liebten sie. Wir feierten, wie ganz gewöhnliche Bürger mit Hilfe der sozialen Netzwerke der NATO Ziele für Luftangriffe angaben. Social Media stellte den normalen Social-Media-Nutzern eine moderne Armee zur Verfügung.

Revolutionen hat es schon immer gegeben, aber diesmal war etwas anders. Es gab zum Beispiel keine charismatische Führergestalt, keinen George Washington oder Wladimir Iljitsch Lenin. Das, dachten wir, ist wirklich eine Revolution des Volkes. Es gab keine Guerillaführer, die sich, umschwärmt von Untergebenen, über große Tische mit Landkarten beugten. Es gab kein grundlegendes Manifest, keine allgemeine Vereinbarung oder auch nur eine unverbindliche Absprache, wie es nach der Revolution weitergehen sollte. Der Begriff »Demokratie« fiel immer wieder, aber es gab keine Einigkeit, was darunter zu verstehen sei. Hier wurde die Demokratie als vager Glaube an die weltverbessernde Kraft der kollektiven Dynamik des Internets missverstanden. Eine sich selbst organisierende Revolution konnte ja nichts falsch machen. Damit, so glaubten wir, erfüllte sich unser Glaube an Social Media.

Ich war mir da nicht so sicher und verärgerte einige meiner Freunde mit Fragen wie: »Und wo bekommen diese jungen Leute nachher einen Arbeitsplatz?« Oder, noch schlimmer: »Vielleicht bei Twitter oder Facebook?« Außerdem fand ich, dass eine Revolution denen gehörte, die sie machten, und dass es falsch war, ihr die Markennamen von Silicon-Valley-Unternehmen anzukleben.

Tatsächlich fanden die Revolutionäre später keine Arbeit, und tatsächlich gab es niemanden, der Ägypten nachher politisch kohärent organisieren konnte – außer theokratischen Extremisten, die dann wieder durch einen Militärputsch entmachtet wurden. Noch immer hatte kaum einer der inspirierenden jungen Revolutionäre einen anständigen Job.

Wie immer bestand die Leistung von Social Media auch damals darin, dass sie Illusionen schufen: dass man die Gesellschaft durch bloßes Wünschen verbessern könne, dass in harten Machtkämpfen immer die Vernünftigsten siegen und sich materieller Wohlstand dann schon ganz von selbst einstellen würde. Solche Illusionen platzen grundsätzlich erst dann, wenn es zu spät ist, und die Brutalsten, Selbstsüchtigsten und Uninformiertesten erben die Welt. Wer kein Arschloch ist, wird zum Opfer.

Ich war also der zynische Spielverderber, aber wie sich herausstellte, war ich noch lange nicht zynisch genug. Den folgenden Geschehnissen wollte kein IT-Unternehmer mehr seinen Markennamen anhängen.

Gegenbewegungen zur Revolutionen gab es schon immer, genauso wie Versuche, eine Revolution an sich zu reißen, sie zu korrumpieren, sie in eine Terrorherrschaft zu verwandeln, und was derlei Perversionen mehr sind. Diesmal aber war etwas anders.

Es kam zu einer Explosion nihilistischen Terrors im Internet.[116]   Junge Leute schauten sich die schrecklichsten, sadistischsten Videos an, die ihnen über Silicon-Valley-Unternehmen geliefert wurden, und es entstand eine Dynamik ähnlich wie bei Pornographie: Die jungen Leuten wurden zu Gräuelsüchtigen. Auch das hat es leider schon immer gegeben, aber früher waren das organisierte Gräuel. Die vielen Schlachtfelder der Geschichte haben wir organisierten Banden zu verdanken, aber jetzt waren es Einzelgänger am Rechner, die sich selbst radikalisierten.

Das Bild des einsamen männlichen Nutzers, der sich in einer imaginären Welt ergeht, wurde geboren, eines Nutzers, der von den kleinlichsten Illusionen heimgesucht wird, erfüllt von dem Zorn der Unsicherheit.

Aber der Glaube des Silicon Valleys, dass Social Media sozialen Fortschritt bewirken würde, blieb unerschütterlich. In mir lebt er immer noch. Während ich dies schreibe, am 1. Januar 2018, blockiert das iranische Regime soziale Netzwerke, um Proteste zu unterdrücken, die im ganzen Land ausgebrochen sind. Eine innere Stimme erhebt sich in mir: »Ja! Doch, Internettechnologie hilft den Menschen, sich zu organisieren, und sie sind schlau genug, die Versuche, sie auszusperren, zu umgehen.«

Ich will diese Hoffnung einfach nicht aufgeben. Keiner von uns will sie aufgeben. Aber bis jetzt ist die Lage nicht sehr ermutigend.

Gamergate

Ich war begeistert, als Frauen anfingen, sich in der Gaming-Community zu Wort zu melden. Die Welt der Gamer ist in vielerlei Hinsicht wundervoll, aber sie schöpft ihre Möglichkeiten bei weitem noch nicht aus. Gaming sollte dazu dienen, zu lernen und über komplexe Probleme zu reden. Das passiert schon in einem gewissen Ausmaß, aber die größten Spieleproduktionen wenden sich an immer dieselbe Zielgruppe. Du hast deine Waffen, du arbeitest dich durch feindliches Terrain vor, du schießt auf etwas. Immer wieder. Diese Branche muss ihren Horizont erweitern.

Entwickler, die ebenfalls dachten, dass sich das Spektrum des Gamings auffächern sollte, verbreiteten ihre Ideen über Social-Media-Netzwerke und schufen eine lebendige, dezentralisierte Bewegung. Sie erregten Aufmerksamkeit, und man konnte spüren, wie sich die Atmosphäre ein wenig veränderte. Viele dieser Entwickler waren Frauen.

Was dann geschah, war eine Reiche-Welt-Version der Geschehnisse, die auf den Arabischen Frühling folgten. Die Reaktion war erstaunlich extrem und abstoßend, weit übertrieben im Vergleich zu dem, wogegen sich die Protestierenden wandten.

Frauen, die sich über Gaming äußerten, wurden auf niederträchtige Arten angegriffen, die inzwischen schrecklich normal geworden sind. Sie wurden mit gefälschten Bildern bombardiert, auf denen zu sehen war, wie sie selbst und ihre Familienangehörigen ermordet und vergewaltigt wurden.[117]   Ihre persönlichen Daten wurden veröffentlicht, sodass einige der betroffenen Frauen untertauchen mussten.[118]

Die Bewegung zur Vernichtung von Kritikern der Gaming-Welt wurde »Gamergate« genannt. Man kann mit ihren Unterstützern nicht reden, weil sie in einer Parallelwelt von Verschwörungstheorien und dichten Dschungeln dummer Argumente leben, die von kleinlichen Illusionen gespeist werden, wo sie zornig über ihre eigene Unsicherheit vor sich hinbrüten.

Gamergate wurde zum Zulieferer und Vorbild für die Alt-Right-Bewegung.[119]

LGBTQ

In den Jahren unmittelbar vor den Präsidentschaftswahlen 2016 kam die LGBTQ-Gesetzgebung in den USA in Bewegung. Gleichgeschlechtliche Ehen wurden legalisiert, Transgender wurden in der Öffentlichkeit sichtbarer und zunehmend akzeptiert. Dabei spielte Social Media zweifellos ihre Rolle.

Das war aber nur die erste Phase im Prozess der Degradierung durch BUMMER. Es waren die Flitterwochen mit BUMMER. Wohlmeinende Aktivisten errangen einen historisch leichten Sieg in diesem Kampf, und es schien, als sei gesellschaftlicher Fortschritt in beliebigem Umfang jetzt leicht möglich.

Mir wurde das wie ein Heroin-High beschrieben, eine unglaubliche, mühelose Anfangsekstase, nach der es unweigerlich katastrophal abwärtsgeht.

Die nächste Phase der BUMMER-Politik ist die, in der den Arschlöchern klar wird, dass sie von BUMMER bevorzugt werden. Alle möglichen Arten von Arschlöchern tauchen auf. Sie erhalten genug Aufmerksamkeit, um die wohlmeinenden Aktivisten, die gerade noch Siege errungen haben, zu übertrumpfen. Sie graben schreckliche Vorurteile und Hassgefühle aus, die seit Jahren kein Tageslicht mehr gesehen haben, und machen sie zum Mainstream.

Dann stellt sich heraus, dass die Frühnutzer-Arschlöcher von noch größeren Arschlöchern manipuliert werden. Dann passieren richtig schlimme Sachen. Schreckliche, riesige Arschlöcher werden gewählt, dumme fremdenfeindliche Projekte werden angesetzt, normale Menschen erleiden schreckliche, unnötige materielle Verluste, und Kriege drohen.

Im Fall der USA wurden erstaunlich radikale Anti-LGBTQ-Gestalten in höchste Ämter erhoben,[120]   obwohl LGBTQ-Würde und LGBTQ-Rechte während des Wahlkampfes unangreifbar blieben.

Es ist nicht etwa so, dass BUMMER LGBTQ-Menschen benachteiligen würde. BUMMER könnte es nicht gleichgültiger sein. Es ist vielmehr so, dass BUMMER Betrüger und Arschlöcher bevorzugt. Das sind Komponenten A und F, der Wind in BUMMERs Segeln.

Weder links noch rechts, sondern abwärts

BUMMER ist weder liberal noch konservativ. BUMMER ist nur pro Verfolgungswahn, pro Reizbarkeit und pro allgemeine Arschlochhaftigkeit.

Denk daran, BUMMER ist nicht von Anfang an so. Anfangs scheinen nette Frühnutzertypen gefördert zu werden. Sobald diese netten Menschen aber einmal kategorisiert, algorithmisch ausgeforscht, getestet und damit reif für die Manipulation sind, übernehmen die Arschlöcher.

Wen interessiert es, ob ich selbst ein Liberaler bin? Wenn du ein prinzipientreuer Konservativer bist, glaubst du, dass dir BUMMER wirklich gute Dienste leistet? Meine fundamentalistisch-christlich konservativen Freunde finden sich in den Social-Media-Netzwerken auf einmal in Gruppen gedrängt, die einen obszönen, grausamen Schürzenjäger und Frauenfeind unterstützen, der ein Vermögen mit Glücksspiel und Bankrotten gemacht und zu Protokoll gegeben hat, dass er von Gott weder Vergebung braucht noch wünscht.[121]   Die patriotischen Falken unter meinen Freunden finden sich derweil in einer Reihe mit einem Führer wieder, der ohne die zynischen, illegalen Interventionen einer feindlichen auswärtigen Macht ziemlich sicher nicht im Amt wäre. Schau doch, was BUMMER aus deinem Konservatismus gemacht hat.

Liberalen geht es ebenso. Erinnerst du dich an die Anhänger von Bernie Sanders, die sich »Sanders Bros« nannten? Erinnerst du dich, wie es in manchen liberalen Kreisen plötzlich cool war, Hillary Clinton grausam lächerlich zu machen, als ob das eine religiöse Pflicht wäre? Im BUMMER-Zeitalter kann man nicht mehr sagen, was von selbst entstanden ist und was künstlich herbeigeführt wurde.[122]

Es ist Zufall, dass BUMMER die Republikaner gegenüber den Demokraten in der amerikanischen Politik bevorzugt, aber es ist kein Zufall, dass BUMMER die reizbarsten, autoritärsten, paranoidesten und verbohrtesten Republikaner bevorzugt.[123]   All diese Eigenschaften gibt es bei den Linken ebenso. Wäre eine US-Version von Hugo Chávez aufgetaucht, hätten wir jetzt vielleicht ihn als Präsidenten. Vielleicht passiert das auch noch. Bei dem Gedanken wird mir schlecht.

Ich bin selbst ein Linker, glaube aber nicht, dass ein BUMMER-haft linker Führer besser als Trump wäre. Erniedrigung ist Erniedrigung, woher auch immer sie kommt.

Warum ein »Katastrophenkünstler« als Präsidentschaftskandidat von Facebook bevorzugt wird, ist bekannt, auch wenn die Einzelheiten im Dunkeln bleiben. Wenn ein Kandidat oder ein beliebiger anderer Kunde sich bei Facebook Zugang zur Aufmerksamkeit der Nutzer kauft, wird der Umfang dieses Zugangs nicht nur vom Kaufpreis bestimmt, sondern auch davon, wie gut dieser Kunde – laut Einschätzung der Facebook-Algorithmen – für die Weiterverbreitung von Facebook ist. Ehemalige Mitarbeiter der Social-Media-Kampagne in Trumps Wahlkampf behaupten,[124]   dass Trump für sein Geld Hunderte Male so viel Zugang[125]   wie die Clinton-Kampagne bekam, obwohl Facebook das abstreitet, ohne aber genug Einzelheiten zu enthüllen, um diese Behauptung nachvollziehbar zu machen.[126]   Falls es einen Vervielfachungsquotienten gab, galt er wahrscheinlich ebenso für russische Agenten und andere Trump-Unterstützer, die sich Zugang auf Facebook erkauften, wie für die Trump-Kampagne selbst. Die Algorithmen unterscheiden das nicht und können es auch gar nicht unterscheiden.

Eine interessante Einzelheit, die ein Jahr nach der Wahl ans Licht kam, ist, dass Facebook sowohl der Clinton- wie der Trump-Kampagne Unterstützung durch Teams vor Ort angeboten hatte, die den Wahlkämpfern helfen sollten, die Plattform so gut wie möglich zu nutzen, dass aber nur Trumps Wahlkampfteam das Angebot annahm.[127]   Falls auch Clinton zugestimmt hätte, Facebook-Mitarbeiter in ihre Kampagne zu integrieren, hätte sie womöglich gewonnen, weil der Wahlausgang so knapp war, dass jede Kleinigkeit, die die Waagschale zu ihren Gunsten geneigt hätte, den Umschwung hätte bringen können.

Facebook und andere BUMMER-Unternehmen werden zur Ransomware der menschlichen Aufmerksamkeit. Sie beherrschen die Aufmerksamkeit so vieler Menschen über einen so großen Teil des Tages, dass sie zum Torwächter des Gehirns geworden sind.

Diese Situation erinnert mich an den mittelalterlichen Ablasshandel. Damals forderte die katholische Kirche in manchen Fällen Geld, damit eine Seele in den Himmel kam. Ablässe gegen Geld waren einer der Hauptgründe für die Reformation. Es ist, als ob Facebook sagt: »Bezahl uns, oder du existierst nicht.«

Facebook wird zur Mafia der Existenz.

Black Lives Matter

Nach einer dramatischen Serie schrecklicher Polizeigewalt an unbewaffneten afroamerikanischen Bürgern durch die Polizei in den USA waren die ersten Reaktionen mitfühlender Social-Media-Nutzer in den meisten Fällen klug, beherrscht und konstruktiv. Man muss dazusagen, dass wir ohne Social Media vielleicht nie etwas über diese abscheulichen Vorfälle, ihre Häufigkeit oder ihre Gleichartigkeit gehört hätten.

Zuerst erzeugten die sozialen Netzwerke ein allgemeines Gemeinschaftsgefühl. Der Slogan »Black Lives Matter« zum Beispiel kam mir anfangs besonders klug und vorsichtig vor. Kein Fluch, keine Drohung, nur eine Erinnerung: Unsere Kinder zählen. Ich vermute, dass viele andere denselben Eindruck hatten, obwohl viele kurz danach anfingen, diesen Spruch lächerlich zu machen.

»Black Lives Matter« erregte während seiner Entstehungsphase große Aufmerksamkeit in den Social-Media-Netzwerken. Die typische Flitterwochen-Phase des BUMMER-Aktivismus, mitreißend und voller Hoffnung. BUMMER gab schwarzen Aktivisten ein neues Medium an die Hand, um Einfluss und Macht auszuüben. Mehr Geld und Macht für die BUMMER-Unternehmen, klar, aber auch mehr Einfluss für eine neue Armee von BUMMER-Nutzern. Eine Win-win-Situation, oder?

Aber schon während dieser Flitterwochenphase nahm hinter den Kulissen ein tieferes, einflussreicheres Machtspiel Fahrt auf. Das Spiel, das am meisten zählte, fand im Verborgenen statt, und zwar in einer algorithmischen Maschinerie in riesigen verstecken Datenzentren weltweit.

Die Aktivisten und ihre Sympathisanten wurden sorgfältig katalogisiert und untersucht. Welche Formulierungen sprachen sie an? Was verärgerte sie? Welche Kleinigkeiten, Geschichten, Videos, was auch immer, hielt sie in BUMMER-Medien fest? Was machte sie ziemlich sicher zu »Schneeflocken«, sodass sie sich allmählich vom Rest der Gesellschaft isolierten? Was veränderte ihre Einstellung, um sie immer anfälliger für verhaltensändernde Botschaften zu machen? Es ging nicht darum, die Bewegung zu unterdrücken, sondern darum, Geld zu machen, und der Vorgang lief automatisch, routinemäßig, steril und gnadenlos ab.

Gleichzeitig wurde ebenso automatisch der schwarze Aktivismus auf sein Potenzial hin getestet, andere Bevölkerungsgruppen auf sich aufmerksam zu machen, zu verärgern oder sogar auf sich zu fixieren. Diese anderen Bevölkerungsgruppen wurden dann selbst automatisch katalogisiert, getestet und studiert. Ein Segment latenter weißer Suprematisten und Rassisten, das bisher nicht gut identifiziert, vernetzt oder aktiv gewesen war, wurde blind und mechanisch entdeckt und gepflegt, zuerst nur für das automatische, seelenlose Profitmachen. Das aber wäre unmöglich gewesen, ohne zuvor ein Segment schwarzer Aktivisten auf BUMMER zu kultivieren und algorithmisch herauszufinden, wie man es dazu treiben konnte, zu provozieren.

BUMMER hat Nutzer schon in Schubladen einsortiert und Arschlöcher gefördert, bevor Russen oder sonstige Kunden auftauchten, um das auszunutzen. Als die Russen dann aber kamen, fanden sie eine Benutzeroberfläche vor, die darauf ausgelegt war, es »Anzeigenkunden« zu ermöglichen, erprobte Botschaften gezielt an bestimmte Nutzergruppen zu richten. Die Russen mussten BUMMER nur dafür bezahlen, was BUMMER sowieso schon tat.

»Black Lives Matter« wurde als Provokation und Objekt der Lächerlichkeit bekannter denn als Hilferuf. Man kann jede Botschaft so umdeuten, dass eine bestimmte Gruppe davon angesprochen wird, wenn Botschaftsvandalen den Kurven der Algorithmen folgen: Die Komponenten A und F in Kombination.

Inzwischen wurde der Rassismus auf BUMMER in einem Ausmaß organisiert wie seit Generationen nicht mehr.

Ich wollte, ich müsste dieses herzzerreißende Faktum nicht anerkennen. Viel von dem, was zwischen einzelnen Nutzern auf BUMMER passiert, ist wundervoll, wenn man es sich anschaut, und dabei das größere Bild ignoriert, in dem die Nutzer von BUMMER manipuliert werden. Wenn man einen genügend kleinen Ausschnitt betrachtet, sieht das, was auf BUMMER passiert, oft exquisit aus.

Black Twitter ist ein sehr gutes Beispiel dafür. Es ist ein eigenes Medium und eine eigene Literatur für sich. Black Twitter ist wunderbar erfindungsreich und ausdrucksvoll. Und virtuos. Black Twitter kann Trump eins auswischen, zum Beispiel nach dem Skandal um die knienden NFL-Spieler. Was außerhalb der Wahrnehmung eines Twitter-Nutzers geschieht, ist aber so konstruiert, dass es Black Twitter mit aller Macht vereinnahmen und wirkungslos machen soll.

Ich würde Black Twitter gerne bejubeln, weil es so brillant ist. Stattdessen muss ich warnen, dass es sich um eine grausame Falle handelt. Eines Tages wird es hoffentlich wieder ein Medium in der Art von Black Twitter geben, das dann nicht BUMMER untertan ist, von Anfang an darauf angelegt, Menschen auszuforschen, um sie zu manipulieren.

Ich würde mich mit all diesen Warnungen wirklich gerne irren, aber bis jetzt übertrifft BUMMER noch alle Kassandrarufe, und je mehr ans Licht kommt, desto schlimmer sieht BUMMER aus.

Ein Jahr nach der Wahl sickerte allmählich die Wahrheit durch. Es stellte sich heraus, dass einige Nutzerkonten prominenter »schwarzer« Aktivisten in Wirklichkeit Fake-Accounts der russischen Geheimdienste waren: Komponente F. Die Russen wollten damit die Aktivisten offensichtlich so provozieren, dass ihre Unterstützung für Hillary abnahm und so im Ganzen weniger Stimmen für die demokratische Kandidatin abgegeben werden würden.

Das heißt nicht, dass die Russen den Nutzern direkt und zuverlässig andere Gedanken eingeben konnten. Es heißt auch nicht, dass die Zielpersonen dieser Kampagnen weniger besonnen, intelligent oder willensstärker als andere waren. Am häufigsten war wahrscheinlich die »rotlinierte« Förderung von Zynismus, einer gleichgültigen Haltung und eines Gefühls der Hoffnungslosigkeit (»rotliniert« bezieht sich hier auf »redlining«, ein Verfahren, mit dem US-Banken früher die Kreditwürdigkeitsbewertung zum Nachteil von Kunden aus überwiegend von Afroamerikanern bewohnten Vierteln manipulierten). Ich behaupte nicht, dass Kritik an Hillary Clinton grundsätzlich unberechtigt oder die Ablehnung der Wähler grundlos gewesen ist. Ich sage nur, dass die Emotionen der Wähler ein ganz klein wenig beeinflusst wurden, genug, um die Wahlbeteiligung bei den Demokraten zu senken.

Vergiss nicht, dass Facebook bereits mit viel Trara Studien veröffentlicht hatte, die beweisen sollten, dass es die Wahlbeteiligung beeinflussen kann.[128]   In den betreffenden Forschungsergebnissen benutzte Facebook das angenehme Beispiel einer gestiegenen Wahlbeteiligung. Aber weil es bei Facebook immer um die Zielgruppenansprache geht und es – neben vielen anderen persönlichen Einzelheiten – deine politische Ausrichtung kennt,[129]   und weil es schon bewiesen hat, dass es einen unglücklich machen kann,[130]   ist es wahrscheinlich, dass man Social Media auch einsetzen kann, um gezielt Wähler vom Urnengang abzubringen.

Das alles heißt aber nicht, dass Facebook eine Art Wähler lieber wäre als eine andere. Das entscheiden die Facebook-Kunden, also nicht du, denn du gehörst zu den Nutzern. Facebook selbst weiß nicht unbedingt, was jeweils läuft. Ein Social-Media-Unternehmen ist in einer besseren Position, wenn es nicht weiß, was läuft, weil es dann genauso viel Profit macht, aber weniger Verantwortung trägt.

Wir werden nie erfahren, welche algorithmischen Tests im Dienst der Senkung oder Erhöhung der Beteiligung an einer bestimmten Wahl durchgeführt wurden, oder welche Ergebnisse sie erbrachten. Vielleicht waren es bestimmte Wörter in Überschriften oder bestimmte Anzeigen direkt neben bestimmten Promi-Nachrichten, die sich als besonders geeignet herausstellten, einen Wähler zu verärgern, aber nur, wenn er Fan bestimmter Automarken war.

Annehmen können wir nur, dass ein statistisch fundiertes Verfahren sich kontinuierlich angepasst hat, um seine Leistung zu optimieren.

Weder BUMMER noch die russischen Agenten mussten sich dabei mit dem wirklichen schwarzen Aktivismus befassen, so oder so. (Zufällig sind die Mitarbeiter von BUMMER-Unternehmen politisch meist liberal und stehen dem schwarzen Aktivismus meist eher positiv gegenüber, aber das ist völlig irrelevant für ihren Einfluss auf die Welt, solange sie dem Geschäftsmodell der Massenmanipulation treu bleiben.)

BUMMER macht mehr Profit, wenn die Nutzer verärgert und voreingenommen, zerstritten und wütend sind – und das war ganz im Interesse der Russen. BUMMER ist eine Shiterzeugungsmaschine. Es verwandelt ehrliches soziales Engagement in zynischen Nihilismus. Es ist inhärent ein grausames, betrügerisches Spiel.

Schwarze Aktivisten haben allen Grund, sich über die unmittelbar wahrnehmbaren Interaktionen in den BUMMER-Medien zu freuen. Auf dieser Ebene findet sich echte Schönheit und Tiefe. Dieses andere Spiel hinter den Kulissen entwertet das sichtbare Spiel nicht. Das Gesamtbild zählt nur, wenn es darum geht, die Endergebnisse zu beobachten und zu verstehen.

Die Aktivisten können überzeugt sein, dass sie ihre Botschaft rübergebracht haben, aber es ist unbestreitbar, dass sie politisch, materiell und auf jede Weise, die zählt, außerhalb von BUMMER an Boden verloren haben.

Wie üblich bleibt vielen der Betrogenen und zu Narren Gemachten nach einer algorithmisch ausgelösten Katastrophe nichts anderes, als BUMMER zu loben.

Ein Beispiel für Komponente F während des amerikanischen Präsidentschaftswahlkampfs 2016 war ein Nutzerkonto namens Blacktivist, das von den Russen betrieben wurde. Ein Jahr nach der Wahl wurde die wahre Macht hinter Blacktivist enthüllt, und Reporter fragten echte schwarze Aktivisten, was sie davon hielten.[131]   Einige konnten sich zum Glück noch empören. Ein Aktivist soll Folgendes gesagt haben: »Sie nutzen unseren Schmerz aus. Ich bin zutiefst angewidert.« Das ist eine zutreffende, vernünftige Aussage, außerdem eine mutige, denn es ist nicht einfach einzugestehen, dass man hereingelegt worden ist.

Menschen neigen dazu, das einmal Geschehene zu rechtfertigen. So sagte ein anderer Bürgerrechtsaktivist demselben Reporter: »Wenn jemand etwas organisiert, das Verantwortlichkeit und Gerechtigkeit fördert, ist es mir ziemlich egal, welches Motiv er hat und wer er ist.« Das ist die typische Schönfärberei von jemandem, der nur den vertrauten Rahmen sieht anstatt des Gesamtbilds, in dem das BUMMER-Spiel gespielt wird.

Letztendlich hat das Profitstreben von BUMMER dazu geführt, schwarze soziale Netzwerke unwissentlich zum Medium einer neuen Methode zur Senkung der Wahlbeteiligung zu machen. Als ob es solche Methoden nicht bereits genug gäbe. Als ob Gerrymandering (das parteiische Zuschneiden von Wahlbezirken zur Förderung bestimmter Wahlergebnisse), unzugängliche Wahllokale und unfaire Wählerregistrierungsvorschriften nicht genug wären.

Viele potenzielle Hillary-Clinton-Wähler wurden so beeinflusst, dass sie Hillary nicht mehr so toll fanden oder überhaupt gar nicht mehr wählen wollten. Warst du einer davon? Wenn ja, dann versuche dich zu erinnern: Hast du vor der Wahl persönlich auf dich zugeschnittene Informationen bekommen? Hast du Twitter oder Facebook benutzt? Hast du viele Internet-Suchanfragen durchgeführt?

Man hat dich reingelegt. Du bist betrogen worden. Deine besten Absichten wurden gegen dich gerichtet.

Wenn dieses Spiel nur schon vorbei wäre

Obwohl die gegenwärtige Atmosphäre – unsere Hölle aus Beleidigungen und Lügen – inzwischen normal erscheinen mag,[132]   war sie es durchaus nicht immer. Ich mache mir Sorgen um die jungen Leute, die in unserem Chaos aufwachsen und glauben müssen, das sei schon immer so gewesen.

Während meiner Arbeit am vorliegenden Buch entstand eine neue gesellschaftliche Bewegung namens #metoo, mit der Frauen sich gegen sexuelle Belästigung wehren. BUMMER-Algorithmen sind jetzt gerade, während ich hier tippe, dabei, alle Einzelheiten zu #metoo zu verdauen: Wie kann man die Bewegung irgendeinem Arschloch irgendwo dienstbar machen, um jemanden zu verärgern, damit er mehr Engagement zeigt und manipulierbarer wird? Wie kann man Aktivisten dazu bringen, weniger Zustimmung zu empfinden? Welche Aussichten bestehen für Manipulatoren/Anzeigenkunden, die wie Trolle oder vielmehr Trawler nach Methoden fischen, die Welt zu ruinieren?[133]

10

Social Media hasst deine Seele

Ich bin einer metaphysischen Metapher begegnet

Die vorangegangenen neun Kapitel haben ein Netz von Mustern innerhalb einzelner Menschen und zwischen ihnen aufgezeigt, das durch BUMMER zerstört worden ist.

Eine kurze Zusammenfassung: Dein Verständnis anderer Menschen wird zerstört, weil du nicht weißt, was sie in ihren Feeds alles zu sehen bekommen, und umgekehrt gilt das auch für sie. Du kannst dich nicht mehr auf das Mitgefühl anderer verlassen, weil du den Zusammenhang nicht kennst, in dem sie deine Aussagen zu sehen bekommen. Du wirst wahrscheinlich ein größeres Arschloch, und gleichzeitig unglücklicher – ein weiteres Paar BUMMER-Schäden, die zusammengehören wie Spiegelbild und Original. Deine Fähigkeit, die Welt zu verstehen und die Wahrheit zu erkennen, nimmt ab, während die Fähigkeit der Welt, dich zu verstehen, korrumpiert wird. Die Politik wird unwirklich und angsteinflößend, die Wirtschaft unwirklich und nicht nachhaltig: zwei Seiten einer Medaille.

Alle diese Paarungen werfen ein Netz der Veränderung über das menschliche Dasein. Dieses Netz ist so eng, dass wir bis zum ersten Kapitel zurückgehen müssen, um uns zu fragen, ob die Metapher, die dort ins Spiel gebracht wurde, vielleicht zu schwach war. Im ersten Kapitel ging es darum, dass BUMMER-Nutzer in suchterzeugenden Verhaltensmodifikationsmaschinerien gefangen sind. Diese Metapher haben einige BUMMER-Gründer gewählt, um ihr Bedauern auszudrücken, und die einzelnen Teile des Phänomens fügen sich in dieses Erklärungsmodell gut ein. Es ist nützlich. Aber ist es auch adäquat?

Üblicherweise sperrt man ein einzelnes Geschöpf in einen Käfig und manipuliert sein Verhalten. Hier haben wir es hingegen damit zu tun, dass die gesamte Gesellschaft in einer koordinierten Aktion manipuliert wird. Wir müssen daher einen größeren Rahmen als Erklärungsmodell finden, wofür es nicht viel Auswahl gibt. Das Nächstliegende ist vielleicht die Religion.

Sämtliche Argumente für eine Löschung deiner Accounts haben zunächst einen praktischen Hintergrund. Im Grunde geht es jedoch um die tiefsten und empfindlichsten Überlegungen, was es bedeutet, ein Mensch zu sein.

Wenn du BUMMER-Medien benutzt, akzeptierst du implizit ein neues spirituelles Rahmenwerk, so wie die AGBs, die du mit einem Klick akzeptierst, ohne sie zu lesen. Du erklärst dich damit einverstanden, etwas sehr Persönliches an der Beziehung zu deiner Seele zu ändern. Wenn du BUMMER nutzt, hast du statistisch gesehen wahrscheinlich bereits in gewissem Maße das aufgegeben, was du als deine Religion betrachtest, auch wenn es sich dabei um Atheismus handeln sollte. Du bist in ein neues spirituelles Rahmenwerk eingeführt worden.

Ich meine das nicht im übertragenen Sinne und will auch nicht locker-ironisch rüberkommen, sondern versuche ernsthaft zu erklären, was vorgeht.

Die ersten vier Prinzipien der BUMMER-Spiritualität

Betrachten wir die ersten vier Argumente noch einmal unter spirituellem Gesichtspunkt.

Im ersten Kapitel ging es um den freien Willen. Der freie Wille ist eine geheimnisvolle Vorstellung, etwas, woran man a priori glauben muss. Ist es überhaupt sinnvoll, davon auszugehen, dass es ihn gibt? Vielleicht gibt es ihn gar nicht, vielleicht ist er eine Illusion. Die meisten Religionen postulieren ihn jedoch als Grundvoraussetzung. Es muss ihn geben, damit der Gläubige Entscheidungen treffen kann, die sein Karma verbessern oder ihn in den Himmel bringen. Selbst der weltabgewandteste Buddhist muss vom freien Willen ausgehen, um einen Zustand anstreben zu können, der ihn transzendiert.

Der Begriff des freien Willens wirkt vielleicht altmodisch. Fortschrittliche Nerds unter den Philosophen, Ingenieuren und Revolutionären greifen ihn seit Jahrhunderten an.

Warum sollte man sich Menschen nicht als Maschinen vorstellen, die zwar eine biologische Evolution durchlaufen haben, aber dennoch Maschinen sind? Man könnte die Menschen auf gutes Benehmen programmieren, und das Projekt »Menschheit« liefe prächtig. Behavioristen, Kommunisten und die Entwickler sozialer Medien im Silicon Valley heutzutage versuchen alle genau das.

Aber jedes Mal, wenn ein Nerd versucht, den freien Willen von der Bühne zu verbannen, taucht er woanders und mit größerer Kraft wieder auf. Im selben Moment, in dem proklamiert wird, dass Gemeinschaftsalgorithmen oder Künstliche Intelligenz die individuelle Kreativität des Menschen irgendwann übertreffen werden, begeistert sich die Welt für einen Silicon-Valley-Unternehmer, KI-Programmierer oder Ideologen, der sich als Visionär gibt, eine Delle ins Universum schlägt (wie es Steve Jobs ausdrückte) und den Fahrplan für die Zukunft schreibt.

Die Art, wie wir mit BUMMER interagieren, scheint zunächst einer Beerdigung des freien Willens gleichzukommen. Wir übertragen einen Großteil unserer Entscheidungsfreiheit an eine weit entfernte Firma und ihre Kunden. Sie übernehmen einen gewissen Anteil von der Bürde unseres freien Willens, der uns damit entzogen ist. Sie entscheiden von jetzt an, was wir erfahren, was uns interessiert, was wir tun sollen. Aber es ist kein Geheimnis, dass diejenigen, die hinter diesem Programm stehen, erstaunlich viel Geld und Macht in unglaublich kurzer Zeit angesammelt haben. Wie aber könnte es Macht geben, wenn es keinen freien Willen gäbe?

BUMMER bringt also intrinsisch eine strukturelle anstatt einer ontologischen Veränderung im Wesen des freien Willens mit sich. Dein freier Wille existiert weiterhin, wenn auch unter einem Trommelfeuer von Beleidigungen. Die entscheidende Veränderung besteht darin, dass du jetzt weniger freien Willen hast und dass einige wenige, die du nicht kennst, mehr davon haben. Ein Teil deiner Willensfreiheit ist auf sie übertragen worden. Im Goldenen Zeitalter ist Willensfreiheit gleichsam zur Währung geworden.

Diese Veränderung geht über Wirtschaft und Politik hinaus. Sie ist kennzeichnend für Religionen, die propagieren, dass nur ihre Führer ein Mandat des Himmels haben.

Das zweite Kapitel umriss ein spezifisches Problem, mit dem wir uns zu befassen hatten, eine Struktur, die ich BUMMER nannte. Damit wollte ich ein klar umgrenztes Ziel für Veränderungen angeben, anstatt über alle Erscheinungen der Moderne in Verzweiflung auszubrechen. Die Struktur entpuppte sich weniger als technologisches denn als geschäftliches Unternehmen, das perverse Anreize ausspeit.

Eine weitere Parallele zur Religion? Vielleicht lehne ich BUMMER aus demselben Grund ab wie die Protestanten damals die Sündenablässe gegen Geld. Die Ablehnung von Begleiterscheinungen einer Religion, ohne den Kern der Religion selbst anzugreifen, hat eine lange Geschichte.

Wenn die BUMMER-Theorie zutrifft, ist das Gesamtprojekt »Internet« nicht falsch. Wir dürfen uns an seinem Kern nach wie vor erfreuen. BUMMER möchte dich glauben machen, dass es ohne BUMMER keine Gadgets, kein Internet, keine Selbsthilfegruppen in schlechten Zeiten geben würde, aber das stimmt nicht. Es ist eine Lüge, die du bejubelst und förderst, wenn du BUMMER nutzt, genauso wie jedes Mitglied einer korrupten Kirche deren Korruption fördert.

Im dritten Kapitel ging es darum, wie man zum Arschloch wird. Das bedeutet wohlgemerkt nicht, dass man sich gegenüber jedem immer wie ein Arschloch benimmt, sondern einfach, dass dein Einzelgänger-/Rudel-Schalter auf »Rudel« steht. Du konzentrierst dich auf die Dynamik im Rudel und zwischen den Rudeln. Gegenüber Mitgliedern anderer Rudel und denen des eigenen Rudels, die in der Rangordnung unter dir stehen, verhältst du dich wie ein Arschloch, manchmal auch gegenüber den dir gleichrangigen eigenen Rudelmitgliedern.

Du brauchst dir nur die Rolle der Religion in den Konflikten anzuschauen, die überall auf der Welt ausgetragen werden und wurden, um zu erkennen, dass diese Dynamik ebenso für Religionen gilt. Es ist heute leider ganz normal geworden – traurige Beispiele dafür finden sich im neunten Kapitel über Politik –, dass BUMMER alte Konflikte, die mit der Religion zusammenhängen, wieder aufwärmt, um die Nutzer so intensiv wie möglich zu binden.

Im vierten Kapitel ging es um die Untergrabung der Wahrheit, in spiritueller Hinsicht ist das also ein dicker Brocken.

Strenge Religionen verlangen von den Gläubigen mitunter, dass sie bestimmte Thesen, die entweder nicht beweisbar sind oder sogar einfach widerlegt werden können, als Glaubenswahrheiten annehmen. Es gibt zum Beispiel immer noch religiöse Menschen, die glauben, die Sonne umkreise die Erde.[134]

Etwas nur deshalb zu glauben, weil man es durch ein bestimmtes System erfahren hat, bedeutet, diesem System seine kognitive Fähigkeit zu übertragen. BUMMER-Süchtige nehmen unvermeidlich zumindest einige lächerliche Vorstellungen hin, um überhaupt teilnehmen zu können. Man muss zum Beispiel ausreichend stark an die Klugheit der BUMMER-Algorithmen glauben, um zu lesen, was sie dir zu lesen geben, trotz der Beweise, dass diese Algorithmen so klug gar nicht sind.[135]   Man muss alberne Verschwörungstheorien akzeptieren, um zu vermeiden, in einem Großteil der BUMMER-Welt zum Opfer von Trollen zu werden. Man muss sich eine Weltsicht zu eigen machen, in der die Gruppe abgelehnt wird, gegen die man vom Algorithmus aufgestellt wird.[136]

Ich benutze hier bewusst die beiden Begriffe »spirituell« und »religiös«, und zwar deshalb: Religionen erheben gewöhnlich bestimmte Wahrheitsansprüche, Spiritualität dagegen gewöhnlich nicht. Spiritualität ist gewöhnlich etwas besser mit aufgeklärter Denkweise vereinbar.

Die Aufklärung baute auf Methoden der Erkenntnis, die nicht von menschlichen Machthierarchien abhängen. Grundlegend für das Denken der Aufklärung wurde die wissenschaftliche Methode der Bestätigung von Theorien durch experimentelle Belege einerseits und logisches Denken andererseits. Naturwissenschaften und Technik haben bisher auf die Epistemologie der Aufklärung vertraut, scheinen aber jetzt von der schrecklich regressiven BUMMER-Epistemologie überrannt zu werden.

Wahrscheinlich kennst du das Wort »Mem« in der Bedeutung »BUMMER-Post, der sich viral verbreiten kann«. Ursprünglich stand »Mem« aber für eine Philosophie von Gedanken und Bedeutung. Geprägt hat diesen Begriff der Evolutionsbiologe Richard Dawkins. Für ihn sind Meme Teile einer Kultur, die miteinander im Wettbewerb stehen und in einem Selektionsprozess nach Art der Darwin’schen Evolutionstheorie entweder weitergegeben oder ausgeschieden werden. So setzen sich manche Moden, Vorstellungen und Gewohnheiten fest, während andere aussterben.

Mit dem Mem-Konzept lässt sich alles, was Nicht-Nerds so tun – die Geisteswissenschaften, Kunst, Kultur und Politik – als Beispiele eines Memwettbewerbs kategorisieren, als bloße Unterprogramme eines umfassenderen Algorithmus, den die Nerds kontrollieren können. Als das Internet Fahrt aufnahm, kamen Dawkins’ Ideen in Mode, weil sie den IT-Leuten schmeichelten.

Es gab von Anfang an ein allgegenwärtiges Genre von Lobeshymnen auf das Internet, in dem der jeweilige Verfasser auf die virale Verbreitung eines Mems hinwies und sich darüber freute, wie toll das sei. Dieses Genre gibt es immer noch. Meme waren ursprünglich Ausdruck der Solidarität mit einer Philosophie, die ich kybernetischen Totalismus zu nennen pflegte und die BUMMER bis heute zugrunde liegt.

Meme scheinen eine Aussage pointierter wiederzugeben, aber das ist eine Illusion. Vielleicht setzt du ein virales Mem über einen Politiker in Umlauf und weist damit auf etwas Wichtiges hin, aber insgesamt förderst du nur die Vorstellung, Viralität sei gleich Wahrheit. Deine Aussage wird von jeder anderen übertrumpft, wenn diese noch viraler geht. Das ist so gewollt. Die BUMMER-Architekten waren schließlich Mem-Gläubige.

Vielleicht kann man sagen, dass im ganz großen Gesamtbild Viralität tatsächlich gleich Wahrheit ist. MemGlauben wird mit der Zeit zu Wahrheit, aber nur nach sehr, sehr langer Zeit. Wenn die Menschheit sich selbst vernichtet, weil bösartige Meme uns zum Beispiel daran hindern, mit dem Klimawandel fertigzuwerden, dann wird in hundert Millionen Jahren eine Spezies intelligenter Oktopusse auf unsere Überreste stoßen und sich fragen, was wir falsch gemacht haben.

Rationalität ist etwas anderes als Evolution. Sie arbeitet schneller. Wie sie allerdings arbeitet, wissen wir nicht.

Im menschlichen Geist passiert jenseits der Meme noch etwas. Unsere Fähigkeit, Rätsel zu enträtseln, ist immer noch selbst ein Rätsel. Diese Wahrheit ist anscheinend nicht leicht zu akzeptieren, und manche Techies leugnen sie ihr ganzes Leben lang.

Hier noch ein paar Wahrheiten: Bisher gibt es keine wissenschaftlich exakte Beschreibung eines Gedankens oder eines Gesprächs. Wir wissen nicht, wie Vorstellungen im Gehirn dargestellt werden. Wir wissen, wissenschaftlich gesehen, nicht einmal, was eine Vorstellung ist. Das heißt nicht, dass wir es prinzipiell nicht erkennen können, sondern nur, dass wir es noch nicht geschafft haben. Wir können uns vormachen, dass diese Erkenntnis jeden Moment bevorstehe, und so tun, als besäßen wir sie bereits, aber damit belügen wir uns selbst.

Bei Diskussionen über Politik, Kultur, Kunst oder Recht kann Quantität Qualität nicht ersetzen, obwohl wir nicht wissen, was Qualität eigentlich ist. Möglicherweise können die Algorithmen, die wir heute zu schreiben verstehen, Terroristen oder ausländische Agenten prinzipiell nicht von Normalbürgern unterscheiden, die nicht die Welt zerstören wollen.

Grundlage jeder Wahrheitssuche ist notwendigerweise die Fähigkeit, seine eigene Unwissenheit zu erkennen. Unwissenheit zu erkennen ist eine schöne Eigenschaft, die Wissenschaft und Spiritualität miteinander teilen. BUMMER dagegen weist sie zurück.

Für BUMMER-Politik, BUMMER-Kunst, BUMMER-Handel und BUMMER-Leben ist Viralität gleich Wahrheit.

Ich habe hier die ersten vier Kapitel in einer fundamentaleren Sichtweise als oben Revue passieren lassen. Ich möchte nicht alle zehn noch mal durchgehen. Das Prinzip der BUMMER-Medien lautet in jedem Fall, die Eigenschaften der Spiritualität mit ihren eigenen Merkmalen zu ersetzen, das wird anhand der gegebenen Beispiele ausreichend klar. Aber ich muss noch tiefer ansetzen.

BUMMER-Glaube

Nicht alle Fragen können mit Hilfe von Beweisen entschieden werden. Wenn man etwas glaubt, bedeutet das also nicht zwangsläufig, dass man Fakten leugnet. Religionen, die ihrem Anspruch gerecht werden, befassen sich mit den tiefsten, wichtigsten und empfindlichsten Fragen, die wir wissenschaftlich nicht angehen können, wie etwa: Was ist der Sinn des Lebens? Warum existiert alles? Was ist das Bewusstsein? Was ist der Tod? Was ist Sinnhaftigkeit?

Indem du BUMMER nutzt, machst du dir allmählich die BUMMER-Antworten auf diese Fragen zu eigen. Und BUMMER gibt dir in der Tat Antworten: schreckliche Antworten! Diese Eigenschaft von BUMMER ärgert mich vielleicht am meisten.

Laut BUMMER ist der Zweck des Lebens die Optimierung. Laut Google »die Informationen der Welt zu organisieren«. Aber im typischen Silicon-Valley-Weltbild ist alles Information. Man kann Materie hacken, den menschlichen Körper und so weiter. Googles Unternehmensvision lautet daher aus dem Verständnis der IT-Kultur heraus gesehen, »die ganze Welt zu organisieren«. Deshalb hat Google alle diese komischen Alphabet-Firmen gegründet. Vielleicht hast du dir über Googles Weltsicht oder Vision noch keine Gedanken gemacht, aber du akzeptierst sie, wenn du deine Internetpräsenz optimierst, um in den Google-Suchergebnissen möglichst vorne zu stehen oder wenn du dein Video so gestaltest, dass du möglichst hohe Zuschauerzahlen erreichst. Die Optimierung ist zum Zweck deines Lebens geworden. Du bist getauft worden.[137]

Eigentlich ist immer Google für die unheimlicheren Aussagen zuständig, aber jetzt hat Facebook nachgezogen. Kürzlich wurde die Unternehmensvision überarbeitet, sie umfasst nun auch Direktiven wie die, dafür zu sorgen, dass »jeder einzelne Mensch ein Ziel und ein Gemeinschaftsgefühl hat«.[138]   Ein einzelnes Unternehmen will also dafür sorgen, dass jeder einzelne Mensch ein Ziel bekommt, weil es annimmt, das habe ihm vorher gefehlt. Wenn das keine neue Religion ist, weiß ich auch nicht.

Google ist bekannt dafür, ein Projekt finanziert zu haben, das den »Tod abschaffen« sollte.[139]   Das ist so exakt ein religiöses Vorhaben, dass es mich überrascht, dass die Religionen der Welt Google nicht wegen Urheberrechtsverletzung verklagt haben.[140]   Google hätte ja auch von Lebensverlängerung oder Alternsforschung reden können, aber es musste unbedingt der Hauptpreis sein. Es ging darum, zum Herrn dessen zu werden, was dir am heiligsten ist. BUMMER muss dich besitzen, um überhaupt etwas zu besitzen.

Auch Facebook spielt mit. Die Facebook-Seite eines Verstorbenen wird zu einem Gedenkschrein, den man nur besuchen kann, wenn man Mitglied ist, und um Mitglied zu werden, muss man notwendigerweise Anhänger sein.

Googles Chefingenieur Ray Kurzweil propagiert derweil die Vorstellung, dass Google eines Tages dein Bewusstsein in die Netzwerk-Cloud des Unternehmens hochladen kann, so wie die Fotos deines Smartphones. Er ist bekannt dafür, dass er jeden Tag eine ganze Schachtel Langlebigkeitspillen schluckt, um noch zu erleben, dass dieser Dienst online geht. Bedenke, was hier geschieht. Die These lautet nicht etwa, dass es kein Bewusstsein gibt, sondern dass es, was auch immer es genau ist, Google gehören wird, denn worum könnte es bei diesem Dienst sonst gehen?

Ich habe keine Ahnung, wie viele Leute wirklich glauben, dass Google zum Herrscher über das ewige Leben werden wird. Aber solche markigen Werbesprüche tragen auf jeden Fall dazu bei, dass es zunehmend natürlich und normal wirkt, wenn ein BUMMER-Unternehmen so viel Wissen und Macht über das Leben von so vielen Menschen gewinnt.

Das ist nicht nur reine Metaphysik, sondern schon metaphysischer Imperialismus. Wenn du ihnen das alles abkaufst, explizit oder de facto, darfst du dich nicht einmal mehr als Atheisten oder Agnostiker bezeichnen. Du bist ein Konvertit.

BUMMER-Himmel

Einer der Gründe, warum BUMMER so und nicht anders funktioniert, ist, dass Ingenieure, die bei BUMMER-Unternehmen angestellt sind, oft glauben, die höchste Priorität aller höchsten Prioritäten bestehe nicht darin, den Menschen der Gegenwart zu dienen, sondern der Künstlichen Intelligenz den Weg zu bereiten, weil sie die Erde erben wird. Die ständige Überwachung der User und das Testen von Verhaltensänderungen an Massen von Menschen dient vermutlich dem Sammeln von Daten, aus denen sich die Intelligenz zukünftiger KIs weiterentwickeln wird. (Man fragt sich, ob KI-Entwickler glauben, die Manipulation von Menschen sei der Zweck der KIs.)

Die großen Hightech-Unternehmen haben sich öffentlich auf einen extravaganten »KI-Wettlauf« eingelassen, den sie mitunter allem anderen voranstellen.[141]   Es ist völlig normal, einem Manager eines der weltgrößten Konzerne dabei zuzuhören, wie er sich über die Möglichkeit der kommenden Singularität auslässt, in der die KIs die Herrschaft übernehmen. Die Singularität ist die Antwort der BUMMER-Religion auf den Glauben an die Entrückung der fundamentalistischen Christen. Die Verrücktheit wird zur Normalität, wenn BUMMER-Kunden, oft selbst Techies, KI als ein kohärentes und sinnvolles Konzept akzeptieren und finanzielle Entscheidungen darauf gründen.[142]

Das ist Schwachsinn. Wir vergessen dabei, dass KI eine Geschichte ist, die wir Kybernetiker vor langer Zeit erfunden haben, um an Forschungsgelder zu kommen, damals, als wir noch von staatlicher Förderung abhingen. Damals war es eine Notlüge, aber inzwischen hat die KI sich selbständig gemacht und ihre Erfinder überholt.

KI ist nur eine Phantasie, nur ein Märchen, das wir über unsere Programme erzählen. Außerdem ist es eine gute Ausrede für schlampige Programmierung. Ein angebliches KI-Programm zu schreiben, das einen Feed personalisiert, ist weniger Arbeit, als eine wirklich gute Benutzeroberfläche zu entwerfen, mit der sich die Nutzer ihren Feed nach eigenen Wünschen zusammensuchen und auswählen können – eben weil es bei der KI keine objektiven Erfolgskriterien gibt.

Wer entscheidet denn eigentlich, wann ein Programm als »intelligent« gilt? Schon vor langer Zeit, in den neunziger Jahren, haben meine Freunde und ich die ersten Programme entwickelt, mit denen sich die Mimik einer Person in Echtzeit auf das animierte Gesicht einer phantastischen Kreatur oder eines anderen Menschen übertragen ließ. Wir kamen gar nicht auf die Idee, das als KI auszugeben. Es war nur ein Beispiel für originelle Bildverarbeitung. Inzwischen aber wird diese Fähigkeit oft als KI bezeichnet.

Man kann inzwischen alle möglichen Programme als KI bezeichnen oder auch nicht, je nachdem. Wenn ein Programm als KI bezeichnet wird, dann ist es ein unvermeidliches Resultat, dass die Erfolgskriterien vage werden. KI ist ein Rollenspiel für Entwickler, keine eigenständige technische Errungenschaft.

Viele als KI bezeichnete Algorithmen sind interessant und leisten durchaus etwas, aber sie wären verständlicher – und vielleicht sogar leistungsfähiger – ohne das KI-Märchen dahinter. Im achten Kapitel über die Wirtschaft habe ich ein Beispiel dazu gegeben. Übersetzer von einer Sprache in eine andere bekommen erzählt, dass sie überflüssig werden. Sie verlieren nicht nur ihren Lebensunterhalt, sondern werden auch ihrer Würde beraubt, weil das Narrativ ihrer Überflüssigkeit eine Lüge ist. Sie sind weiterhin wertvoll und werden gebraucht, weil es ohne die manuell von ihnen produzierten Daten keine »automatischen« Übersetzungsdienste gäbe.

Existenz ohne BUMMER

Es ist fast unmöglich, über die großen spirituellen oder philosophischen Themen zu schreiben, weil die Menschen darauf sehr empfindlich reagieren. Aber ich würde mich um meine Verantwortung drücken, wenn ich mich nicht dazu äußern würde, wie ich selbst zu den Grundfragen stehe, deren Beherrschung BUMMER an sich ziehen will. Ich hoffe, diese Erklärung wird als eher allgemein und unstrittig wahrgenommen, wobei sie die angesprochenen Fragen natürlich nicht banalisieren soll.

Ich habe ein Bewusstsein. Ich glaube daran, dass auch du ein Bewusstsein hast. Wir beide erfahren die Welt.

Es ist ein Wunder. Ich definiere Erfahren nicht als entweder natürlich oder übernatürlich. Ich weiß nicht genug, um zu entscheiden, ob das die einzigen beiden Möglichkeiten sind.

Wir können das Gehirn erforschen, aber wir wissen nicht, ob ein Gehirn als Voraussetzung, damit es funktioniert, notwendigerweise etwas erfahren muss. Etwas zu erfahren ist ein Geheimnis, das größer als andere Geheimnisse ist, weil wir keine Methode kennen, um es zu zergliedern, wenn wir es studieren wollen. Wir wissen nicht, ob es sinnvoll ist, von Erfahrensteilchen zu sprechen, sogenannten »Qualia«.

Es ist möglich, in der Existenz des Erfahrens der Welt einen Hoffnungsschimmer für ein Leben nach dem Tod zu sehen, aber die bloße Tatsache, dass wir erfahren, während wir leben, ist dafür kein Beweis. Trotzdem ist es nicht irrational, seinen Glauben an oder die Hoffnung auf ein Leben nach dem Tod auf der mysteriösen Existenz einer inneren Erfahrungswelt in diesem Leben zu gründen. Niemand weiß, was in unserer seltsamen Realität wirklich vorgeht, aber wenn man ein Gefühl der Positivität, der Gnade und der fortschrittlichen Kreativität in der Welt spürt, dann verbindet dieses Erfahren uns vielleicht mit etwas Größerem.

Wir können das Erfahren akzeptieren, wir können es genießen, wir können auf sein Mysterium emotional reagieren, vielleicht sogar mit positiven Emotionen. Wenn wir anerkennen, dass Erfahren wirklich existiert, könnte uns das freundlicher gegenüber unseren Mitmenschen stimmen, weil wir dann begreifen, dass sie mehr als Maschinen sind. Wir würden vielleicht ein bisschen nachdenken, bevor wir jemanden verletzen, wenn wir daran glauben, dass in diesem Menschen ein ganzer Erfahrensschatz verborgen ist, ein ganzes Universum, eine Seele.

BUMMER-Antimagie

Sollten Maschinen »Gleichberechtigung« genießen, wie es in der IT-Szene so oft gefordert wird? In Saudi-Arabien hat vor kurzem ein »weiblicher« Roboter das Bürgerrecht erhalten – und damit auch Rechte, die echten saudischen Frauen verweigert werden.[143]

Das ist ein großes Problem der Gleichsetzung von Mensch und Maschine. Stell dir einen metaphorischen Kreis der Empathie vor, der dein Handeln bestimmt. Innerhalb dieses Kreises befinden sich diejenigen, die du akzeptierst und als menschlich anerkennst. Wenn du diesen Kreis zu weit fasst, wird seine Begrenzung schwammig. Deine Empathie wird absurd und du merkst nicht mehr, dass du echte Menschen verletzt. Die Saudis sind nicht die Einzigen, die Empathie für stumme Gerätschaften propagieren, um diese Empathie gleichzeitig echten, mit einem Maulkorb versehenen Menschen verweigern zu können. Dasselbe sieht man auch bei Aktivisten für den Schutz ungeborenen Lebens[144]   und bei Tierrechtlern.

Das Geschäft mit BUMMER ist fest mit einer neuen Religion verwoben, die Computerprogrammen Empathie entgegenbringt – indem sie sie als KI-Programme bezeichnet –, damit es nicht so auffällt, wie sehr sie Würde, Stellung und Rechte der echten Menschen unterwandert.

Das Bewusstsein ist das Einzige, was nicht geschwächt wird, wenn man davon ausgeht, dass es nur eine Illusion ist. Man müsste die Illusion erleben, damit sie existiert. Die Schattenseite davon ist, dass man sein eigenes Bewusstsein verleugnen kann, wenn man bewusst die Tatsache ignoriert, dass man die Welt erfährt.

Man kann also sein eigenes Bewusstsein in Rauch auflösen. Man kann den Glauben an sich selbst verlieren und sich selbst verschwinden lassen. Ich nenne das Antimagie.

Wenn man eine Gesellschaft schafft, die den Glauben an Bewusstsein und Erfahren unterdrückt, um die Ausnahmestellung der menschlichen Person zurückzuweisen, dann wird der Mensch vielleicht wirklich zu einer Maschine.

Genau das tut BUMMER. Deine Erfahrung mit BUMMER vermittelt dir, dass du nur eine unwichtige Zelle im großen Superorganismus der BUMMER-Plattform bist. Wir reden mit unseren BUMMER-vernetzten Gadgets, als seien sie Menschen, und diese »Verständigung« gelingt umso besser, je mehr wir selbst dabei wie Maschinen reden. Wenn du so lebst, als seist du nichts Besonderes und als glimme in dir kein mystischer Funke, dann glaubst du es irgendwann auch.

Wenn diese neue Herausforderung des Menschseins nur eine Frage persönlicher spiritueller Konflikte wäre, könnten wir vielleicht sagen, dass jeder Mensch selbst damit fertigwerden müsse. Aber diese Herausforderung hat gravierende soziale Folgen.

Spirituelle Angst ist ein Universalschlüssel zur Erklärung von Problemen in unserer Welt, deren Zusammenhang untereinander wir sonst nicht erkennen würden. BUMMER-Technokraten stellen die Moderne gerne als Angriff auf die Sonderstellung des Menschen dar, und natürlich reagieren die Menschen darauf entsetzt, als ob sie abgeschafft werden sollten. Das ist eine vernünftige Reaktion, weil es solche Äußerungen tatsächlich gibt.

Die Probleme, die die US-amerikanische Gesellschaft auseinanderreißen, drehen sich alle um die Frage, ob der Mensch eine Sonderstellung hat und wo man seine Seele finden kann, wenn es eine gibt. Ist Abtreibung hinnehmbar? Wird die menschliche Arbeitskraft überflüssig, sodass alle außer einer Elite von wenigen IT-Typen schließlich von einem garantierten Grundeinkommen leben werden müssen? Sollten wir alle Menschen als gleichwertig betrachten, oder steht einigen Menschen das Selbstbestimmungsrecht eher zu als anderen, weil sie sich gut auf nerdige Tätigkeiten verstehen? Diese Fragen scheinen auf den ersten Blick nichts miteinander zu tun zu haben, lassen sich aber alle auf die eine Grundfrage zurückführen: Was ist ein Mensch?

Was auch immer ein Mensch ist – wenn du einer sein willst, dann lösch deine Nutzerkonten.

Fazit: Katzen haben neun Leben

Ich hoffe, dieses Buch hat dir geholfen, eine Katze zu werden. Sei dir bitte bewusst, dass ich hier noch längst nicht alle Argumente in Hinblick auf Social Media gebracht habe, die du bedenken solltest. Es gibt noch viel mehr. Ich habe nur diejenigen dargestellt, für die ich durch persönliche Kontakte oder Fachwissen besonders qualifiziert bin.

Dieses Buch befasst sich nicht mit Problemen der Familiendynamik, dem unerträglichen Druck, der auf jungen Menschen, besonders auf jungen Frauen, lastet (bitte lies dazu Sherry Turkle), dem Missbrauch sozialer Netzwerke durch Scammer, der möglichen Diskriminierung von Nutzern durch Social-Media-Algorithmen aus rassistischen oder anderen schrecklichen Gründen (bitte lies dazu Cathy O’Neil) oder den persönlichen und gesellschaftlichen Folgen fehlenden Datenschutzes, die oft überraschende Formen annehmen. Dieses Buch kratzt nur an der Oberfläche. Schließlich bin ich eine Katze.

Es mag seltsam klingen, wenn jemand wie ich, der selbst zur Silicon-Valley-Gemeinde gehört, dich auffordert, uns Widerstand zu leisten. Wenn du dich mit uns einlässt, wenn du kreativen Widerstand leistest, dann wirkst du aber anderen Kräften entgegen, nämlich den bizarren finanziellen Anreizen, die ich geschildert habe und die uns jetzt Zwänge auferlegen. In gewisser Weise kann dein Widerstand also dazu beitragen, uns zu befreien. Ich fordere keine Opposition, ich bitte um Hilfe.

Am wirksamsten hilfst du uns nicht dadurch, dass du diejenigen angreifst, die dich aus der Ferne manipulieren, sondern indem du dich ganz einfach selbst befreist. Das zwingt die Manipulatoren – uns – zum Umdenken und zu einem besseren Geschäftsmodell.

Wie du ohne Social Media überleben kannst? Ich kenne dich nicht, also weiß ich es auch nicht. Du musst wahrscheinlich ein bisschen kreativ werden. Aber ganz allgemein bitte ich dich: Verteufel das Internet nicht, sondern nutze es! Das Internet selbst ist ja nicht das Problem.

Du musst auch keine Freunde aufgeben: Du kannst per E-Mail statt über die sozialen Netzwerke mit ihnen in Kontakt bleiben. Nimm aber einen E-Mail-Provider, der deine Mails nicht mitliest. Gmail scheidet also schon mal aus. Du brauchst kein hinterlistiges Unternehmen, das zwischen dir und deinen Freunden steht.

Du kannst weiterhin Nachrichten über das Netz verfolgen: Ruf die Nachrichtenseiten einfach direkt auf (anstatt dich über personalisierte Feeds versorgen zu lassen), besonders solche, die investigativen Journalisten einen Arbeitsplatz bieten. Lies dich ein bisschen ein, um die redaktionelle Ausrichtung der einzelnen Seiten herauszufinden. Das kannst du nur, wenn du sie direkt liest. Besonders gute solltest du abonnieren! Lies täglich drei verschiedene Nachrichtenseiten, und du bist besser informiert als ein Social-Media-Nutzer und sparst noch Zeit dabei. Überlege, ob du vielleicht mit einer Browser-Erweiterung die Kommentare blockierst.

Du musst ohne Social Media auch nicht alleine zu Hause rumhocken: Wenn du Ausgehtipps brauchst, schau auf deinen örtlichen Kultur- und Eventseiten nach. Meistens sind sie ganz wunderbar und werden von engagierten Menschen aus deiner Gegend betrieben. Bau deine eigene Website!

Du kannst dir – zumindest vorläufig – auch ohne Google-Nutzerkonto noch Videos auf YouTube anschauen. Ohne solch ein Konto und mit einigen Datenschutz-Erweiterungen kann dich YouTube sehr viel weniger manipulieren.

Klingt nach viel Arbeit, oder? Aber egal, wie viel Mühe du investierst – du gewinnst wahrscheinlich immer noch Zeit, wenn du dein Leben wieder selbst in die Hand nimmst. Du wirst erstaunt sein, wie viel Zeit die BUMMER-Medien dir bisher regelmäßig gestohlen haben.

Lösch alle Nutzerkonten! Auch Instagram und WhatsApp gehören zu Facebook, sammeln deine Daten und spionieren dich aus. Twittere nicht, dass du Facebook verlassen hast, und poste nicht bei Facebook, dass du nicht mehr twitterst.

Du musst nicht unbedingt darauf dringen, dass die Regierung Facebook reguliert oder gar verstaatlicht, bevor du wieder mitmachst. Du musst auch nicht öffentlich fordern, dass Facebook sein Geschäftsmodell ändern muss, obwohl das erreicht werden muss, wenn unsere Spezies langfristig überleben will. Dein unmittelbares Ziel ist nur, eine Katze zu werden.

Das ist wie beim Schreibenlernen. Du kannst nicht richtig lesen, bevor du nicht zumindest ein bisschen schreiben gelernt hast. Wir bringen Schülern das Schreiben nicht in der Hoffnung bei, dass sie alle professionelle Autoren werden. Das wäre zu grausam. Vielmehr hoffen wir, dass sie lernen, was es bedeutet zu schreiben – und zu denken. Damit sie sich dann auch beim Lesen mehr Gedanken machen. Das Internet kann man nicht richtig benutzen, bis man es zu seinen eigenen Bedingungen kennengelernt hat, zumindest eine Zeit lang. Dabei geht es um deine eigene Integrität, nicht um die der Welt.

Es wird wohl kaum sofort zu einer großen Austrittswelle bei den Social-Media-Netzwerken kommen. Das Zusammenspiel von Massenabhängigkeit und Netzwerkeffekten ist ein massives Hindernis. Aber es werden immer mehr Menschen auf die damit verbundenen Probleme aufmerksam, äußern ihre Bedenken und können dadurch etwas bewirken. Auch du kannst etwas bewirken. Wenn du deine Nutzerkonten löschst, wenn auch nur vorübergehend, dann trägst du zur Lösung bei.

Es gibt eine tiefere Wahrheit. Veränderungen fallen immer schwer, aber wenn du den Techies etwas Druck machst, kannst du ihnen den Anstoß geben, den sie brauchen und sich im Geheimen sogar wünschen. Erfolgreiche Techies sind durch ihren Reichtum manchmal isoliert und erscheinen unerreichbar, aber im Grunde fehlt ihr ihnen. Es ist kein schönes Gefühl, von der Gesellschaft abgeschnitten zu sein. Wenn man den Techies Gelegenheit gibt, die Probleme beheben zu helfen, die sie mitgeschaffen haben, gewinnen sie wieder Anschluss, und das ist eine gute Sache. Wenn du eine Methode findest, uns herauszufordern, ohne uns zu diffamieren, dann tut uns das nur gut. Sich die Kontrolle über die eigenen Informationen zurückzuholen, ist ein guter Weg.

Zum Schluss möchte ich dich noch daran erinnern, dass dieses Buch dir nicht vorschreiben will, was du denken oder tun sollst. Es ist nicht meine Aufgabe, dich zu verändern – genauso wenig wie die eines BUMMER-Unternehmens. Bevor du es dir aber nicht überlegt hast, kannst nicht mal du selbst bestimmen, was das Beste für dich ist. Zu einem Ergebnis wirst du erst kommen, wenn du dir die Mühe machst, die Welt mit eigenen Augen zu erleben.

Ich weiß, dass wir in einer Welt leben, in der nicht annähernd Chancengleichheit herrscht. Wer auch immer du bist – ich hoffe, du bekommst die Möglichkeiten, dich im Leben auszuprobieren, besonders, wenn du noch jung bist. Sorg dafür, dass weder dein Denken noch dein Leben in stumpfe Routine verfallen. Vielleicht möchtest du die Wildnis erkunden oder eine neue Fähigkeit erlernen. Geh ruhig Risiken ein. Aber welche Form auch immer deine Selbstverwirklichung annimmt, vergiss eins nicht: Befrei dich zumindest für eine Weile von den Verhaltensmodifikationsimperien – sagen wir, ein halbes Jahr lang? Dieses Buch heißt absichtlich nicht »Zehn Gründe, warum du deine Social-Media-Accounts sofort löschen musst und nie wieder welche eröffnen darfst«. Wenn du eine Zeit lang etwas anderes gemacht hast, wirst du selbst am besten wissen, ob du zurückkehren willst. Dann entscheide dich.

ViSiT WWW.iBOOKS.TO

Dank

Die Idee zu diesem Buch entstand auf ungewöhnliche Weise. Wenn man ein Buch herausgebracht hat, gibt man der Presse Interviews. Als ich den Journalisten von meinem vorigen Buch erzählte, in dem es um virtuelle Realität geht, wandte sich das Gespräch aber oft einem anderen, wichtigen und aktuellen Thema zu. Social Media war daran beteiligt, die Welt in Dunkelheit und Wahnsinn zurückzureißen, und ich wurde gefragt, was ich davon halte. Das vorliegende Buch ist aus meinen Gedanken zu diesen Fragen entstanden. Ich muss mich also bei den Journalisten bedanken, die mich darauf gebracht haben, nämlich Tim Adams, Kamal Ahmed, Tom Ashbrook, Zoë Bernard, Kent Bye, Maureen Dowd, Moira Gunn, Mary Harris, Ezra Klein, Michael Krasny, Rana Mitter, Adi Robertson, Peter Rubin, Kai Ryssdal, Tavis Smiley, Steven Tweedie und Todd Zwillich.

Ebenso danke ich Jerry Mander: Der Titel des Buchs ist eine Hommage an sein Werk.

Ich danke Kevin, Satya und meinen vielen anderen Kollegen bei Microsoft, dass sie einen Nonkonformisten wie mich in ihrem Kreis akzeptiert haben. Das heißt nicht, dass ich in irgendeiner Form für Microsoft spreche – dieses Buch stellt ausschließlich meinen eigenen Standpunkt dar.

Unsere Katzen Loof, Potato, Tuno und Starlight haben mich gelehrt, wie man der Domestizierung entgeht, wenn auch nicht so nachdrücklich wie die Meisterin darin, meine Tochter Lilibell. Und natürlich danke ich Lena, meiner wundervollen Frau.

Fußnoten

1  http://www.movingimage.us/exhibitions/2015/08/07/detail/how-cats-took-over-the-internet

2  https://www.smithsonianmag.com/smithsonian-institution/ask-smithsonian-are-cats-domesticated-180955111

3  Nichts für ungut, liebe Hundefreunde! In folgendem Artikel wird spekuliert, dass Hunde sich – wie Katzen – selbst domestiziert haben könnten: https://news.nationalgeographic.com/news/2013/03/130302-dog-domestic-evolution-science-wolf-wolves-human

4  https://www.axios.com/sean-parker-unloads-onfacebook-2508036343.html

5  https://gizmodo.com/former-facebook-exec-you-dont-realize-it-but-you-are-1821181133. Allerdings muss ich darauf hinweisen, dass Palihapitiya in den Tagen nach diesem Statement etwas zurückruderte und erklärte, dass Facebook seiner Meinung nach für die Welt insgesamt ein gutes Werk tue.

6  https://mashable.com/2014/04/30/facebooks-new-mantra-move-fast-with-stability

7  https://en.wikipedia.org/wiki/Catfishing

8  Nicht zu verwechseln mit dem orthographisch gleichen »Engagement« mit französischer Aussprache. »Engagement« bezeichnet in der Social-Media-Welt die Interaktion eines Users mit einer Plattform [Anmerkung des Übersetzers].

9  Die Optimierung von Timing ist nur ein Beispiel von vielen. Jede Design-Entscheidung, die deine Wahrnehmung von Social Media beeinflusst, wird ständig nach ähnlichen Prinzipien optimiert. Der ehemalige Google-Mitarbeiter Tristan Harris hat viele Beispiele gesammelt, zum Beispiel die Art und Weise, wie dir Optionen präsentiert werden, die Möglichkeiten, wie du Optionen anklicken kannst, oder in welcher Abfolge dir und anderen Usern Optionen angezeigt werden. Seine Essays dazu, zum Beispiel »How Technology Hijacks People’s Minds«, gibt es unter http://www.tristanharris.com

10  Mathematiker stellen sich diesen Prozess als Herumkriechen auf einer imaginären »Energie-Landschaft« vor. Jede Stelle auf der Energie-Landschaft entspricht einem Wert eines variablen Parameters. Wenn du also im übertragenen Sinne auf der Landschaft herumkriechst, probierst du unterschiedliche Parametereinstellungen aus. Dabei würde die Einstellung »fünf Sekunden« einem Tal entsprechen, in dem der Algorithmus gelandet ist. In diesem Beispiel gilt »je tiefer, desto besser«, weil es weniger Energie kostet, tiefer zu sein, oder weil du unten etwas finden kannst, vergrabene Goldmünzen zum Beispiel. In dieser Gedankenwelt ist die Einstellung »zweieinhalb Sekunden« ein tieferes Tal, das du nie finden würdest, wenn du mit kleinen Schritten von der Talsohle des Fünf-Sekunden-Tals nach oben kraxelst und dabei immer wieder nach unten rutschen würdest. Die einzige Möglichkeit, das tiefere Tal zu finden, ist, gezwungen zu werden, einen großen spekulativen Sprung zu machen.

11  https://link.springer.com/article/10.1007%2Fs10899–015–9525–2

12  Das bezieht sich auf das Drama Geschlossene Gesellschaft von Jean-Paul Sartre; sieh es dir an!

13  http://people.hss.caltech.edu/~lyariv/papers/DarkSide1.pdf

14  http://esciencenews.com/articles/2008/09/25/from.12.years.onward.you.learn.differently

15  https://source.wustl.edu/2015/05/carrot-or-stick-punishments-may-guide-behavior-more-effectively-than-rewards

16  https://hbr.org/2017/09/what-motivates-employees-more-rewards-or-punishments

17  http://onlinelibrary.wiley.com/doi/10.1002/job.725/pdf

18  https://repositories.lib.utexas.edu/handle/2152/24850

19  http://friendlyorangeglow.com

20  »Skalieren« ist Silicon-Valley-Jargon für den Prozess, etwas riesengroß zu machen. Wenn ich »wir« oder »uns« sage, schließe ich mich selbst mit ein, da ich in den neunziger Jahren als wissenschaftlicher Leiter für die Engineering-Abteilung von Internet2 gearbeitet habe. Das ist ein Konsortium von Universitäten, das sich um das Problem kümmert, wie das Internet auch dann noch reibungslos funktionieren kann, wenn es riesengroß wird.

21  Der Begriff »Monopol« bedeutet, dass es nur einen Verkäufer für etwas gibt; von einem »Monopson« spricht man dagegen, wenn es nur einen Käufer gibt. Man könnte sagen, dass die iOS- und Android-Smartphone-Plattformen ein »Duopol« sind, weil sie die einzigen wichtigen Kanäle für Smartphone-Apps sind, aber man könnte sie auch ein »Duopson« nennen, weil alle Erlöse, die eine App generiert, durch diese Plattformen hindurchfließen müssen.

22  https://www.washingtonpost.com/news/the-switch/wp/2017/10/31/facebook-google-and-twitter-are-set-to-testify-on-capitol-hill-heres-what-to-expect

23  https://thestrategybridge.org/the-bridge/2017/5/10/how-russia-weaponized-social-media-in-crimea

24  https://www.theatlantic.com/magazine/archive/2017/09/has-the-smartphone-destroyed-a-generation/534198

25  https://bits.blogs.nytimes.com/2011/12/03/how-the-internet-is-destroying-everything

26  http://www.berkeleywellness.com/self-care/preventive-care/article/are-mobile-devices-ruining-our-eyes

27  https://en.wikipedia.org/wiki/The_God_that_Failed

28  https://www.forbes.com/sites/elizabethmacbride/2017/12/31/is-social-media-the-tobacco-industry-of-the-21st-century

29  https://www.hud.gov/sites/documents/20258_LEGISLATIVEHISTORY.PDF

30  In etwa: »Verhaltensweisen von Nutzern, die verändert und zu einem Imperium gemacht wurden, das jedermann mieten kann.« »Bummer« ist ein umgangssprachlicher Ausdruck für etwas Unerfreuliches, ähnlich wie »Mist!« oder »blöd!« [Anmerkung des Übersetzers].

31  Schon im Fernsehzeitalter wurde eifrig versucht, BUMMER-Effekte zu erzielen, aber ohne direkte Feedbackschleifen zu einzelnen Personen. Durch heroische Anstrengungen gelang es den Fernsehmachern, ein bisschen BUMMER zu sein, selbst ohne viele Daten. Die »Kultivationshypothese« beschäftigt sich mit diesem Phänomen, siehe https://de.wikipedia.org/wiki/Kultivationshypothese

32  Diese Geschichte wird in späteren Kapiteln ausführlicher erzählt werden.

33  Zwar beläuft sich die Summe, die für Werbung und Marketing im Internet ausgegeben wird, wahrscheinlich immer noch auf nur knapp die Hälfte des gesamten weltweiten Werbebudgets, da das Fernsehen nach wie vor eine wichtige Rolle spielt – vor allem für die älteren Generationen, die damit aufgewachsen sind. Doch die Werbeausgaben steigen, und die meisten neuen Ausgaben fließen in digitale Medien und davon wiederum fast alles davon in BUMMER. Warum sollte eine Gesellschaft einen immer größeren Anteil ihres Wohlstands für Werbung ausgeben? Es gibt zahlreiche Branchenstudien zu diesem Thema, die zu unterschiedlichen Ergebnissen kommen, doch die meisten Analysten stimmen dieser generellen Interpretation zu.

34  Warum wird Google zu den Alpha-BUMMERN gezählt? Erstens hat Google dieses Zeug schon entwickelt, bevor es Facebook überhaupt gab. Trotzdem wirst du Google vielleicht nicht als BUMMER wahrnehmen, wenn du nur bestimmte Google-Angebote – etwa Google Docs – nutzt. Googles Suchfunktion, YouTube und bestimmte andere Google-Dienste erfüllen die Kriterien für BUMMER, obwohl sie normalerweise nicht als Social Media klassifiziert werden. Aber YouTube nutzt ein adaptives Persönlichkeitsprofil von dir, um einen personalisierten Feed von Videos zu generieren, der darauf optimiert ist, süchtig zu machen, einschließlich eines in vielen Fällen hasserfüllten Kommentarbereichs. YouTube lässt Dritte bestimmen, was du zu sehen bekommst, um dadurch dein Verhalten zu verändern. So verdient YouTube Geld – ein klassischer BUMMER. Außerdem fließen die Inhalte deiner vermeintlich Nicht-BUMMER-Aktivitäten auf Google – wenn du zum Beispiel eine E-Mail verfasst – als Daten in das Modell ein, das den BUMMER-Teil antreibt.

35  https://slate.com/technology/2018/03/twitter-is-rethinking-everything-at-last.html

36  https://www.nytimes.com/2017/12/30/business/hollywood-apartment-social-media.html

37  WhatsApp gehört zu Facebook. Obwohl es sich manchmal anfühlt wie jede andere Texting-Plattform, ist es einer der wichtigsten Datensammler für BUMMER. Facebook hat ziemlich heftigen juristischen Gegenwind zu spüren bekommen, weil es in Europa WhatsApp-Daten auf diese Weise genutzt hat (siehe https://www.theverge.com/2017/12/18/16792448/whatsapp-facebookdata-sharing-no-user-consent). Da in den Vereinigten Staaten die Netzneutralitätsbestimmungen gelockert werden, kann es sein, dass sämtliche Textnachrichten – selbst direkte SMS von einem Telefon zum anderen – in BUMMER einfließen werden, aber während ich dies schreibe, scheint es noch nicht passiert zu sein.

38  Der bekannteste aktuelle wissenschaftliche Ansatz zur Erforschung der Entstehung von Arschlöchern ist die SIDE-Theorie. Siehe https://en.wikipedia.org/wiki/Social_identity_model_of_deindividuation_effects, aber bitte versprich mir, dass du dich nicht in einem Edit-War über diesen Wikipedia-Eintrag zum Idioten machen wirst, okay? Wenn du relevante Forschung von einem Wissenschaftler lesen willst, der für Facebook arbeitet, sieh dir die Arbeit von Justin Cheng an: https://www.clr3.com

39  http://leesmolin.com/writings/the-trouble-with-physics

40  Mein Dank an Tim Wu.

41  https://www.recode.net/2016/12/29/14100064/linkedin-daniel-roth-fake-news-facebook-recode-podcast

42  http://www.spiegel.de/international/zeitgeist/smartphone-addiction-is-part-of-the-design-a-1104237.html

43  Wenn du nicht auf BUMMER bist, kannst du tough werden, ohne ein Arschloch zu sein. Ich hoffe, es wird mir gelingen, in diesem Buch Klartext zu reden und emotional zu werden, ohne jemanden zu diffamieren oder zu verdammen. »BUMMER ist zum Kotzen, aber hauptsächlich nur ein beschissenes Geschäftsmodell, und die Leute dahinter sind fast alle wunderbar und haben einfach nur einen Fehler gemacht, den wir alle zusammen aus der Welt schaffen müssen.« Siehst du? Geht doch – es ist gar nicht so schwierig, einen Standpunkt entschieden zu vertreten und überzeugend zu sein, ohne hassen zu müssen. Tatsächlich ist es hier draußen in der Realität schwierig, sich überhaupt daran zu erinnern, wie es eigentlich ist, wenn dein innerer Troll die Kontrolle übernehmen will. Darum schreibe ich diesen Text lieber als Buch und nicht als Online-Posting.

44  https://backissues.time.com/storefront/2017/is-truth-dead-/prodTD20170403.html

45  https://www.theguardian.com/media/2016/jul/12/how-technology-disrupted-the-truth

46  https://www.nytimes.com/interactive/2018/01/27/technology/social-media-bots.html

47  https://www.reuters.com/article/us-ashleymadison-cyber/infidelity-website-ashley-madison-facing-ftc-probe-ceo-apologizes-idUSKCN0ZL09J

48  https://www.forbes.com/sites/kashmirhill/2011/02/11/ashley-madison-lessons-inpromoting-a-sleazy-business

49  https://slate.com/technology/2018/01/robots-deserve-a-first-amendment-right-to-free-speech.html

50  http://money.cnn.com/2017/05/24/media/seth-rich-fox-news-retraction/index.html

51  Damit will ich keineswegs behaupten, dass es eine Verschwörung zwischen neuen und alten Medienunternehmen gibt. Im Gegenteil, zwischen ihnen hat es mehr Spannung als Kooperation gegeben. Wir müssen bedenken, dass BUMMER ein automatisches System ist, das entwickelt wurde, um sich selbst zu optimieren. Es findet Muster, die funktionieren, selbst wenn diese Muster nicht den emotionalen oder politischen Neigungen derjenigen entsprechen, die damit Geld machen. Es ist kein Geheimnis, dass zwischen Fox News und Facebook Spannungen bestehen: Facebook saugt Gelder an, die früher in die alten Medien geflossen wären.

52  https://www.dailydot.com/unclick/shitposting

53  https://www.theguardian.com/us-news/2017/oct/31/facebook-russia-ads-senate-hearing-al-franken

54  https://respectfulinsolence.com/2017/09/28/antivaxers-on-twitter-fake-news-and-twitter-bots

55  https://www.forbes.com/sites/robertglatter/2017/12/23/bot-or-not-how-fake-social-media-accounts-can-jeopardize-your-health

56  https://www.usatoday.com/story/news/nation/2014/04/06/anti-vaccine-movement-is-giving-diseases-a-2nd-life/7007955

57  http://www.telegraph.co.uk/technology/2017/07/03/youtube-refunds-advertisers-terror-content-scandal

58  https://www.theverge.com/2015/2/4/7982099/twitter-ceo-sent-memo-taking-personal-responsibility-for-the

59  http://www.bbc.com/news/uk-england-41693437

60  Ein »Quant« ist ein Mathematiker, der im Finanzsektor arbeitet.

61  Das habe ich in meinem 2010 erschienenen Buch Gadget: Warum die Zukunft uns noch braucht ausführlich beschrieben.

62  http://www.slate.com/articles/business/moneybox/2013/07/how_one_weird_trick_conquered_the_internet_what_happens_when_you_click_on.html

63  Erinnerst du dich noch an die Energie-Landschaft aus der Fußnote 10 im ersten Kapitel? Falls ja, solltest du auch diese Fußnote lesen: Ein System, das durch kleine Änderungen optimiert wird und das nicht auf der grenzenlosen Natur basiert, sondern auf einer umgrenzten, abstrakten, von Menschen konstruierten Umgebung, wird unweigerlich dazu führen, dass Kreativität und Fortschritt auf der Strecke bleiben, weil du in einem nebensächlichen Tal der Energie-Landschaft stecken bleiben wirst.

64  https://www.snopes.com/pizzagate-conspiracy

65  Hier verwende ich den Begriff Empathie für die Fähigkeit, sich einzufühlen in das, was andere Menschen erleben und warum; die Fähigkeit, sich in einen anderen Menschen hineinzuversetzen. Dieser Begriff hatte in verschiedenen Epochen unterschiedliche Bedeutungen. Als er vor etwa einem Jahrhundert Eingang in die englische Sprache fand, bedeutete er ursprünglich, mitzuempfinden, wie ein Mensch sich fühlen würde, der sich vorstellt, irgendein anderes Element des Universums zu sein, etwa ein Berg oder eine Weintraube. Dies sind zwei Beispiele aus den frühesten Gedankenexperimenten. »Empathie« war ein Kunstbegriff für die ästhetischen und psychologischen Vorahnungen von Virtual Reality, siehe https://www.theatlantic.com/health/archive/2015/10/a-short-history-of-empathy/409912

66  https://www.penguinrandomhouse.com/books/309214/the-filter-bubble-by-eli-pariser/9780143121237

67  https://www.theguardian.com/technology/2017/jul/31/facebook-dark-ads-can-swing-opinions-politics-research-shows

68  https://www.forbes.com/sites/jaymcgregor/2017/07/31/why-facebook-dark-ads-arent-goingaway

69  https://slate.com/technology/2018/02/no-a-study-did-not-claim-that-fake-news-on-facebook-didnt-affect-the-election.html

70  Seit ich in Berkeley lebe, fallen regelmäßig Alt-Right-Anhänger in die Stadt ein, um zu demonstrieren. Was ich erstaunlich finde, ist, dass schon mehrfach Männer mit konservativen Parolen auf der Stoßstange ihres Pick-ups meine Familie und mich mit bösen Blicken gemustert haben, obwohl sie nichts über uns wussten. Einmal hat einer absichtlich das Lenkrad verrissen und so getan, als ob er uns überfahren wollte. Wenn ich wissen könnte, was dieser Autofahrer früher erlebt hat, hätte ich eine Chance, Empathie für ihn zu empfinden – vielleicht könnte man sogar miteinander reden. BUMMER hat uns diese Möglichkeit genommen.

71  https://www.wired.com/story/free-speech-issue-reddit-change-my-view

72  https://arxiv.org/abs/1408.3550

73  https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2886783

74  http://journals.plos.org/plosone/article?id=10.1371/journal.pone.0069841

75  https://academic.oup.com/aje/article-abstract/185/3/203/2915143

76  http://rsos.royalsocietypublishing.org/content/3/1/150292

77  https://www.ajpmonline.org/article/S0749–3797(17)30016–8/fulltext?code=amepre_site

78  https://www.theguardian.com/technology/2017/may/01/facebook-advertising-data-insecure-teens

79  http://www.sciencedirect.com/science/article/pii/S0747563214001241

80  https://www.nytimes.com/2014/07/01/opinion/jaron-lanier-on-lack-of-transparency-in-facebook-study.html

81  http://www.pnas.org/content/111/24/8788.full

82  https://newsroom.fb.com/news/2017/12/hard-questions-is-spending-time-on-social-media-bad-for-us/

83  https://slate.com/human-interest/2018/01/the-facebook-moms-group-that-has-helped-me-raise-kids-without-going-crazy.html

84  Hier ist eine Studie, die sowohl positive wie negative Auswirkungen sozialer Netzwerke konstatiert und sie beschreibt: http://www.jahonline.org/article/S1054–139X(15)00214–1/abstract/ Dass soziale Netzwerke Menschen miteinander verbinden, kam zum Beispiel jungen Frauen im College-Alter zugute, die sich Sorgen um ihr Gewicht machten, während die Einstufung in ein Ranking ihnen nicht half. Dieses Ergebnis untermauert die These, dass Verbindungen über das Internet positiv auf die Teilnehmer wirken können, bestimmte zusätzliche Strukturen aber, wie sie von kommerziellen Social-Media-Netzwerken gewöhnlich gepflegt werden, schädlich sind.

85  Natürlich haben soziale Netzwerke unter bestimmten Umständen positive Auswirkungen. Der Gesamteffekt auf den Einzelnen und die Welt ist dennoch negativ. Eine empfehlenswerte Fachzeitschrift zur neuesten Forschung auf diesem Gebiet ist Media Psychology, die bei Taylor und Francis erscheint: http://www.tandfonline.com/loi/hmep20/ Eine ernst zu nehmende Forscherin, die bei Google angestellt ist und auf positive Wirkungen der sozialen Netzwerke hinweist, ist Moira Burke: http://www.thoughtcrumbs.com

86  https://www.sciencedirect.com/science/article/pii/S0747563216302941

87  https://www.eurekalert.org/pub_releases/2015–05/sdsu-caa050415.php

88  http://annenberg.usc.edu/news/around-usc-annenberg/family-time-decreasing-internet-use

89  https://www.theguardian.com/society/2017/sep/23/stress-anxiety-fuel-mental-health-crisis-girls-young-women

90  http://www.pnas.org/content/pnas/early/2017/10/16/1708518114.full.pdf

91   http://www.smh.com.au/technology/smartphoneapps/fuelling-a-mental-health-crisis-instagram-worst-social-network-for-young-peoples-mental-health-20170520-gw9fvq.html

92  https://www.cbsnews.com/news/nsa-breach-shadow-brokers-michael-morell/

93  https://www.theguardian.com/media/2017/mar/07/wikileaks-publishes-biggest-ever-leak-of-secret-cia-documents-hacking-surveillance

94  Inzwischen könnte man auch Donald Trumps Steuererklärungen dieser sehr kurzen Liste hinzufügen.

95  https://www.nytimes.com/2016/08/24/us/politics/facebook-ads-politics.html

96  https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2475265

97  https://www.reuters.com/article/us-usa-immigration-visa/trump-administration-approves-tougher-visa-vetting-including-social-media-checks-idUSKBN18R3F8

98  https://www.forbes.com/sites/adp/2016/10/24/how-to-legally-use-social-media-to-recruit/#1fd4ebce29f4

99  https://www.tuition.io/2014/04/social-media-shocker-twitter-facebook-can-cost-scholarship-admissions-offer/

100  https://www.edmunds.com/auto-insurance/car-insurance-companies-use-facebook-for-claims-investigations.html

101  https://www.theguardian.com/technology/2016/oct/11/aclu-geofeedia-facebook-twitter-instagram-black-lives-matter

102  https://www.forbes.com/sites/kashmirhill/2014/10/03/god-view-uber-allegedly-stalked-users-for-party-goers-viewing-pleasure/

103  http://fortune.com/2016/04/27/zuckerberg-facebookcontrol/

104  https://www.theguardian.com/media/2016/sep/21/does-quitting-social-media-make-you-happier-yes-say-young-people-doing-it

105  Diese Behauptung habe ich in meinen Büchern Gadget: Warum die Zukunft dich noch braucht und Wem gehört die Zukunft? ausgeführt und begründet.

106  https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3093683/;https://www.economist.com/news/finance-and-economics/21734390-and-new-paper-proposes-should-data-providers-unionise-should-internet

107  Manche Internetdienste, die potenziell BUMMER werden könnten, liebäugeln inzwischen mit dem Subskriptionsmodell: https://mobile.nytimes.com/2017/05/20/technology/evan-williamsmedium-twitter-internet.html

108  https://www.cbsnews.com/news/social-media-influencers-brand-advertising/

109  https://news.vice.com/en_ca/article/8xmmb4/what-does-it-take-to-make-a-living-on-social-media

110  In diesem Kapitel geht es um Politik, deshalb muss ich zuerst auf etwas Offensichtliches hinweisen. Politik ist entscheidend wichtig, und ich habe sie von einer Seite gesehen, die du wahrscheinlich nicht kennst. Über diese Seite möchte ich dich gerne informieren. Dabei bin ich mir bewusst, dass ich ein weißer Techie bin, aber um überhaupt weitermachen zu können, muss ich auch von Dingen reden, die ich nicht so gut kenne wie meine eigene Welt, zum Beispiel, wie es sich als Afroamerikaner in den USA lebt. Dabei werde ich unweigerlich in parteiische Erklärungen aus der Sicht eines Weißen, eines Mannes, eines Techies und so weiter verfallen. Können wir das bitte einfach als gegeben hinnehmen? Bestimmt. Nimm einfach mit, was du gebrauchen kannst. Ich weiß selbst, dass ich nicht allwissend bin.

111  https://www.weforum.org/agenda/2017/06/millennials-are-rapidly-losing-interest-in-democracy/

112  https://www.nytimes.com/2017/10/29/business/facebook-misinformation-abroad.html

113  https://www.washingtonpost.com/world/asia_pacific/indias-millions-of-new-internet-users-are-falling-for-fake-news--sometimes-with-deadly-consequences/2017/10/01/f078eaee-9f7f-11e7–8ed4-a750b67c552b_story.html/?utm_term=.8dca791dcabb

114  http://www.securitycouncilreport.org/atf/cf/%7B65BFCF9B-6D27–4E9C-8CD3-CF6E4FF96FF9 %7D/s_2016_963.pdf

115  http://www.nytimes.com/2012/02/19/books/review/howan-egyptian-revolution-began-on-facebook.html

116  https://www.wired.com/2016/03/isis-winning-social-media-war-heres-beat/

117  http://www.dailymail.co.uk/news/article-4858216/Victim-Gamergate-s-horrific-online-abuse-reveals-trauma.html

118  http://time.com/3923651/meet-the-woman-helpinggamergate-victims-come-out-of-the-shadows/

119  http://www.zero-books.net/books/kill-all-normies

120   https://transequality.org/the-discrimination-administration

121  https://www.washingtonpost.com/news/acts-of-faith/wp/2016/06/08/trump-on-god-hopefully-iwont-have-to-be-asking-for-much-forgiveness/

122  https://www.rawstory.com/2017/03/russians-used-bernie-bros-as-unwitting-agents-in-disinformation-campaign-senate-intel-witness/

123  https://www.vox.com/policy-and-politics/2018/2/24/17047880/conservatives-amplified-russian-trolls-more-often-than-liberals

124  https://www.wired.com/story/how-trump-conquered-facebookwithout-russian-ads/

125  Brad Parscale, Social-Media-Chef der Trump-Kampagne, twitterte: »Ich wette, wir waren 100x bis 200x so viele wie sie. Unsere CPMs betrugen manchmal nur Pennies. Deshalb war @realDonaldTrump ein perfekter Kandidat für FaceBook.«

126  https://slate.com/technology/2018/03/did-facebook-really-charge-clinton-more-for-ads-than-trump.html

127  https://www.cbsnews.com/news/facebook-embeds-russia-and-the-trump-campaigns-secret-weapon/

128  http://www.nature.com/news/facebook-experiment-boosts-us-voter-turnout-1.11401

129  http://dailycaller.com/2016/08/24/facebook-is-determining-your-political-affiliation-tracks-your-activity/

130  http://www.pnas.org/content/111/24/8788.full

131  https://www.theguardian.com/world/2017/oct/21/russia-social-media-activism-blacktivist

132  Italienische Wähler haben sich einer politischen Partei zugewandt, die sich nur dadurch auszeichnet, dass sie durch und durch BUMMER ist: https://www.nytimes.com/2018/02/28/world/europe/italy-electiondavide-casaleggio-five-star.html

133  Kurz vor Drucklegung dieses Buches gab es an einer High School in Florida eine furchtbare Schießerei, und BUMMER war sofort dabei, wie immer, und suchte nach Wegen, die Gesellschaft zu schädigen: https://www.wired.com/story/pro-gun-russian-bots-flood-twitter-after-parkland-shooting/

134  http://www.independent.co.uk/news/world/middle-east/saudi-muslim-cleric-claims-theearth-is-stationary-and-the-sun-rotates-around-it-10053516.html

135  https://weaponsofmathdestructionbook.com/

136  Das bekannteste Zitat von »Mencius Moldbug«, einem Alt-Right-Autor, lautet: »In vielerlei Hinsicht ist Unsinn ein effektiveres Mittel zur Organisation von Massen als die Wahrheit. An die Wahrheit zu glauben, ist nicht schwer. Unsinn zu glauben, ist dagegen ein authentischer Loyalitätsbeweis. Er dient als politische Uniform. Und wer eine Uniform hat, der hat eine Armee.«

137  Das BUMMER-Ethos hat bereits auch in die akademische Sphäre übergegriffen. Junge Naturwissenschaftler müssen inzwischen Zitationen von Kollegen ebenso nachjagen wie angehende Social-Media-Influencer um Follower wetteifern.

138  http://www.businessinsider.com/new-facebook-mission-statement-2017–6

139  http://time.com/574/google-vs-death/

140  Das Projekt gibt es als Calico, eines der Alphabet-Unternehmen, immer noch.

141  http://www.nationmultimedia.com/technology/Google-makes-machine-learning-artificial-intellige-30273758.html; https://www.cnbc.com/2017/08/02/microsoft-2017-annual-report-lists-ai-as-top-priority.html; https://www.fastcompany.com/3060570/facebooks-formula-for-winning-at-ai-/; https://www.reuters.com/article/us-amazon-com-reinvent-ai/amazon-steps-up-pace-in-artificial-intelligence-race-idUSKBN1DV3CZ

142  https://komarketing.com/industry-news/ai-digital-transformation-top-marketers-priorities-2018/

143  https://www.washingtonpost.com/news/innovations/wp/2017/10/29/saudi-arabia-which-denies-women-equal-rights-makes-a-robot-a-citizen/

144  Im folgenden Artikel habe ich schon vor längerer Zeit Stellung dazu genommen, wie ich meine Ansicht, dass Menschen etwas Besonderes seien, mit meiner Unterstützung für das Recht auf Abtreibung vereinbare: https://www.huffingtonpost.com/entry/the-latest-innocent-embry_b_8547.html

Über Jaron Lanier

Jaron Lanier, 1960 in New York geboren, ist Internetpionier der ersten Stunde und prägte Begriffe wie Virtual Reality oder Avatar. Bereits Anfang der achtziger Jahre entwickelte er einen Datenhandschuh, mit dem man sich im virtuellen Raum bewegen konnte. Laut Encyclopaedia Britannica ist er einer der 300 wichtigsten Erfinder der Geschichte. Er lehrte u.a. an der Columbia, in Yale und Berkeley. Heute ist er Chefstratege bei Microsoft Research. Bei Hoffmann und Campe erschienen Wenn Träume erwachsen werden (2015) und der internationale Bestseller Wem gehört die Zukunft? (2014).

Jaron Lanier erhielt 2014 den Friedenspreis des Deutschen Buchhandels.

Martin Bayer, Jahrgang 1967, studierte Vergleichende Sprachwissenschaft und Anglistik und übersetzt aus dem Englischen und Französischen, u.a. Werke von Michel Butor, Josiah Ober und Brent Schlender.

Karsten Petersen, Jahrgang 1957, studierte Elektrotechnik in den USA und übersetzt aus dem Englischen, u.a. Werke von Mark Hertsgaard, Michael D’Antonio und Govert Schilling.

Impressum

Die Originalausgabe erschien 2018 unter dem Titel Ten Arguments For Deleting Your Social Media Accounts Right Now bei Henry Holt & Co.

Sollte diese Publikation Links auf Webseiten Dritter enthalten, so übernehmen wir für deren Inhalte keine Haftung, da wir uns diese nicht zu eigen machen, sondern lediglich auf deren Stand zum Zeitpunkt der Erstveröffentlichung im Juni 2018 verweisen.

Copyright © 2018 by Jaron Lanier

Für die deutschsprachige Ausgabe

Copyright © 2018 by Hoffmann und Campe Verlag, Hamburg

Covergestaltung: Sarah M. Hensmann © Hoffmann und Campe

Coverabbildung: © Dan Brownsword/Getty Images

Nach einer Originalidee von The Bodley Head, Ltd., Penguin Random House UK

ISBN 978-3-455-00492-2

Unsere Homepage finden Sie im Internet unter: www.hoca.de

www.facebook.com/Hoffmann.und.Campe.Verlag

www.twitter.com/HoCaHamburg

Table of Contents

Titelseite

Einleitung, mit Katzen

Nachtrag des Autors, März 2018

1 Du verlierst deinen freien Willen

Willkommen in deinem Käfig, der überallhin mitkommt

Der verrückte Wissenschaftler hat doch Mitleid mit dem Hund im Käfig

Zuckerbrot und Peitsche

Der Reiz des Rätselhaften

Der Himmel und die Hölle, das sind die anderen

Das Bit als Köder

Sucht und Netzwerkeffekt

Sucht und freier Wille sind Gegensätze

2 Social Media ist BUMMER

Die BUMMER-Maschine

Die Komponenten der BUMMER-Maschine

A Die Arschloch-Herrschaft

B Totale Überwachung

C Aufgezwungene Inhalte

D Verhaltensmodifikation

E Ein perverses Geschäftsmodell

F Fake People

Das Problem ist definiert, also können wir es eindämmen

3 Social Media macht dich zum Arschloch

Schwarzer Schnee

Mein innerer Troll

Das Mysterium der Arschloch-Verstärkungstechnologie

Der machtvollste Hauptschalter

Geh dorthin, wo du am freundlichsten bist

4 Social Media untergräbt die Wahrheit

Alle wissen es

Wenn Menschen »fake« sind, wird alles fake

BUMMER tötet

5 Social Media macht das, was du sagst, bedeutungslos

Ohne Kontext keine Bedeutung

Podcast People

6 Social Media tötet dein Mitgefühl

Digital erzeugte gesellschaftliche Abstumpfung

Die verlorene Theorie in deinem Gehirn

7 Social Media macht dich unglücklich

Warum enden so viele berühmte Tweets mit dem Wort »traurig«?

Das falsche Ende des BUMMERs

Der Blick von oben

8 Social Media fördert prekäre Arbeitsverhältnisse

Doppel-BUMMER

Baby-BUMMER

BUMMER im Konflikt

BUMMER-Scheuklappen

Besser als BUMMER

Die Unternehmenssicht

Die Kundensicht

9 Social Media macht Politik unmöglich

Der Bogen stürzt ein

Arabischer Frühling

Gamergate

LGBTQ

Weder links noch rechts, sondern abwärts

Black Lives Matter

Wenn dieses Spiel nur schon vorbei wäre

10 Social Media hasst deine Seele

Ich bin einer metaphysischen Metapher begegnet

Die ersten vier Prinzipien der BUMMER-Spiritualität

BUMMER-Glaube

BUMMER-Himmel

Existenz ohne BUMMER

BUMMER-Antimagie

Fazit: Katzen haben neun Leben

Dank

Fußnoten

Über Jaron Lanier

Impressum