SIRI? WIRD DIE GESELLSCHAFT ZUM COMPUTER? |

Es gibt im Netz eines dieser verblüffenden Vorher- Nachher-Bilder, das Menschen beim Konklave 2005 und 2013 zeigt. 2005, als Kardinal Ratzinger zum Oberhaupt der katholischen Kirche gewählt wurde, standen die Menschen gebannt im Vatikan auf dem Petersplatz. 2013, nach der Wahl Jorge Bergoglios zum Papst, stand da eine Menschenmenge, die ein Meer von Smartphones in den römischen Nachthimmel hielt. Keine andere Technologie hat die Gesellschaft so nachhaltig verändert wie das Smartphone. Und die Bildschirmmeere bei Konzerten oder Feiern sind nur ein Oberflächenphänomen eines viel tiefer greifenden Strukturwandels.

Als Steve Jobs vor zehn Jahren das erste iPhone präsentierte, konnte niemand ahnen, dass das Gerät einmal Kummerkasten, mobile Arztpraxis und Wahlhilfe in einem werden könnte. Doch das Smartphone, das uns die Industrie in einem semantischen Vexierspiel als ermächtigendes, schickes Gadget verkauft, ist in Wirklichkeit ein Messgerät, mit dem man praktischerweise noch telefonieren und fotografieren kann. Und dabei vermessen nicht wir die Welt durch den Bildschirm, sondern wir werden selbst vermessen. Das Smartphone zeichnet auf, wie viele Schritte wir machen, wohin wir gehen, mit wem wir kommunizieren, welche Suchbegriffe wir der Sprachsoftware Siri diktieren. Unser gesamtes Interaktions- und Kommunikationsverhalten wird durch die Geräte auslesund vorhersagbar.

Das Smartphone ist inzwischen viel mehr als ein virtueller Assistent, es ist faktisch eine externe Festplatte unseres Gehirns, wo alle unsere Gedanken gespeichert sind: Tagebucheinträge, Betriebsgeheimnisse, Kontoverbindungen, politische Ansichten. Das macht es umso problematischer, wenn Strafverfolgungsbehörden in klandestiner Manier per Staatstrojaner auf Kommunikationsinhalte zugreifen und faktisch Gedanken auslesen. Gedanken sind das letzte Bollwerk, das der totalitäre Staat nicht zu durchbrechen vermag. Die Digitalisierung macht jedoch auch diese Grenze porös. Gedankenprozesse sind nur noch Rohdaten.

„Wir sind dabei, unsere Gesellschaft in einen Computer zu verwandeln“, sagte die Juristin Yvonne Hofstetter auf der zentralen Konferenz zum Europäischen Datenschutztag in Berlin. Von Freizeitaktivitäten bis hin zur politischen Willensbildung – alles wird code- und datenförmig. Die Tech-Konzerne bauen ein Betriebssystem, das zum Zweck hat, gesellschaftliche Prozesse wie in einem kybernetischen System durch algorithmische Rückkopplungsprozesse zu steuern. Die Software von smarten Städten reguliert automatisch den Verkehr, Algorithmen filtern Fake-News und Hassnachrichten heraus, Computerprogramme bewerten die Bonität von Bankkunden. Die Gesellschaft wird zur smarten Fabrik, in der es darum geht, Daten zu produzieren und die Performanz von Menschen in Scores zu messen.

Die US-Ökonomin Shoshana Zuboff argumentiert, dass wir uns von einem fordistischen in ein „googlistisches Zeitalter“ bewegen. Im Fordismus hätten Autobauer Einzelteile montiert und in Serie Fahrzeuge produziert. Im Googlismus würden Internetkonzerne personenbezogene Daten zusammenpacken, Informationen extrahieren und diese in Paketen an Anzeigenkunden verkaufen. Die Produktionsstätten sind, mit anderen Worten, nicht mehr die Fabriken, sondern die Smartphones. „Im Überwachungskapitalismus“, sagte Zuboff dem Harvard Magazine, „werden ohne unser Wissen, Verständnis oder Einverständnis Rechte von uns genommen und dazu genutzt, Produkte zu kreieren, die dazu entwickelt sind, unser Verhalten vorherzusagen.“

Die Frage ist, welche Rolle der Mensch in dieser smarten Fabrik namens „Internet der Dinge“ Verspielt. Ist er bloß eine Maschine unter vielen? Ist er nur noch ein Prozessor in einem riesigen neuronalen Netzwerk? Ein Befehlsempfänger, der ausführt, was ihm die Programmierer diktieren? Der Medientheoretiker Marshall McLuhan sagte schon in den 1960er Jahren voraus, dass Maschinen dereinst dazu eingesetzt werden könnten, die Organisation der Gesellschaft zu steuern. Es sei möglich, Computer „auf nützlichem Wege“ einzusetzen und „Gesellschaften zu programmieren“. Gut 50 Jahre später sagt Dmitri Dolgov, Googles verantwortlicher Projektleiter für autonomes Fahren: „Wir bauen keine Autos, sondern wir bauen den Fahrer.“ Diese Aussage ist programmatisch zu verstehen. Google will keine Autos konstruieren, sondern einen intelligenten Fahrer, eine künstliche Intelligenz (KI), die austauschbar und in jede Karosserie (Hardware) implementierbar ist. Für Google ist der ideale Fahrer ein KI-System, ein Set von Sensoren, mit dem man überall hinfahren kann, unabhängig von Marke und Modell.

Die Sentenz „Wir bauen den Fahrer“ entspringt dem Gedanken des Social Engineering, einem Konzept, worunter meist die Manipulation des Menschen durch Versuchsdesigns verstanden wird, das aber im engeren Sinn die Konstruktion sozialer Interaktionen meint. Der Datenwissenschaftler Alex Pentland argumentiert in seinem Buch „Social Physics“, dass man mithilfe von Daten eine „kausale Theorie der Sozialstruktur“ entwickeln und eine mathematische Erklärung liefern könne, „warum die Gesellschaft so reagiert, wie sie reagiert“. Hinter diesem mechanistischen Weltbild steckt die Vorstellung, dass Daten jedes menschliche Verhalten erklären und soziale Interaktionen wie der Motor einer Maschine konstruiert werden können.

DIE SMARTE DIKTATUR DES SILICON VALLEY

Die Techno-Utopisten aus dem Silicon Valley sind von der Idee beseelt, dass der Mensch ein physikalisches Objekt ist, das man berechnen kann. Facebook-Chef Mark Zuckerberg sagte, es gebe ein „fundamentales mathematisches Gesetz, das sozialen Beziehungen zugrunde liegt“. Damit offenbarte er sein sozialdeterministisches Weltbild, in dem von der Liebe bis zu Wahlen alles berechenbar ist – und steuerbar.

Tatsächlich können Facebooks Emotionsmechaniker mithilfe von Codes den Gefühlshaushalt einer großen Stadt regulieren. Facebook hat 2014 in einem riesigen sozialen Experiment den Newsfeed von fast 700.000 Nutzern manipuliert. Bei dem Experiment sollte erforscht werden, wie sich positive und negative Emotionen in Netzwerken ausbreiten. Das Ergebnis war, dass derjenige, der mehr Negatives zu sehen bekam, tendenziell selbst Negatives postet und umgekehrt. Wo der menschliche Körper eine Maschine ist, lässt er sich disziplinieren. Wir werden vermasst, weil Massen leicht zu bewegen sind.

Die Schaffung des „Neuen Menschen“, die in Dolgovs Losung anklingt, war die Utopie der Totalitarismen im 20. Jahrhundert. Der Sozialismus verfolgte die Idee vom „Neuen Menschen“ als Leitmotiv der Erziehung; der „Neue Mensch“ wurde später in der DDR pädagogisch in die Form der „allseitig entwickelten Persönlichkeit“ umgegossen. Es ging darum, Bürger durch Indoktrination auf Linie zu bringen. Die Tech-Giganten sind in ihrer Datensammlung und Überwachung nicht minder totalitär, doch die Sozialingenieure haben ganz andere Werkzeuge zur Disziplinierung der Nutzer zur Verfügung: Facebook kann seine Nutzer mit ein paar Programmzeilen umerziehen.

Man sollte den Tech-Giganten in ihren Konstrukteurs-Weltenplänen keine ideologischen Motive unterstellen, doch letztlich ist jeder Versuch, Massen zu manipulieren, ein totalitärer. Was auf Facebook stattfindet, ist eine subtile Gleichschaltung auf technologischer Ebene: Der Nutzer bekommt ein standardisiertes Set an Instrumenten, bestehend aus Emojis und dem ikonischen Like-Button, zur Verfügung gestellt, das ihn daten- und damit mas senförmig macht. Die Profilbilder der knapp zwei Milliarden Nutzer sind nur Individualitätsattrappen; in Wirklichkeit ist der Facebook-Kosmos von gleichförmigen algorithmischen Identitäten bevölkert, die in Formeln erzählt werden. Uniformität wird in der Digitalmoderne informationell hergestellt.

Der Soziologe und Sozialpsychologe Harald Welzer, Autor des Buchs „Die smarte Diktatur – Der Angriff auf unsere Freiheit“, verglich das Smartphone mit einer „tragbaren Gestapo“. In jedem totalitären System hätten Nischen existiert, die Geheimdiensten, Korps und Blockwarten nicht zugänglich gewesen seien. Doch im Informationskapitalismus gebe es diese Refugien nicht mehr. Heute sei so viel von uns bekannt, dass es keine konspirativen Zirkel mehr geben könne. Der Grundsatz „Niemand weiß mehr über mich selbst als ich selbst“, der das moderne Subjekt erst begründe, gelte nicht mehr in einer Zeit, in der Google und virtuelle Assistenten mehr über uns wissen als wir selbst.

Das ist eine fundamentale Machtverschiebung. Die Polizei in Bentonville im US-Bundesstaat Arkansas wollte den vernetzten Lautsprecher Echo in einem Mordfall als „Zeuge“ befragen und verlangte von Amazon die Herausgabe der Audiodateien: Was geschah zur Tatzeit? Gab es Schreie des mutmaßlichen Opfers? Der virtuelle Assistent könnte ja ein tödliches Geheimnis hüten. Anders gesagt: Das Problem besteht nicht nur darin, dass Bürger unter dem Vorzeichen omnipräsenter Überwachung ihr Verhalten ändern und sich möglicherweise selbst zensieren, sondern dass Konzerne Herrschaftswissen erlangen, das in totalitärer Absicht gegen den Betroffenen verwendet werden könnte. Amazon weiß, wer wann zu Hause ist, wer was sagt und möglicherweise, wer ein Straftäter ist. Das macht Individuen und ihre informationelle Integrität verwundbar – und manipulierbar.

Der amerikanische Internetpionier und Schriftsteller Jaron Lanier hat einmal gesagt, das Silicon Valley habe die „freundlichste und gutmütigste Diktatoren-Klasse in der Geschichte der Menschheit“. Facebook wird von beinahe zwei Milliarden Menschen genutzt, „aber von einer einzigen Person kontrolliert. Es ist eine extrem außergewöhnliche Konzentration von Macht. Irgendwann wird der Gründer sterben. Und was dann kommt, wissen wir nicht, und wir können es auch nicht kontrollieren.“

Doch was wäre, wenn eine weniger freundliche Tech-Elite das Kommando übernehmen würde wie etwa der libertäre Facebook-Investor und Trump-Berater Peter Thiel, der sich im neoreaktionären Umfeld bewegt und Demokratie und Freiheit für nicht länger vereinbar hält? Dann könnte die informationelle Macht missbraucht werden. Der ehemalige Google-Chef Eric Schmidt hat einmal ahnungsvoll verkündet: „Wenn wir etwas tun wollen, was andere nicht wissen sollten, dann sollten wir es besser nicht tun.“ Dass Facebook-Gründer Mark Zuckerberg offenbar erwägt, für das Amt des Präsidenten zu kandidieren (er dementiert das Gerücht, tourt aber gerade durch die USA), lässt nichts Gutes für die Demokratie erahnen.

Sollte Zuckerberg kandidieren, dann tritt nicht irgendein Medienmogul an, der sich auf eine mächtige Lobby stützen kann, sondern ein Unternehmer, der das mediale Ökosystem absorbiert hat und die in formationelle Infrastruktur kontrolliert. Würde der Nutzer kritische Berichte über Zuckerbergs Stiftung in seinem Newsfeed lesen können? Wohl eher nicht. Die politische Willensbildung im Netz wäre nur noch ein Intranet. Demokratisch und analog ginge es wohl nur noch im Konklave bei der Papstwahl zu.