Cybertech vs. Menschlichkeit?

Als Tristan Harris, vormals Design-Ethiker bei einem der weltgrößten Internetkonzerne, inzwischen Digitalisierungs-Aktivist und Mitbegründer der Nonprofit-Organisation „Center for Humane Technology“, sich per Smartphone in den Video-Call schaltet, wirkt er ausgesprochen entspannt, beinahe gelöst. „Könnten bloß alle mit mir diese fantastische Aussicht genießen! Die Berge von Arizona, der Himmel, die Wolken – hier atme ich gerade richtig durch.“ Digitalisierung kann etwas Großartiges sein. Sie macht flexibler, schafft neue Räume zur Lebens- und Arbeitsgestaltung. Aber – und um dieses große “Aber” geht es Tristan Harris – wenn wir nicht aufpassen

Die Zukunft ist schon da

Science-Fiction-Szenarien spielen seit Jahrzehnten mit der Angst, dass KI, künstliche Intelligenz, in ferner Zukunft unsere Gesellschaft steuern könnte. „Wir haben außerdem immer gelernt, dass eine gegnerische Kraft unsere Stärken überwältigen muss, um uns zu kontrollieren“, erklärt uns Harris. „Wenn ich mein Gegenüber in eine bestimmte Richtung drängen will, muss meine Kraft die seine übertreffen.“ Doch schon während er als Kind aus Spaß Zaubertricks vorführte – spätestens aber, seit er im Persuasive Technology Lab der Universität Stanford studierte –, verstand Harris, dass es viel weniger Mühe bedarf, um Kontrolle auszuüben. „Wie bringt man eine Illusion dazu, zu funktionieren? Man muss nur eine einzige Sache über die Psyche von Menschen wissen, die sie selbst nicht wissen. Schon kann man ihr Verhalten manipulieren. Man muss nicht Stärken überwältigen. Sondern Schwächen.“

Und genau so funktionieren laut Harris die meisten Social-Media-Oberflächen, Mail-Programme und Apps, die heute fester Bestandteil des Alltags von Milliarden Menschen sind. „Wir alle laufen nicht einfach mit Smartphones in der Tasche herum, sondern mit Automaten, die eine ähnliche Wirkung auf unser neurologisches Belohnungssystem haben wie einarmige Banditen im Spielkasino.“

Der Informations-Gap wächst

Wenn wir, die User, keine Ahnung haben, dass unser Gehirn verlässlich mit der Ausschüttung von Glückshormonen auf variable Belohnungen reagiert, sind wir im Vergleich zum geballten Wissen der Cybertech-Industrie natürlich hoffnungslos im Hintertreffen. „Variable Belohnungen“, führt Harris aus, „das bedeutet: Ich ziehe einen Hebel und erhalte manchmal eine saftige Belohnung – oh, aufregend! –, manchmal aber eben auch nicht.“ Nur ein Beispiel dafür, wie sich unsere ursprünglichsten Hirnfunktionen gegen uns verwenden lassen. Wir checken alle paar Minuten unseren virtuellen Posteingang, wischen hinauf oder herunter, um Aktualisierungen abzurufen – immer in der Hoffnung auf eine „Belohnung“. Kann man hier noch von einem bewussten Umgang mit Kommunikationstechnologie sprechen? Davon, dass wir selbst entscheiden, wie wir unsere Zeit verbringen? Nein, sagen Tristan Harris und viele andere Wissenschaftler_innen. „Videostream-Anbieter, Networking-Apps, News-Portale – sie alle befinden sich in einem gemeinsamen Wettkampf“, beschreibt Harris das Kernproblem, „um unsere Aufmerksamkeit.“ Technologie entwickele sich ja nicht willkürlich weiter, sondern reagiere auf Neuerungen der Konkurrenz mit eigenen Neuerungen. Eine der unangenehmen Nebenwirkungen dieser Spirale: die rasante Ausbreitung von Fake News. „Wut ist ein besserer Screentime-Generator als Zufriedenheit“, sagt Harris. Wühlt uns etwas auf, teilen wir es mit mehr Freunden, informieren uns auf mehr Kanälen, konsumieren gebannt immer weiter. Das realisiert der entsprechende Algorithmus. Und füttert uns mit mehr aufwühlendem Content. Das müssen nicht immer Fake News sein, aber eins ist sicher: Nicht der Wahrheitsgehalt entscheidet darüber, was auf unseren Pinnwänden und Timelines erscheint. „So ein persönlicher Newsfeed wird schließlich nicht von Menschen gesteuert, sondern von Algorithmen“, so Harris. „Und die achten nicht darauf, was richtig oder gesund für uns ist. Sondern darauf, was unsere Aufmerksamkeit länger in Beschlag nimmt.“

Was jetzt zu tun ist

Ein kompliziertes Dilemma – gibt es Lösungsansätze? Harris sagt: Ja. „Erstens müssen wir alle ein besseres Verständnis dafür entwickeln, wie angreifbar unser Geist ist, damit wir uns ungesunden Impulshandlungen wirkungsvoller widersetzen können.“ Damit fordert der Design-Ethiker ein digitales Zeitalter der Aufklärung. „Zweitens brauchen wir neue Modelle von Verantwortlichkeiten“, so Harris weiter. „Die Entscheidenden in den Kontrollräumen der großen Tech-Unternehmen müssen sich ihrer Verantwortung bewusst sein. Und sie müssen zur Rechenschaft gezogen werden können.“ Drittens plädiert Harris – und das mit wachsendem Erfolg auch vor den CEOs im Valley – für eine „echte Design-Renaissance“. Verbraucher_innenschutz soll im Vordergrund stehen. Aber auch die Befähigung der bzw. das Angebot an die User, ihre Zeit sinnvoller zu nutzen. Gemeinsame Ziele müssen formuliert werden. Was erhoffen User sich wirklich im täglichen Umgang mit Social Media? Endlosspiralen von Videos und sich hochschaukelnden Forendiskussionen? Oder vielmehr aktive Hilfe bei der Gestaltung wertvoller Zeit abseits des Bildschirms?

Verantwortung und Chancen

Ob im Positiven oder Negativen: Künstliche Intelligenz „optimiert“ unser Verhalten, kennt unsere Psyche, errät und manipuliert unsere Wünsche – sie ist uns längst uneinholbar überlegen, dessen ist Harris sich sicher. Dieses Rad könne man nicht zurückdrehen. Nun gehe es aber darum, gesündere Werte zu implementieren als nur das Ziel, die größtmögliche Menge an Aufmerksamkeitsvolumen meistbietend an Werbekund_innen zu verkaufen. Er formuliert es so: „Auch Anwält_innen oder Ärzt_innen haben ja einen großen Wissensvorsprung auf ihrem Gebiet. Aber sie verpflichten sich durch ihren Berufsethos, im besten Interesse ihrer Klient_innen zu handeln.“ Ein solcher Paradigmenwechsel sei auch in der Tech-Branche unumgänglich, glaubt Harris. Natürlich gepaart mit einem mündigen, achtsamen Nutzungsverhalten. Einen ganz praktischen Tipp hat Harris dann auch noch: „Verbieten Sie sich nicht, Social Media zu nutzen. Erlauben Sie sich stattdessen, mehrmals täglich bewusst Zeit offline zu verbringen! Zeit mit lustigen, aufregenden, entspannenden Dingen.“ Auch das triggert schließlich das Belohnungssystem.