Zukunft des Menschen: kafkaesk und dark

Technologie verändert uns fundamental. Nur wohin geht die Reise? Ein Versuch über das Unabsehbare.

Eine der wichtigsten Fragen unserer Zeit ist wohl, was die fortschreitende Technologie mit den Menschen anstellt. Wenig hat die Lebenswelt jemals so rasant verändert wie die Technologisierungswelle der letzten Dekaden. Selbst Brotschneidemaschinen und Heizungen sind nun intelligent, während Handys zugleich Telefone, Aufnahme- und Navigationsgeräte, Geldbörsen, Fotoapparate sind, und noch vieles mehr obsolet machen. Aber zu selten wird gefragt: Was stellt die Technologisierung mit dem Menschen, mit dem Menschlichen an? Was bedeutet sie und welche Szenarien erwarten die Menschheit?

Schon jetzt sind die sogenannten Dark Patterns (lässt sich frei übersetzen als düstere Muster) das Symbol für die technische Beherrschbarkeit des Menschen schlechthin. Dark Patterns, das sind Techniken, die das Verhalten der Nutzer:innen so lenken, wie es sich die Anbieter der jeweiligen Services wünschen. Sie operieren – wie Spione – mal mehr, mal weniger offensichtlich, mal intelligenter und mal stümperhafter. Besonders dann werden sie auffällig. Etwa, wenn im Buchungsprozess ein Druck auf den Button “Zurück” zu einer Meldung führt “Einkauf verwerfen?”. Wo früher Folterinstrumente auf dem Marktplatz durch Gewaltandrohung Macht ausstrahlten, genügt heute die Angst, nochmal alles in den Einkaufskorb legen zu müssen. Beides allerdings sind Formen von Herrschen und Gehorchen.

Die verschiedenen Instrumente zur subtilen (oder sogar subliminalen) Beeinflussung von Handeln haben einige Autoren um Colin Gray und Yubo Kou im Paper “The Dark (Patterns) Side of UX Design” gesammelt: Hindernisse für die Nutzer:innen erschaffen, verheimlichen, forcieren und nörgeln. (Klingt geradezu despotisch, und für Technologie, die dem Menschen vor allem als neue Freiheit versprochen wird, macht das einen bezeichnenden Gegensatz auf.)

Aber hier soll es ja gar nicht nur um Dark Patterns gehen, die sind eher symptomatisch für den Gegenspruch zwischen Freiheit und Unfreiheit, Autonomie und Heteronomie. Denn worüber sich die Verfechter:innen der menschlichen Gedankenfreiheit eher Gedanken machen sollten, ist die rasende Fortentwicklung und Anwendung von künstlicher Intelligenz. Wird die Technologie selbst intelligenter, optimiert sie sich besser, so trifft dies die Dark Patterns im Speziellen und die Form jeder Human-Computer-Interaction (HCI) im Allgemeinen. Digitales wird hauptsächlich nicht als Zweck gebraucht, sondern als Mittel: um Menschen immer stärker in (verkaufbare) Dienste und Plattformen zu integrieren, sie als Kund:innen zu binden. Und die Technik wird immer besser darin.

Wenn die Algorithmen damit Erfolg haben, dann führt diese Entwicklung prinzipiell in ein Matrix-Szenario. Nicht, dass der Mensch zum Energielieferanten von Maschinen wird, sondern: Dass die virtuellen Räume, die die Menschen und/oder die Algorithmen schaffen, nicht mehr verständlich sind. Dass die Menschen kaum mehr freie Entscheidungen treffen und in diesem computergenerierten Spiel der Signifikanten durch kafkaeske, virtuelle Räume irren, völlig sinnentleerterweise. (Man könnte auch vermuten, das würde dann daran liegen, dass der Mensch künstliche Intelligenz eben nur als Mittel, nicht als Zweck ansieht. Wenn diese Intelligenz, oder Rationalität, selbst keine Zwecke kennt, sondern nur Mittel, dann wird ihr Einfluss auf Menschen eben auch keine Zwecke hervorbringen, sondern nur Mittel. Wenn das erfolgreich ist, dann hat sich der Mensch selbst mit Dummheit geschlagen wie die Schildbürger.)

Die zunehmende Integration von Mensch und Technik – sowohl auf gesellschaftlicher, als auch körperlicher und geistiger Ebene – hat aber noch wichtigere Konsequenzen. Der Umgang mit der Technik wird immer nativer. Schon jetzt ist das Swipen omnipräsenter als das Umblättern einer Seite, zum Dating werden häufiger Apps aufgeschlagen als Augen, Wissenslücken wie automatisiert sofort durch Googeln beseitigt. Aber noch über solchen habituellen Beispielen steht: Der Mensch passt sich sehr tiefgehend an eine neue Umwelt an. Schon in der sogenannten Natur konnte der Mensch Tieren mit eigener Agency begegnen, ob nun Reh oder Raubkatze. Der Mensch konnte unterschiedlich reagieren, versuchen, die Verhaltensweisen des Tieres zu verstehen – und es zu beeinflussen. Wann ruht es sich aus, wann jagt oder warum flüchtet es? Wie jagt man es in die Falle? Dasselbe machen Menschen zu Milliarden mit den Interfaces ihrer Smartphones und der Millionen von Webservices: Wie funktioniert das? Wie erreiche ich mein Ziel? Und obwohl sie dabei weniger gut beeinflussen können, was ihnen unbekannte Designer:innen vorsetzen, integrieren die Menschen dabei die Verhaltensweisen der Interfaces und Services in ihre Gedanken, vielleicht sogar Gedankenstrukturen. Es entsteht mindestens im Prinzip ein Borg-Szenario. Die Borg: Das sind Nanoroboter, die im Star Trek-Universum andere Lebewesen “assimilieren”, also ihren Körper und Geist übernehmen und sie in Cy-Borgs verwandeln. Und genau so etwas passiert heutzutage, nur mithilfe von Algorithmen statt Robotern.

Schon jetzt interagieren viele mit ihren Mitmenschen durch digitale Medien: Das kollektive Bewusstsein wird digitalisiert. Viele verbringen so viel Zeit vor den Bildschirmen, dass die Form der Inhalte schon das menschliche Denken prägt: Das einzelne Bewusstsein wird geformt. Durch Handys und Sensoren werden Rollläden und Lampen, aber auch die Insulinpumpe gesteuert: Alle Umwelten des “puren” Geistes werden durch Digitalisierung integriert und assimiliert. Schelm:in, wer an “Widerstand ist zwecklos” denkt.

Was bedeutet das nun für das Menschliche? Es ist endlich da oder kurz davor, wovon Generationen von Maschinentheoretiker:innen (etwa beschrieben von Florian Hadler und Daniel Irrgang in ihrem Buch Navigating the Human) geträumt haben: Die völlige ergonomische oder auch kybernetische Integration von Mensch und Maschine. Der Mensch war wohl schon immer ein formbares Wesen. Doch scheint mit einer solchen integrativen Entwicklung die Form der Formbarkeit eine andere Gestalt anzunehmen. Nämlich vor allem eine Hybridität, ein Zusammengemischtsein aus einer Vielzahl der Quellen von Wikipedia über 4chan bis zu Omas Backbuch; und dadurch eine algorithmische Zufälligkeit. Dass jemand der logischen Strenge einer Kantischen Begründung folgt: ausgeschlossen, wenn der Geist mäandert zwischen Millionen Philosophie-Seiten auf Wikipedia. Auch Hegels Weltgeist ist schon halb aus dem Fenster geflogen: Dass der Mensch sich selbst erkennen kann, wird kaum mehr zu leisten sein, wenn der Mensch eine vielfach digital potenzierte Komplexität bedeutet. Für jemanden, der nur aus fünf eigenen Sinnen bestand, dürfte das erheblich leichter gewesen sein. 

Schlimm muss das alles nicht zwingend sein, es kann neue Potenziale für das Menschliche bedeuten. Vielleicht Freiheit auf einer Ebene, die für analoge Menschen noch gar nicht vorstellbar war. Aber eines zumindest ist sicher: Die Technologisierung der Menschen und ihrer Umwelt verändert das Menschliche hin zu einer überbordenden Offenheit, und was daraus erwächst, wird wohl zu den definierenden Momenten der Menschheitsgeschichte der Zukunft gehören. Mein Wunsch aus dem Jahr 2021 an die Zukunft ist nur: Dass sich dabei die Darkness der Muster nicht auch auf das Menschliche überträgt. Und da sind wohl die Designer:innen gefragt, denn noch hat niemand ein Moral-Modul für künstliche Intelligenz entwickelt.