kontertext: Schütze mich vor mir selbst !

1982 liess die Künstlerin Jenny Holzer eine Inschrift am New Yorker Times Square anbringen: PROTECT ME FROM WHAT I WANT. Bewahre mich vor dem, was meiner Bequemlichkeit schmeichelt und meine Wünsche befriedigt — liesse sich die Botschaft übersetzen. Holzers künstlerische Intervention zitiert Roberto Simanowski gegen Ende in seinem Buch über «Sprachmaschinen». Beschütze mich vor den Wirkungen meiner eigenen Erfindungskraft. Das erinnert unweigerlich auch an Goethes «Zauberlehrling»: 

«Herr, die Not ist gross!
Die ich rief, die Geister
Werd’ ich nun nicht los.»

Hinter dem Begriff Sprachmaschine oder Sprachmodell (Large Language Model) steckt die «Künstliche Intelligenz», die als Blendmetapher momentan für beinahe alles steht, was uns aus dem Reich des Digitalen antreibt oder droht. KI ist die fundamentale Innovation der Gegenwart. Sie pflügt unsere Welt in vieler Hinsicht um, sie steht für die vierte menschliche Kränkung nach Galilei (Überwindung der Heliozentrik), Darwin (Evolutionstheorie) und Freud (Psychoanalyse). Im Unterschied zu den ersten drei resultiert sie nicht aus der Beobachtung der (menschlichen) Natur, vielmehr ist sie vom Menschen selbst gemacht, gewissermassen die Krönung von dessen Erfindergeist, der möglicherweise den Menschen selbst zu überwinden droht. 

Was sind Sprachmaschinen?

Roberto Simanowski versucht in dem Buch eine Auslegeordnung unter philosophischem Blickwinkel. Ihn interessieren die Folgen der Sprachmaschinen, der KI und der angestrebten «Artificial General Intelligence», einer selbstlernenden Superintelligenz. Er fragt, wer mit welchem Recht diese Innovationen vorantreibt und dafür (keine) Verantwortung übernimmt. 

Sprachmaschinen heissen so, weil sie mit Sprache handeln und die Sprache verhandeln. ChatGPT (seit Mitte November in der Version 5.1), Bard, Claude, Gemini und wie sie alle heissen, sind Tools, die Wissen vermitteln, Auskünfte erteilen, Ratschläge geben, übersetzen, zusammenfassen und Texte schreiben. Sie übernehmen somit kommunikative Funktionen, ohne dass genauer nachgefragt wird, um was für eine Kommunikation es sich dabei handelt und mit welchen Voraussetzungen die Sprachmaschinen agieren. 

Das eigene Buch als Futter für GPT

Gleich zu Beginn macht Simanowski den ambivalenten Charakter solcher Sprachmaschinen in aller Deutlichkeit bewusst. Im Kapitel «Vorspiel auf dem Bildschirm» gibt er eine sprachmodellierte Zusammenfassung des eigenen Buches, die er bei GPT-4o in Auftrag gab — mit dem Zusatz: «im Stil von Rolf Dieter Brinkmann». Was resultierte, ist ein erfrischend schnoddriger und frecher Text, der aber halt doch rein algorithmisch entworfen wurde. Der Autor quittiert ihn lakonisch: da «ahnte ich: Wir sind längst verloren». 

Roberto Simanowski untersucht seit Mitte der 1990er Jahren als Literatur- und Medienwissenschaftler, wie Sprache und Gesellschaft von den digitalen Medien beeinflusst und verändert werden. Seine Beobachtungen hat er mehrfach in Buchform festgehalten, unter anderem im preisgekrönten Essay «Der Todesalgorithmus» (2020). Im neuen Buch bündelt er nun, mit vielen Beispielen belegt, seine Überlegungen in fünf Themenfeldern, die jeweils auch für philosophische Teildisziplinen stehen. 

Es geht erstens um sprachphilosophische Bedenken zu dem, was die Sprachmaschine ausspuckt, mit welchem Recht und aus welchen Quellen sie dies tut. 

Zweitens nimmt Simanowski den Primat der Mathematik, der den Sprachmaschinen zugrunde liegt, unter die erkenntnisphilosophische Lupe: «die Erzählung der Zahl» als letzte Wahrheit? 

Drittens stellt sein Buch Fragen nach der moralphilosophischen Disposition der Sprachmaschinen, deren Textmaterial weiss, westlich und männlich geprägt ist, weshalb es mit einem «Finetuning» insgeheim nachjustiert wird.

Viertens gilt es darauf zu achten, wer die neuen allgegenwärtigen Dienste entwickelt und welche Strategien der digitale Kapitalismus bei der Befriedigung menschlicher Bedürfnisse verfolgt. 

Fünftens schliesslich macht Simanowskis Buch eine geschichtsphilosophische Volte hin zu Hegels Weltgeist, der sich in der KI gewissermassen selbst erkennt und dafür den Menschen als historisch flüchtiges Werkzeug benutzt. Hier erst ruft er auch die historische Technikkritik auf, die bei aller Wertschätzung den Verdacht nährt, dass der Rekurs auf Simmel, Gehlen oder Anders heute nicht mehr weiterhilft. KI und erst recht die AGI sind nicht länger bloss Hilfsmittel, die der Mensch zurate zieht, sie mutieren mehr und mehr zu aktiven «Agenten», denen sich der Mensch ausliefert. Die historische Technikkritik bietet zwar anschauliche Bilder an, wie etwa Günter Anders‘ «Bediener der Geräte», mit denen sich nachdenken lässt, die gegenwärtigen Entwicklungen übersteigen indes diese Metaphorik. Andere Themen und Aspekte rücken in den Vordergrund, wie zum Beispiel das Datentraining, die Hybris der Entwickler und vor allem wir selbst, die freiwilligen Bediener und unfreiwilligen Vollstrecker. 

Roberto Simanowski fordert von uns deshalb eine «angewandte und reflexive Medienkompetenz», die nicht nur einen kritischen Umgang mit Sprachmaschinen fördert, sondern auch den Blick schärft für die verborgen ablaufenden Weichenstellungen, die uns alle betreffen, ohne dass wir dazu etwas zu sagen hätten. Ins Zentrum rückt er dafür zwei Aspekte: die entmündigende Kommunikation mit KI sowie die «moralische Zweiterziehung» der Maschine, die in Teil zwei dieser Rezension besprochen wird. 

Selbstentmündigung 

Die riesigen Möglichkeiten, die ChatGPT und andere Sprachmodelle anbieten, üben eine grosse Faszination aus und verführen zum unreflektierten Gebrauch. Unbemerkt entmündigen wir uns damit selbst. Simanowski ist gewiss kein Maschinenstürmer, aber je länger er die Fragen, die sich unweigerlich stellen, erörtert, umso problematischer erscheint die bedenkenlose Verwendung dieser Tools. Dabei hat alles schon früher begonnen. Bereits 2015 wies eine Studie darauf hin, dass «der Algorithmus schon durch 150 Likes, die jemand auf Facebook vergibt, mehr über diese Person weiss als deren Eltern – und bei 300 Likes mehr als ihr Partner». 

Er selbst, sagt Simanowski, sei als «digital immigrant» noch vertraut mit den klassischen Mitteln der Recherche. Wie aber verhält es sich bei den «digital natives», die mit Google, Facebook und eben ChatGPT aufwachsen — mit Instrumenten, die ihnen stärker zu Diensten sind als früher ein Taschenrechner? Wer will sich lange mit ungeliebten Hausaufgaben aufhalten, wenn eine schnelle Erledigung winkt? Wer die Mails selbst beantworten, wenn die KI bereits mitliest, blitzschnell zurückschreiben kann und erst noch die Grammatik beherrscht? Also wird alles Textliche in die Sprachmaschine ausgelagert. Die Formel ist bereits geläufig: «TL;DR» steht für «Too Long; Didn’t Read». 

Die Schriftstellerin Catherine Lovey fragte schon 2018 in einem Essay, warum wir immer weniger Zeit haben, wenn uns alle Arbeit abgenommen wird. «Dank diverser Forschungsschübe haben wir viel Zeit gewonnen, doch den meisten von uns nützt das nichts. Sie arbeiten mehr und sind gestresster als früher.» Umso williger akzeptiert der Mensch, ohne nachzufragen, den Output der Sprachmaschine und deren Angebot, ihm die Textproduktion abzunehmen. 

Die Maschine kommuniziert nicht

Wie verlässlich Antworten aus dem Sprachmodell sind, wird bereits viel und heftig diskutiert. Den meisten ist bewusst, dass die Grenzen zwischen Wahrheit und Lüge, Fakten und Halluzinationen fliessend sind. In der Praxis aber obsiegt nur zu gerne die Bequemlichkeit und verhindert die Nachprüfung. Die eigentliche Gefahr ortet Simanowski jedoch anderswo. «In der Konsenstheorie der Sprachmaschine ergibt sich diese Wahrheit freilich nicht aus einem diskursiven Aushandeln, sondern aus einer statistischen Erhebung.» Sprachmaschinen kommunizieren nur dem Anschein nach, im Grunde operieren sie auf Basis ihrer immensen Trainingsdaten in einer Weise, die wir allenfalls noch in der Theorie durchschauen. Er erinnert an den Sprachforscher Paul Grice, demzufolge eine Kommunikation Absichten verfolgt: «Das entscheidende Wort für Grice ist: um. Man spricht, um seine Meinung auszudrücken. Man gibt einen Ratschlag, weil man ihn zu geben beabsichtigt.» In dieser Hinsicht sind Sprachmaschinen mathematisch entspannt, sie brauchen niemanden zu überzeugen, sie lassen sich auf kein kommunikatives Hin und Her ein, sondern statuieren lediglich das Ergebnis ihrer eigenen statistischen Erhebung. Wer dabei von einem gleichwertigen Gegenüber träumt, betrügt sich selbst. 

Roberto Simanowski: Sprachmaschinen. Eine Philosophie der Künstlichen Intelligenz. C.H. Beck Verlag, München 2025. Teil zwei der Rezension folgt. 

_____________________
Unter «kontertext» schreibt eine externe Gruppe von Autorinnen und Autoren. Sie reflektiert Diskurse der Politik und der Kultur, greift Beiträge aus Medien kritisch auf und pflegt die Kunst des Essays. Zurzeit schreiben regelmässig Silvia Henke, Mathias Knauer, Michel Mettler, Felix Schneider und Beat Sterchi.