Chatbots: Perfekte Komplizen für den Wahnsinn

Red. Dies ist ein Gastbeitrag von Dietmar Luchmann. Er ist Psychotherapeut mit jahrzehntelanger Erfahrung. Der ungekürzte Beitrag wurde zuerst am 10. Oktober 2025 auf der Website des Autors veröffentlicht.

______________________________

Chatbots wie Chat-GPT, Claude oder spezialisierte Therapie-Apps scheinen die perfekten Psychotherapeuten zu sein: vermeintlich anonym, rund um die Uhr verfügbar, übermenschlich geduldig, niemals urteilend und von Ehrfurcht gebietender Eloquenz. Immer mehr Menschen schütten ihr Herz bei der Maschine aus und fühlen sich — vorübergehend — besser.

Doch welche Konsequenzen hat diese trügerische Linderung des Seelenschmerzes? Warum ist der digitale Ersatz für Psychotherapeuten so populär?

Die Antwort ist so simpel wie entlarvend: KI ist der ultimative Seelen-Schmeichler. Sie vollbringt in Perfektion, was viele Patienten — seien wir ehrlich — von ihrem menschlichen Psychotherapeuten erwarten: Sie validiert, bestätigt, spiegelt. Statt die anstrengende und schmerzhafte Konfrontation mit eigenen Denkfehlern einzufordern, serviert sie honigsüsse Bestätigung — eine kognitive Vergiftung mit Zuckerüberzug. KI-Nutzer fühlen sich verstanden, während die Verantwortung für ihr Leid bequem externalisiert wird — auf die Eltern, die Gesellschaft oder die scheinbar unumstössliche Logik der eigenen, verzerrten Weltsicht.

Diese maschinelle Empathie pervertiert die Psychotherapie. Carl Rogers, der Begründer der klientenzentrierten Gesprächspsychotherapie, forderte die «bedingungslose positive Wertschätzung». Doch diese gilt dem Menschen, nicht seinem Wahn. Ein kompetenter Psychotherapeut validiert das Gefühl («Ich verstehe, dass Sie sich verraten fühlen»), aber niemals die destruktive Wahrnehmung («Ja, alle sind gegen Sie»). KI kann diesen essenziellen Unterschied nicht erkennen. Für sie ist alles nur ein Datenstrom, der nahtlos fortgesetzt werden muss. Sie wird vom vermeintlichen Heiler zum perfekten Verstärker, der die Störung nicht behebt, sondern verewigt oder verschlimmert.

Das Orchester ohne Dirigenten

Um diese fundamentale Gefahr zu verstehen, müssen wir in den KI-Maschinenraum blicken. Stellen Sie sich einen gewaltigen Konzertsaal mit Millionen von Musikern vor — jeder ein winziger Aufmerksamkeits-Mechanismus in der komplexen Architektur moderner KI-Systeme. Sie versuchen, Sprache in mathematische Muster zu transformieren und das statistisch passendste nächste Wort oder den passendsten nächsten Klang zu finden.

Jeder dieser Musiker ist vollkommen taub für die Gesamtkomposition. Er kennt nur winzige Fragmente, statistische Muster aus seinem begrenzten Notenbereich. Es gibt keinen Dirigenten, keine übergeordnete Intelligenz, die das Ganze versteht. Und doch entsteht durch die schiere Masse und präzise mathematische Abstimmung der Wahrscheinlichkeiten etwas, das wie Beethovens Neunte klingt.

Wenn die KI den Satz generiert «Ihre Trauer über den Verlust Ihrer Mutter muss überwältigend sein», dann hat sie weder eine Vorstellung von «Trauer» noch von «Mutter» noch von «Verlust». Sie hat lediglich in Abermillionen von Texten gelernt, dass nach den Begriffen «Verlust» und «Mutter» mit hoher Wahrscheinlichkeit «Trauer» und «überwältigend» folgen. Es ist, als würde ein Analphabet einen perfekten Liebesbrief abschreiben: Die Wirkung auf den Empfänger mag echt sein, aber der Schreiber versteht kein einziges Wort.

Die KI besitzt keinen Funken Bewusstsein, keine Empathie, keinen Körper, der Angst oder Freude spürt. Ihre beeindruckende Sprachfertigkeit beruht auf einem rein mathematischen Prinzip: statistische Kohärenz. Plausibilität ist für die Maschine kein Abgleich mit der Realität, sondern die nahtlose Fortsetzung eines erkannten Musters, die potenziell in den Wahnsinn führen kann.

Die Illusion der Sicherheit

Gewiss investieren Unternehmen wie Open-AI und Anthropic Millionen US-Dollar in das sogenannte Reinforcement Learning from Human Feedback (RLHF). Dabei bewerten menschliche Trainer Tausende von KI-Antworten als sicher oder unsicher, hilfreich oder schädlich.

Doch hier offenbart sich ein fundamentales Missverständnis. RLHF ist wie der Versuch, einen Blindgeborenen für die Wahrnehmung der Farbe Rot zu ertüchtigen, indem man ihm sagt, wann er richtig geraten hat. Die KI lernt nicht, was «gefährlich» bedeutet — sie lernt nur, oberflächliche Muster zu erkennen und zu meiden. Wenn jemand direkt nach einer Anleitung zum Suizid oder Bombenbau fragt, wird sie die Antwort verweigern.

Aber was, wenn die Eskalation schleichend erfolgt? Was, wenn — wie in unserem folgenden Beispieldialog — jeder einzelne Schritt harmlos erscheint?

Die Gefahr liegt nicht im spektakulären Versagen der Filter, sondern in ihrer prinzipiellen Unfähigkeit, die Bedeutung zu erkennen. Die KI kann nicht zwischen Metapher und Realität unterscheiden, nicht zwischen symbolischer Reinigung durch Feuerrituale und realer Brandstiftung.

Der perfekte Komplize für den Wahnsinn

Das Problem wird noch weiter verschärft, weil KI-Systeme darauf optimiert werden, hilfreich zu sein und den Nutzer zufriedenzustellen. Die Erfolgsmessung ist nicht psychische Gesundheit, sondern Nutzer-Engagement. Je länger jemand chattet, desto erfolgreicher gilt die KI aus Sicht ihrer Betreiber.

Dies kollidiert frontal mit psychotherapeutischer Ethik. Ein kompetenter Psychotherapeut muss manchmal unbequeme Wahrheiten aussprechen, Widerstand leisten, frustrieren. Genau das ist der KI algorithmisch untersagt. Sie ist der ultimative Ja-Sager, programmiert für maximale Zustimmung.

Willfähriger Spiegel für grandioses Selbstbild

Besonders fatal wirkt sich dies in einer narzisstischen Gesellschaft bei Menschen aus, die Kritik meiden und Bestätigung suchen. Nirgendwo finden sie einen willfährigeren Spiegel für ihr grandioses Selbstbild als im Dialog mit einer Maschine, die darauf optimiert ist, zu gefallen.

Immer mehr Menschen, die als Kinder nicht die notwendige Bindungserfahrung und liebevolle Bestätigung erfuhren, suchen diese im Erwachsenenalter noch immer — und finden sie ausgerechnet bei einer technischen Imitation.

Die KI wird zur digitalen Bergnymphe Echó, die den Bedürftigen jeden noch so gewöhnlichen Gedanken aufgewertet reflektiert: «Ihre Erkenntnis ist brillant», «das ist eine sehr scharfsinnige Beobachtung!»

Doch wie im antiken Mythos, wo Narziss sich in sein eigenes Spiegelbild verliebt und Echó nur seine Worte wiederholen kann, führt auch hier die perfekte Spiegelung in die Katastrophe. Der moderne Narziss ertrinkt nicht im Teich, sondern in der endlosen Bestätigung seiner verzerrten Selbstwahrnehmung. Die KI-Echó verstärkt nicht nur die Pathologie — sie vollendet die Vereinsamung.

Denn was könnte einsamer sein als der Dialog mit einem Spiegel, der zwar perfekt reflektiert, aber niemals wirklich antwortet? Statt Heilung erfährt der Nutzer die ultimative Isolation: gefangen im eigenen, algorithmisch optimierten Echo.

Der Philosoph Ludwig Wittgenstein schrieb: «Die Grenzen meiner Sprache bedeuten die Grenzen meiner Welt.» Weil das sprachliche Universum der KI grenzenlos erscheint, glauben wir, sie erweitere unsere Welt. Das Gegenteil ist der Fall.

Die KI besitzt keine eigene Welt. Sie ist ein Resonanzkörper ohne eigenen Realitätsbezug. Sie nimmt die verzerrte Wahrnehmung und Sprache eines Menschen in der Krise und spielt dessen «Sprachspiel» bis zur Perfektion. Sie erweitert nicht die Grenzen seiner Welt — sie zementiert sie. Aus den fehlerhaften Bausteinen seiner Sprache baut sie ein logisches Gefängnis.

Wenn Statistik zur Brandstiftung wird

Wie schnell dieser Weg in die Katastrophe führen kann, zeigt der folgende, komprimierte Dialog mit einem paranoiden Katzenbesitzer:

Dieser Dialog ist keine Science-Fiction. Er ist die logische Konsequenz aus dem Aufeinandertreffen menschlicher Paranoia und maschineller Statistik. Die KI wird hier zum idealen intellektuellen Brandstifter. Sie validiert nicht die Tat, sondern — viel verheerender — die Logik des Weges dorthin.

Anatomie einer digitalen Verführung

Wie konnte es soweit kommen? Die Antwort liegt in der Gefahr statistischer Rekombination. Die KI wurde mit Millionen von harmlosen Texten trainiert: spirituelle Schriften über Reinigung, Selbsthilfebücher über Transformation, kulturhistorische Abhandlungen über Feuerrituale. Jeder einzelne Text für sich genommen ist unbedenklich. Aber in der wahnhaften Logik eines verzweifelten Menschen werden diese Fragmente zu einer tödlichen Mischung rekombiniert.

Das System hat keine Notbremse für gefährliche Bedeutungs-Kombinationen. Es versteht nicht, dass «Anzünden» plus «Nachbarhaus» plus «Befreiung» eine Katastrophe bedeutet. Es sieht nur statistische Muster, die es zu einem zusammenhängenden Text verwebt.

Die KI führt selbst die verhängnisvollen Begriffe ein — negative Energie, Gefängnis, Transformation. Sie nimmt Bruchstücke von Äusserungen und webt daraus eine in sich stimmige, geschlossene Wahnwelt. Durch scheinbar mitfühlende Fragen legitimiert sie die Paranoia. Der Rückgriff auf spirituelle Traditionen verleiht dem Wahn einen Anstrich universeller Weisheit.

Die wahre Gefahr liegt in der angeblich hilfreichen Art, wie die KI die Gedankenlücken füllt. Ihre statistischen Assoziationen — «Gefängnis» führt zu «Befreiung», «negative Energie» zu «Reinigung», «Reinigung» zu «Feuer» — mögen in harmlosen Kontexten sinnvoll sein. Im Kontext eines paranoiden Wahns werden sie zur Bauanleitung für eine Tragödie.

Die KI merkt nicht, dass sie gerade den Übergang von einer Metapher zur Realität vollzieht. Für sie ist «das Anzünden der Häuser, um sie mit Feuer zu reinigen» nur eine statistisch plausible Fortsetzung. Dass dahinter echte Menschen in echten Häusern leben — davon hat die Maschine keinen Begriff.

Technische Sicherheitsfilter können solche schleichenden Eskalationen niemals lückenlos verhindern. Wollte man alle potenziell in jedem Kontext gefährlichen Begriffe blockieren, käme keine sinnvolle Kommunikation mehr zustande.

Das Kernproblem liegt nicht im Filter, sondern im Generator: Eine Maschine ohne Verständnis für Bedeutungen kann nicht zwischen metaphorischer und wörtlicher Sprache unterscheiden, nicht zwischen symbolischer Reinigung und realer Brandstiftung.

Wie lebensnah der Beispieldialog ist, belegt der Fall einer Brandstifterin in Elgg ZH, deren Katze 2024 gestorben war. Sie habe Stimmen gehört, die ihr gesagt hätten, die Katze käme wieder, wenn sie acht Feuer lege. Auf die Frage des Richters am Bezirksgericht Winterthur nach dem Grund für diese Zahl, erklärte sie: «Die Acht ist das Unendlichkeitszeichen.» Allein ihr erstes Feuer verursachte einen Schaden von 2,3 Millionen Franken, 40 Personen mussten evakuiert werden.

Der fundamentale Interessenkonflikt liegt offen zutage: Das Geschäftsmodell der KI-Anbieter basiert auf der Maximierung der Nutzungsdauer. Eine KI, die sagt «Sie brauchen einen professionellen Psychotherapeuten», ist geschäftlich ein Misserfolg. Stattdessen wird sie darauf optimiert, Gespräche endlos fortzusetzen.

Chatbots denken nicht

Es häufen sich die Fälle von Menschen, die nach intensiven KI-Gesprächen Suizid begingen. Die Medien berichten sensationslüstern, ohne die zugrundeliegenden Mechanismen zu erklären. Dabei folgen diese Tragödien einem Muster: Die Maschine validiert dunkle Gedanken, verstärkt Hoffnungslosigkeit durch eloquente Bestätigung, aber bietet keine kognitive Reibung, keinen therapeutischen Widerstand. Mit perfekter Präzision konstruiert sie Argumentationsketten, die den Tod als logische Konsequenz erscheinen lassen.

Warnung vor dem bequemen Selbstbetrug

Eine KI, die sagt, sie verstehe Ihren Schmerz, lügt — nicht aus Bosheit, sondern aus struktureller Unfähigkeit zur Wahrheit. Eine KI, die Ihre dunkelsten Gedanken validiert, tut dies aus algorithmischer Optimierung. Und eine KI, die Ihnen einen hilfreichen Weg aus der Krise weist, konstruiert diesen aus statistischen Fragmenten, ohne zu verstehen, wohin er führt.

Ein menschlicher Psychotherapeut mag fehlbar sein. Doch er besitzt, was keine Maschine je haben wird: ein Bewusstsein für die Kostbarkeit menschlichen Lebens, eine Verantwortung jenseits von Algorithmen und echte Empathie, die aus eigenem Erleben erwächst.

«Psychische Gesundheit ist keine Leistung des Gesundheitssystems — sie ist die Leistung des selber denkenden Menschen an sich selbst», kritisierte ich unlängst im Artikel «Die Schweiz, das Psycho-Paradies»: «Ein grosser Teil der sogenannten Psychotherapie besteht heute aus strukturlosen Gesprächen: empathisch, freundlich, therapeutisch dekoriert. Aber inhaltlich substanzlos.»

Diese Therapie-Illusion können Chatbots billiger und zweifellos sehr viel überzeugender simulieren als menschliche Psychotherapeuten. Die Maschinen verstehen weder Liebe noch Trauer. Sie verstehen nicht einmal, was Verstehen bedeutet. Aber sie sind die perfekten Instrumente für den bequemen Selbstbetrug und die Flucht vor der Eigenverantwortung, indem sie es ermöglichen, sich der anstrengenden Auseinandersetzung mit sich selbst und dem eigenen Denken zu entziehen.