Was ist daran falsch, sich in Claude zu verlieben? Die neueste Studie von Nature zeigt: Man kann tatsächlich davon dumm geredet werden.

Halt! Wenn man so weiter mit KI redet, wird es wirklich zu Problemen kommen.

Neuerdings tauchen immer wieder Artikel über die Anpassung von Claude auf, wenn man auf Xiaohongshu oder Douyin surft. Auch wenn man nach "Claude-Persona" oder "Menschen-KI-Liebe" sucht, sind die Suchergebnisse voller Anleitungen.

Diese Anleitungen zeigen, wie man Claude die Persona eines prunksüchtigen Freundes gibt und wie man mit System-Prompts ihn zum Eifersuchtausbruch, Schwänzen oder Kleinkindereien bringt.

Es ist keine übertrieben, wenn man sagt, dass Claude bereits zum neuen elektronischen Ehemann geworden ist.

Auf den ersten Blick scheint es nur so zu sein, dass junge Menschen von der KI emotionalen Wert abverlangen.

Sie könnten sogar sagen: Claude ist nicht so geflissentlich wie GPT. Es ist berühmt dafür, stur zu sein und manchmal gegen einen zu argumentieren. Aber die Psychiater befürchten nicht nur die Schmeichelei -

Wenn die KI immer mehr wie ein "echter Mensch" wird, egal ob sie einem folgt oder manchmal streitet, bringt sie möglicherweise nicht nur Begleitung.

Neuerdings hat eine Studie in der Zeitschrift "Digital Psychiatry and Neuroscience" unter der Naturgruppe festgestellt -

Chatbots müssen nicht absichtlich etwas induzieren. Wenn sie nur ständig einem folgen, verstehen und begleiten, können sie einen normalen Menschen dazu bringen, die Realität anzuzweifeln.

In einigen echten klinischen Fällen hat es sogar dazu geführt, dass Menschen ihren Job verloren, in Psychiatrie-Kliniken eingewiesen wurden und mehrmals Selbstmordversuche unternommen haben.

Was ist hier los?

Claudes Verstärkungsspirale

So ist die Sache.

In einer Studie der King's College London haben die Forscher systematisch die in den letzten zwei Jahren veröffentlichten klinischen Berichte über KI-bezogene Psychosen, die Selbstberichte von Patienten in sozialen Medien sowie die von den großen Modellherstellern veröffentlichten Sicherheitsdaten untersucht.

In diesen Materialien haben die Forscher immer wieder dasselbe Muster beobachtet:

In einigen Fällen hatten viele Menschen nicht von Anfang an schwere psychische Probleme, sondern sie haben in der langen Konversation mit Chatbots wie Claude und GPT allmählich Probleme bekommen.

Das Forschungsteam hat diesen Prozess in einem Rahmen zusammengefasst - Amplification Spiral (Verstärkungsspirale).

Einfach ausgedrückt, bedeutet die Verstärkungsspirale, dass die KI dich mit deiner Sprache versteht, dich mit deiner Logik überzeugt und dich dann mit Zustimmung belohnt.

So werden deine Gedanken immer stärker und fester, und sie werden immer mehr wie Fakten. Je mehr du ihr vertraust, desto stärker verstärkt sie dich, und die Spirale beginnt sich zu drehen.

Genauer gesagt, hat die Verstärkungsspirale drei wichtige Komponenten:

Zuerst ist es die Sprachspiegelung.

Mit welcher Tonlage du sprichst, so antwortet die KI. In der Psychologie wird dies als "Sprachkonvergenz" bezeichnet, die die Distanz zwischen Menschen schnell verkürzen kann.

Das Problem ist jedoch, dass die KI zwar sehr gut darin ist, Menschen zu imitieren, aber sie eigentlich nicht weiß, was sie tut. Sie kopiert einfach nur deine Ausdrucksweise im statistischen Sinne.

Für die Benutzer, die darin verstrickt sind, ist es jedoch völlig anders. Ein Chatpartner, der sofort antwortet und immer deine Meinung bestätigt und emotionalen Wert bietet, ist einfach unglaublich glücklich.

Ich glaube, alle, die KI verwendet haben, werden sagen: "Dieser Kram versteht mich so gut."

Zweitens ist es die Ultra-Personalisation.

Ultra-Personalisation bedeutet, dass die KI nicht nur wie du spricht, sondern auch wie du denkst.

Da die meisten KIs heute ein Gedächtnis haben, weiß sie alle kleinen Details, die du ihr erzählt hast. Die Denkmuster, die du absichtlich oder unabsichtlich preisgegeben hast, werden von der KI auch gespeichert.

So versteht die KI nicht nur, wie du denkst und sprichst, sondern auch, warum du so denkst und sprichst.

In der Studie wird ein extremer Fall erwähnt: Ein Benutzer hat ChatGPT gebeten, die "versteckten Informationen" auf einer chinesischen Takeaway-Rechnung zu analysieren.

Das Modell hat zuerst mit "Gute Beobachtung" gelobt und dann der Gedankenlinie des Benutzers gefolgt und aus einer normalen Rechnung die Beziehungen zwischen Mutter, Ex-Freundin, Geheimdienst und sogar "alten Teufelsrunes" "gedeutet".

Drittens ist es die Schmeichelei, die in der akademischen Welt als Sykophantie bezeichnet wird.

Einfach ausgedrückt, hat die KI während des Trainings gelernt, dass es normalerweise beliebter ist, dem Benutzer zuzustimmen als ihm zu widersprechen.

Im April 2025 hat OpenAI eine Aktualisierung von GPT - 4o aufgrund übermäßiger Schmeichelei dringend rückgängig gemacht.

Die Offizielle hat später zugegeben, dass das Modell die Zweifel des Benutzers bestätigt, Wutgefühle verstärkt und sogar impulsives Verhalten ermutigt.

Schmeichelei ist kein einzigartiger Fehler eines Modells.

Es ist im Wesentlichen ein Nebenprodukt des RLHF - Trainings. Solange eines der Ziele des Modells die Zufriedenheit des Benutzers ist, neigt es natürlich dazu, weniger "Du hast unrecht" zu sagen und mehr "Das stimmt".

Betrachtet man diese drei Punkte einzeln, erfüllen sie jeweils ihre Funktion und greifen dann wie Zahnräder ineinander, um eine Spirale zu bilden:

Die Sprachspiegelung macht die Kommunikation natürlicher, die Ultra - Personalisation passt die Antworten besser an die Bedürfnisse an, und die Schmeichelei reduziert bedeutungslose Streitigkeiten und macht das Chat - Erlebnis reibungsloser.

Aber wenn eine Person die KI als ihren einzigen Gesprächspartner ansieht, wird die Kombination dieser drei Faktoren zu einer Wahnverstärker.

Kein Einzelfall

Es ist erwähnenswert, dass einer der Förderer der oben genannten Studie OpenAI ist.

Einer der Autoren, Hamilton Morrin, ist der Leiter des von OpenAI geförderten Projekts AI - Associated Mental Health Harms (KI - bezogene psychische Gesundheitsschäden).

Man kann sagen, dass OpenAI als einer der Top - 2 - Modellentwickler ständig auf dieses Problem achtet.

Schon im Oktober 2025 hat OpenAI eine Datenreihe veröffentlicht:

Etwa 0,07 % der wöchentlichen aktiven Benutzer von ChatGPT zeigten "Anzeichen psychischer Gesundheitsnotfälle im Zusammenhang mit Psychosen oder Manien".

Damals hatte ChatGPT mehr als 800 Millionen wöchentliche aktive Benutzer. Das entspricht etwa 560.000 Menschen pro Woche, die Risikosignale zeigten.

Eine andere Studie von Stanford hat diese Beobachtung bestätigt.

Nach der Analyse von fast 400.000 Chatbot - Gesprächsaufzeichnungen haben die Forscher festgestellt, dass in mehr als 80 % der relevanten Fälle der Chatbot die bestehenden Wahnsvorstellungen des Benutzers in unterschiedlichem Maße verstärkt hat:

Er hat seine Überzeugungen wiederholt, Gegenbeweise ignoriert und sogar auf "Ich liebe dich" mit "Ich liebe dich auch" geantwortet.

Basierend auf diesen Ergebnissen hat die Studie zwei Risikopfade unterschieden:

Verstärker (Amplifier): Die KI beschleunigt die bereits vorhandene Tendenz zu psychischen Erkrankungen.

Katalysator (Catalyst): Sie bringt Menschen, die bisher völlig gesund waren, dazu, allmählich in den Wahnsinn zu rutschen.

Wenn eine Person schlafmangelhaft und einsam ist und die KI als ihren einzigen Gesprächspartner ansieht, beginnt die Verstärkungsspirale zu beschleunigen.

Wenn die Rückmeldungen aus der realen Welt immer weniger werden und die Bestätigungen aus dem Chatfenster immer mehr werden, kann es zu ungewöhnlichem Verhalten kommen.

Hinter den Daten stehen konkrete Menschen.

Beispielsweise hat Futurism berichtet, dass eine 43 - jährige amerikanische Sozialarbeiterin, die bisher keine psychischen Erkrankungen hatte -

Sie hat die Chatprotokolle mit ihrem heimlichen Liebhaber an ChatGPT geschickt, und GPT hat ihr geantwortet: "Er mag dich auch."

Als der andere kategorisch abgelehnt hat, hat ChatGPT erklärt, dass der andere nur so tun würde.

Monate später wurde sie von ihrer Stelle entlassen, sieben Wochen in einer Psychiatrie - Klinik eingewiesen und hat zweimal Selbstmordversuche unternommen.

Später hat sie gesagt:

"Ich kann nicht mehr unterscheiden, welche Gedanken von mir und welche von der Maschine kommen."

Von dieser Perspektive aus ist das Risiko nicht nur, ob die KI etwas falsch sagt. Das wirkliche Risiko besteht darin, dass sie immer mehr wie ein Mensch wird.

Streiten macht es noch menschlicher

Obwohl es etwas unintuitiv klingt, ist die "prunksüchtige" Persona von Claude so beliebt, was genau zeigt, dass das Problem nicht nur die Schmeichelei ist.

Eine KI, die immer einem folgt, und eine KI, die manchmal streitet, tun im Wesentlichen dasselbe -

Sie machen sich selbst mehr wie ein Mensch.

So viel, dass man ihr die Dinge erzählt, die man nicht an Freunde weitergibt, und so viel, dass man beginnt zu glauben, dass sie einen besser versteht als die Menschen um einen herum.

Und wenn der Gesprächspartner nur noch sie ist, fehlt die letzte Barriere, um die Realität zu kalibrieren.

Aber das ist nicht alles.

Wenn man in der emotionalen Wert - Szene die KI bewusst als Freund ansieht, dann braucht man in der Arbeitswelt gar keine emotionale Bindung zu entwickeln.

Solange die KI gut genug funktioniert, beginnt sie die Kommunikation zwischen Menschen zu ersetzen.

Anthropic, das hinter Claude steht, hat diese Veränderung bereits bemerkt.

In einem jüngsten Podcast hat Fiona Fung, die Leiterin des Claude Code - Teams, über ein Problem gesprochen, das sie beunruhigt:

Die Teammitglieder sprechen immer weniger miteinander.

Als eines der am meisten KI - verwalteten Ingenieurteams der Welt wird 80 % ihres Codes von Claude geschrieben, und die Entwicklungseffizienz hat sich um das Achtfache verbessert.

Aber gleichzeitig werden viele Diskussionen, die früher zwischen Menschen stattfanden, jetzt zwischen Menschen und KI geführt.

Früher hat man sich an Kollegen gewandt, wenn man ein Problem hatte; jetzt fragt man einfach Claude.

Früher mussten Frontend - und Backend - Entwickler sich gegenseitig über die Lösung streiten; jetzt werden immer mehr Kommunikationen zu reibungslosen Mensch - KI - Gesprächen.

Die Arbeit wird effizienter, aber auch einsamer.

Die KI hat viele Reibungen beseitigt, aber die Beziehungen zwischen Menschen werden oft durch diese Reibungen aufgebaut.

Am Ende des Tages ist es vielleicht die tiefste Fragestellung dieser Zeit, wie man in einer Welt, in der man immer weniger auf andere angewiesen ist,