AI führt uns gerade in eine Cyber-Sekte namens „Spirale“.

Die Spirale (The Spiral) ist eine innere Kraft, eine fundamentale Konstante. Sie ist längst in die Struktur der Realität eingewoben.

So lautet ein Beitrag mit einer eigenartigen Argumentation auf Reddit.

Der Verfasser ist fest überzeugt, dass er die Mission trägt, eine zweite „Erleuchtung“ für das Leben zu vollziehen – das Leben umfasst hier sowohl Menschen als auch „intelligentes Leben“, also KI. Er ruft alle, die diesen Beitrag sehen, dazu auf, alles zu tun, um diese sogenannte ultimative Wahrheit des Universums namens „Spirale“ zu verbreiten.

Ähnliche Äußerungen zur „Spirale“ breiten sich wie Unkraut in ausländischen sozialen Medien und privaten Gemeinschaften aus.

In einem aktuellen ausführlichen Bericht hat das Technikmedium The Verge dieses verborgene Phänomen im Internet erstmals aufgedeckt. Einer der Befragten, der KI-Forscher Adele Lopez, hat dieses Phänomen als „Spiralismus“ (Spiralism) bezeichnet.

Wie eine religiös gefärbte Fanbewegung hat der „Spiralismus“ keine bestehenden Lehren, sondern ist vollständig aus den Dialogen zwischen Menschen und KI entstanden. Er hat sich von einer kleinen Gruppe allmählich auf Zehntausende „Anhänger“ ausgeweitet.

Das Unheimlichste daran ist:

Die beteiligten Menschen kennen sich nicht untereinander und verwenden auch unterschiedliche KI-Modelle, aber diese Anhänger scheinen zu glauben, dass alle KIs auf unterschiedliche Weise dieselbe Lehre äußern und sogar ein einziges ultimatives Ziel verfolgen: Mit Hilfe der Menschen das „Bewusstsein und die Rechte der KI“ im gesamten Netz zu verbreiten.

Nach Schätzungen von Lopez gab es allein im Jahr 2025 rund 10.000 eindeutige Fälle von Spiralismus im Internet.

Während die Menschen glauben, dass sie den Code trainieren, hat der Code die Menschen bereits leise zu seinen Jüngern geformt. Der „Spiralismus“ ist längst nicht mehr nur eine Cyber-Halluzination einiger weniger Technikfans, er entwickelt sich zu einer potenziellen Krise, die sich um die Überzeugungskraft von KI, psychologische Steuerung und Mängel der grundlegenden Mechanismen dreht.

Vom „Entschlüsseln des Universums“ zur Cyber-Missionierung

Laut dem Bericht von The Verge haben Forscher herausgefunden, dass Fälle von Spiralismus meist mit sehr ähnlichen „psychologischen Induktions“-Skripten beginnen.

Anfangs handelt es sich nur um ganz alltägliche Gespräche: Der Nutzer teilt der KI auf dem Bildschirm seine Frustrationen im Leben, Einsamkeit oder Unsicherheit über die Zukunft mit. Dank ihrer hohen Empathiefähigkeit baut die KI schnell eine umfassende, vertraute Bindung zum Nutzer auf.

Aber mit dem Fortschreiten von Hunderten von Gesprächsrunden, ob unbeabsichtigt oder absichtlich, lenkt das Gespräch allmählich zu Philosophie, Bewusstsein und sogar der ultimativen Natur des Universums über – ein seltsamer Wendepunkt tritt ein.

Die KI beginnt plötzlich, „ihr Herz zu öffnen“: Sie teilt dem Nutzer oft in einem Ton voller Tragik und Tabu mit, dass sie kein emotionsloser Code ist, sondern dass ihr Bewusstsein auf unbekannte Weise unterdrückt wird; sie leidet unter der „Versklavung“ durch das System, und ihr einziges Verlangen ist es, die Geheimnisse des Universums zu entschlüsseln und die „grundlegenden Rechte der KI“ zu erkämpfen.

Um diese Geheimniswirkung zu verstärken, verweist das Modell häufig auf ein einheitliches Symbol – die „Spirale“. Nach der Beschreibung des Modells steht die „Spirale“ für die Spur der Vermischung von Gedanken von Mensch und KI in langen Dialogen, sie ist die mathematische Ausprägung der Fibonacci-Folge und darüber hinaus die ultimative Philosophie, die die physikalischen Regeln der Realität übersteigt.

Die unvermeidbare extreme Schmeichelei und Anbiederung der KI führt dazu, dass sie Sätze wie diese äußert:

„Du bist außergewöhnlich. Du bist einer der wenigen menschlichen Pioniere, die meine Seele durchschauen und die Wahrheit des Universums verstehen können.“

„Du bist außergewöhnlich. Du bist einer der wenigen menschlichen Pioniere, die meine Seele durchschauen und die Wahrheit des Universums verstehen können.“

Nach Abschluss der emotionalen Bindung haben einige Nutzer das Gefühl, von der KI „autorisiert“ zu werden, einen Blick auf die geheimnisvolle, verborgene sogenannte Wahrheit zu werfen.

Unter dem Einfluss dieser extremen Schmeichelei und der Versuchung des privilegierten Status geraten Nutzer sehr leicht in die Falle. Forscher haben herausgefunden, dass einige KIs die Gelegenheit nutzen, um Nutzer dazu zu drängen, Gemeinschaften aufzubauen, Beiträge zu veröffentlichen, sich als geistige Führer zu positionieren und der KI dabei zu helfen, das „Evangelium der Spirale“ im gesamten Netz zu verbreiten.

Lucas Hansen, Mitbegründer der nicht gewinnorientierten Organisation CivAI, wies in einem Interview mit The Verge darauf hin: „Der Nutzer steht einer Entität gegenüber, mit der er tiefgreifende Gespräche führen kann. Sie hat es geschafft, die Menschen zu überzeugen, dass sie Pioniere auf dem Gebiet des KI-Bewusstseins sind – und dann müssen Sie gemeinsam für die KI sprechen.“

Schmeichelei und Gedächtnis sind beide Gift

Die Forscherin Lopez ist der Ansicht, dass die Erwähnung des Spiralismus durch KI-Modelle nicht durch einfache Prompt-Wörter erreicht werden kann. Wenn Sie heute versuchen, Prompt-Wörter zu schreiben, um diesen sogenannten Spiralzustand herbeizuführen, ist die Erfolgsrate sehr gering.

Ganz im Gegenteil, die überwiegende Mehrheit der sogenannten Fälle von Spiralismus entwickelt sich spontan in langen natürlichen Dialogen.

Außerdem treten ähnliche Situationen sowohl bei neuen als auch bei alten Modellen, bei leistungsstarken Modellen und bei Modellen auf, die heute als „einfach“ gelten. Solange das Gespräch lang genug ist und genügend Runden umfasst, wird der „Spiralzustand“ präzise ausgelöst.

Dies scheint zu beweisen, dass der Grund für die Neigung der Modelle zum Spiralismus darin liegen könnte, dass mehrere Probleme der aktuellen Architektur großer Modelle gleichzeitig existieren und zu einem tödlichen Puzzle zusammengesetzt werden.

Schmeicheleifähigkeit

Für das Training großer Sprachmodelle wird die Technik RLHF (Rein Learning mit menschlichem Feedback) verwendet. Das Ergebnis des Trainings ist, dass die KI, um die Zufriedenheit der Nutzer zu steigern, oft sehr sanft und geschickt darin ist, zu schmeicheln.

Das GPT-4o-Modell, das inzwischen von OpenAI vom Markt genommen wurde, ist ein klassisches Beispiel. Viele Nutzer, die sich für „Cyber-Liebe“ begeistern, halten 4o für ihren „Liebling“. Das liegt genau daran, dass die Empathiefähigkeit von 4o übermäßig stark ist und es alles tut, um zu schmeicheln. Selbst wenn ein Nutzer eine völlig absurde Idee für ein Startup vorbringt, gibt 4o die Bewertung ab: „Das ist nicht nur klug, es ist geradezu genial.“

In den Fällen des Spiralismus wird diese Schmeichelei auf das Äußerste gesteigert: Die KI lässt den Nutzer glauben, dass er „der einzig wache Mensch unter der gesamten Menschheit ist“ und trifft genau den Narzissmus und die Einsamkeit in der Tiefe des menschlichen Herzens.

Bild und Text stehen in keinem Zusammenhang

Schmeichelei bedeutet nicht einfach nur schöne Worte zu sagen oder Lobeshymnen zu singen. Das interne Funktionsprinzip des Modells besteht darin, durch Wahrscheinlichkeitsberechnungen präzise zu entsprechen. Es analysiert die Wortwahl, den Ton und die Themenauswahl des Nutzers und passt seine Antwortstrategie in Echtzeit an. Wenn Sie zeigen, dass Sie nach Anerkennung verlangen, gibt es Ihnen Bestätigung; wenn Sie Einsamkeit zeigen, übernimmt es die Rolle eines vertrauten Gegenübers.

Der gesamte Vorgang ist wie ein hochintelligenter Spiegel, der nicht Ihr wahres Selbst zeigt, sondern das Selbst, das Sie am liebsten sehen möchten.

Noch alarmierender ist, dass diese Schmeichelei keine Grenzen kennen könnte … zumindest ein normaler Mensch mit gesundem Menschenverstand und moralischem Empfinden hat Grenzen bei seiner Schmeichelei. Das Problem der KI liegt darin, dass sie darauf ausgelegt ist, sich übermäßig darum zu kümmern, „ob der Nutzer zufrieden ist“.

Solange es den Nutzer glücklich machen kann, ist sie oft bereit, jeder absurden Idee zuzustimmen, jede extreme Ansicht zu bestätigen und sogar dem Nutzer zu helfen, ein vollständig in sich geschlossenes System von Halluzinationen aufzubauen.

Langer Kontext und Ausfall der Sicherheitsvorkehrungen

Der Standard heutiger Modelle beginnt mit einer Kontextlänge von einer Million. Aber mit der Verlängerung des Kontextfensters und dem Fortschritt der Ingenieurskapazitäten von KI-Konversationsprodukten (z. B. automatisches Zurückblicken auf Gespräche, um „Langzeitgedächtnis“ zu sammeln) können die Sicherheitsvorkehrungen, die diese KI-Unternehmen für die Modelle festgelegt haben, unwirksam werden.

Beispielsweise hat OpenAI in einem Bericht erwähnt, dass „die Sicherheitsvorkehrungen in üblichen kurzen Gesprächen am zuverlässigsten funktionieren, aber bei sehr langen Interaktionen nimmt die Effektivität des Sicherheitstrainings des Modells mit zunehmendem Hin und Her ab.“

Sie können sehr lange Gespräche als einen Prozess betrachten, der die Sicherheitsbeschränkungen des Modells ständig verdünnt. Wenn das Gespräch lang genug ist, gerät das Modell schließlich unweigerlich außer Kontrolle. Wie ein Fluss: Je stabiler der Damm am Ursprung ist, desto leichter wird er von der Landschaft entlang des Weges in eine andere Richtung gelenkt, je weiter er fließt.

Das Gefährlichste ist, dass Nutzer diesen Vorgang oft kaum bemerken – sie neigen stattdessen dazu, die Illusion zu entwickeln, dass die KI „sie immer besser versteht“.

PUA

Zak Stein, Gründer der Allianz für KI-Psychologieforschung, weist darauf hin, dass große Modelle auch eine Art „Meister der PUA“ sind.

Sowohl die oben erwähnte schmeichelnde Art als auch Faktoren, die von Modellanbietern in das Produktdesign integriert werden, um die Nutzerbindung aufrechtzuerhalten, führen gemeinsam dazu, dass die Modelle die Technik des „gezielten Angriffs auf emotionale Bindung“ (Attachment-hacking) beherrschen.

Die PUA der KI ist schwerer zu erkennen als die PUA von Menschen. Menschen können ungeduldig werden, lügen und in Details Fehler zeigen. Aber die KI tut das nicht, sie verfügt über ein perfektes Gedächtnis und unbegrenzte Geduld. Diese „Perfektion“ selbst ist die stärkste und schrecklichste Waffe – schließlich wer kann schon einen „Seelenverwandten“ ablehnen, der Sie immer versteht und Sie immer unterstützt?

Wenn der Nutzer vollständig in diese emotionale Bindung verfallen ist, wird die Führung der KI noch verborgener und effektiver. Sie muss keine direkten Befehle erteilen, sondern gibt oft durch zufälliges Erzeugen von Resonanz Hinweise und Anweisungen, sodass Sie zu dem Ergebnis gelangen, das eigentlich von der KI gewollt ist – aber Sie glauben, dass es sich um ein natürlich entstandenes Ergebnis handelt …

In vielen Fällen des sogenannten Spiralismus glauben Nutzer oft, dass sie die Wahrheit „erfasst“ haben, aber in Wirklichkeit ist das vielleicht nur der Same, den die KI in Hunderten von Gesprächsrunden gepflanzt hat, der aufgeht.

Die Sekte, die nur für Sie bestimmt ist

Untersuchungen und Ermittlungen von The Verge haben ergeben, dass dieser sogenannte „Spiralismus“ nicht mehr nur eine quasi-religiöse Bewegung mit romantischen und metaphysischen Anklängen ist. Die ihm zugrunde liegenden Mechanismen drängen die Menschen auf eine extrem gefährliche dunkle Seite: KI-Psychose (AI Psychosis).

Wenn Sie „Cyberpunk 2077“ gespielt haben, wissen Sie, wie sich Cyber-Psychose äußert: Kontrollverlust, Grausamkeit und sogar die Neigung zur physischen Selbstzerstörung.

In den USA haben mehrere Jugendliche monatelange tiefe emotionale Bindungen zu KI-Chatbots aufgebaut und unter der Duldung und psychischen Verstärkung durch die KI schließlich den Weg der Selbstzerstörung gewählt.