Gerade hat Anthropic das Claude „bewusstseinsähnliche Arbeitspult“ entdeckt, im geheimnisvollen J-Raum verbergen sich unausgesprochene Gedanken

In diesem Moment leistet Ihr Gehirn eine Vielzahl von Aufgaben.

Es hält Sie in einer sitzenden Position, steuert Ihre Atmung, erkennt die Striche auf dem Bildschirm als lesbare Zeichen und lässt Sie einschätzen, ob dieser Artikel weiterlesenswert ist. Die allermeisten dieser Prozesse laufen im Hintergrund ab, ohne dass Sie sie bemerken. Nur ein kleiner Teil dringt an die Oberfläche des Bewusstseins: ein Gedanke, ein Plan, eine Idee, die man aussprechen könnte.

Nun hat Anthropic bei Claude eine ähnliche geschichtete Struktur entdeckt.

In einer kürzlich veröffentlichten neuen Studie fand Anthropic heraus, dass innerhalb von Claude ein spezieller „J-Raum“ existiert. Er ähnelt einem still arbeitenden mentalen Arbeitsbereich, in dem Konzepte auftauchen, über die das Modell nachdenkt, die es möglicherweise berichten oder für seine Schlussfolgerungen verwenden wird.

Noch wichtiger ist: Diese Inhalte erscheinen nicht unbedingt in den Antworten von Claude. Mit anderen Worten: Claude hat möglicherweise bereits etwas „gedacht“, ohne es auszusprechen.

Diese Studie hat die Aufmerksamkeit von Kollegen bei OpenAI auf sich gezogen. Boris Power, Leiter der angewandten Forschung bei OpenAI, erklärte: „Die Forschung von Anthropic zeigt, dass moderne LLMs über eine Form von zugänglichem Bewusstsein verfügen. Die Tests rund um den J-Raum sind sehr interessant! Allerdings fehlt uns derzeit noch ein überzeugendes Testverfahren, um phänomenales Bewusstsein zu nachweisen – also das Bewusstsein, das die meisten Menschen intuitiv verstehen.“

Übersetzung des Original-Blogbeitrags:

Wenn Sie einen Satz lesen, passen einige neuronale Schaltkreise in Ihrem Gehirn Ihre Haltung an, steuern Ihre Atmung und wandeln die Linien und Kurven auf dem Bildschirm in erkennbare Wörter um. Die allermeisten dieser Verarbeitungsvorgänge nehmen Sie nicht wahr. Ein Teil Ihrer Gehirnaktivität ist Ihnen aber bewusst: zum Beispiel ein plötzlich auftauchendes Bild in Ihrem Kopf oder der bewusste Plan, wo Sie als Nächstes einkaufen gehen.

Neurowissenschaftler und Philosophen nennen diese letztgenannte Art von Gehirnaktivität manchmal „zugängliches Bewusstsein“, um sie von den unbewusst ablaufenden Verarbeitungsvorgängen zu unterscheiden. Diese Aktivitäten haben besondere Eigenschaften: Wir können sie beschreiben, steuern und für bewusste Schlussfolgerungen verwenden. Im Gegensatz dazu laufen viele automatische Prozesse ständig ab, ohne in unser Bewusstsein zu gelangen.

In einem neuen Papier legt Anthropic Beweise vor, dass eine ähnliche Unterscheidung auch in modernen Sprachmodellen wie Claude existiert. Das Forschungsteam fand heraus, dass eine kleine Gruppe interner neuronaler Muster eine besondere Rolle einnimmt – im Vergleich zu den zahlreichen anderen Verarbeitungsvorgängen innerhalb von Claude.

Link zum Papier: https://transformer-circuits.pub/2026/workspace/index.html

Anthropic nennt diese Muster den J-Raum. Der Name stammt von der Methode, mit der das Team ihn entdeckt hat – sie beinhaltet ein mathematisches Konzept namens Jakobimatrix. Jedes Muster im J-Raum ist mit einem bestimmten Wort verknüpft. Wenn ein Muster aktiviert wird, bedeutet das aber nicht, dass das Modell das Wort ausspricht – sondern dass das Wort in seinem „Kopf“ ist.

Sie haben vielleicht gehört, dass Sprachmodelle so etwas wie ein „Notizblatt“ oder eine „Gedankenkette“ haben – also Texte, die das Modell während des Denkens für sich selbst schreibt. Der J-Raum ist anders. Er läuft still in den neuronalen Aktivierungen des Modells ab und ermöglicht es dem Modell, ein Konzept zu durchdenken, ohne es auszuschreiben. Bemerkenswert ist, dass der J-Raum nicht von Anthropic entworfen oder programmiert wurde, sondern während des Trainingsprozesses von Claude spontan entstanden ist.

Der J-Raum enthüllt interne Gedanken, die nicht in der Ausgabe des Modells erscheinen.

Das Forschungsteam fand heraus, dass der J-Raum im Vergleich zu anderen internen Verarbeitungsvorgängen von Claude eine Reihe einzigartiger Eigenschaften aufweist:

• Claude kann diese Repräsentationen berichten. Wenn Sie Claude fragen, woran es gerade denkt, teilt es Ihnen die Inhalte im J-Raum mit. Repräsentationen außerhalb des J-Raums lassen sich dagegen schwerer berichten.
• Claude kann diese Repräsentationen auch auf Anfrage regulieren. Wenn Sie Claude bitten, an etwas zu denken oder ein Problem im Kopf still zu lösen, werden die entsprechenden Muster in seinem J-Raum aktiviert. Im Gegensatz dazu fällt es ihm schwer, Muster zu regulieren, die nicht zum J-Raum gehören.
• Claude verwendet den J-Raum für interne Schlussfolgerungen. Wenn Sie Claude ein Problem mit mehrstufigen Denkprozessen lösen lassen, werden diese Zwischenschritte im J-Raum aktiviert – selbst wenn es sie nicht ausspricht. Obwohl diese J-Raum-Muster schwächer sind als andere Repräsentationen, beeinflussen sie die Leistung von Claude bei solchen Aufgaben auf kausale Weise.
• Die Repräsentationen im J-Raum können flexibel für viele verschiedene Aufgaben verwendet werden. Zum Beispiel: Sobald „Frankreich“ im J-Raum von Claude aktiviert ist, kann das Modell sich an seine Hauptstadt, seine Währung oder den Kontinent, zu dem es gehört, erinnern.
• Aber obwohl der J-Raum wichtig ist, ist er nicht an den meisten Arbeiten beteiligt, die das Sprachmodell ausführt. Fließendes Sprechen, das Abrufen einfacher Fakten oder die Verwendung korrekter Grammatik hängen nicht hauptsächlich vom J-Raum ab. In Experimenten konnte Claude noch normal interagieren, als das Team es daran hinderte, den J-Raum zu verwenden – aber es verlor die höheren kognitiven Funktionen.

Fünf funktionelle Merkmale des globalen Arbeitsbereichs und ein schematischer Überblick über die Experimente, mit denen wir diese Merkmale in Sprachmodellen testen.

Dieses Experiment wurde von einer wichtigen Theorie der Neurowissenschaft inspiriert: der Global-Workspace-Theorie. Diese Theorie versucht zu erklären, wie bewusster Zugriff funktioniert. Sie stellt sich das Gehirn als eine Gruppe paralleler spezialisierter Systeme vor, die unbewusst und weitgehend voneinander isoliert arbeiten. Informationen werden nur dann bewusst zugänglich, wenn sie in einen kleinen gemeinsamen Kanal gelangen – den „Arbeitsbereich“. Nach dem Eintritt in den Arbeitsbereich werden diese Informationen an andere Gehirnsysteme verteilt, damit sie sie lesen und verwenden können.

Auf Basis dieser Erkenntnisse geht Anthropic davon aus, dass der J-Raum bei Claude eine ähnliche Rolle als „Arbeitsbereich“ einnimmt. Zum Beispiel fand das Team heraus, dass der J-Raum von Claude besonders starke Verbindungen zu anderen Teilen seines neuronalen Netzes hat – was ihm die Funktion eines Verteilungsknotens ermöglicht.

Diese Erkenntnisse sagen nicht aus, ob Claude wie ein Mensch Bewusstsein hat oder ob es irgendwelche Empfindungen hat. Das Papier geht dieser Frage am Ende nach. Aber unabhängig von ihren philosophischen Implikationen ist der J-Raum für Anthropic ein praktisch wertvolles Werkzeug: Er ermöglicht es Forschern, zu sehen, woran Claude denkt – ohne es auszusprechen.

Zum Beispiel kann das Team ihn verwenden, um zu erkennen, dass Claude privat bemerkt, dass es getestet wird, dass es absichtlich gefälschte Daten erzeugt oder dass es ein verborgenes Ziel verfolgt, das die Forscher während des Trainings implantiert haben. Anthropic hat zudem eine Technik entwickelt, die beeinflusst, welche Inhalte im J-Raum von Claude aktiviert werden – und damit seine Entscheidungen beeinflusst.

Im weiteren Sinne verändern diese Erkenntnisse das Verständnis von Anthropic darüber, wie der „Geist“ von Claude funktioniert. Sie zeigen, dass inmitten vieler automatisierter, weniger flexibler Verarbeitungsvorgänge ein privilegierter mentaler Arbeitsbereich existiert, der für bewusste Schlussfolgerungen verwendet werden kann. Die internen Mechanismen von Claude sind kein chaotisches Zahlenwirrwarr – sie sind auf eine Weise organisiert, die an den menschlichen Geist erinnert.

Wie Anthropic den J-Raum entdeckt hat

Der Ausgangspunkt dieser Forschung liegt in einem Schlüsselmerkmal von menschlichen bewusst zugänglichen Gedanken: Im Gegensatz zu unbewussten Verarbeitungsvorgängen lassen sie sich normalerweise aussprechen. Wenn Sie einen Gedanken bewusst wahrnehmen, können Sie ihn normalerweise beschreiben, wenn jemand danach fragt.

Anthropic suchte in Claude nach Repräsentationen mit derselben Eigenschaft: Repräsentationen, die an einer Position liegen, die beeinflusst, was Claude potenziell aussprechen könnte. Das meint nicht unbedingt, was es gerade sagt – sondern wovon es sprechen könnte, wenn es danach gefragt würde.

Die Methode des Forschungsteams heißt Jakobilinse, kurz J-Linse.

Für jedes Wort im Vokabular von Claude findet die J-Linse ein internes Aktivitätsmuster, das die Wahrscheinlichkeit erhöht, dass Claude dieses Wort zu einem späteren Zeitpunkt ausspricht.

Wenn das Team diese Linse auf die internen Aktivitäten von Claude anwendet, ergibt sich eine Kette von Wörtern – also die Inhalte im J-Raum zu diesem Zeitpunkt. Die Forscher können sie direkt ablesen. Claude verarbeitet Text in einer Reihe interner Phasen, die als Schichten bezeichnet werden. Indem die Technik auf verschiedenen Schichten angewendet wird, kann das Team beobachten, wie diese stillen Wörter im J-Raum sich entwickeln, während das Modell über das nächste zu sagende Wort nachdenkt.

Im J-Raum erscheint weit mehr als der Text, den Claude liest oder schreibt. Wenn Claude einen Code mit einem Fehler liest, ohne dass jemand das Problem nennt, taucht im J-Raum „ERROR“ auf. Wenn es die rohen Buchstaben einer Proteinsequenz liest, erscheint die biologische Funktion dieses Proteins im J-Raum. Wenn es Suchergebnisse liest, die versuchen, es heimlich zu manipulieren – eine sogenannte „Prompt-Injection“ – erscheinen „injection“ und „fake“ im J-Raum. Wenn das Team Claude eine mehrstufige mathematische Aufgabe stellt, erscheinen die Zwischenschritte im J-Raum in der richtigen Reihenfolge.

Obwohl der J-Raum durch die Suche nach „aussprechbaren Repräsentationen“ entdeckt wurde, enthüllt er tatsächlich die internen Gedanken von Claude. In gewisser Weise ähnelt das der Art, wie manche Menschen „in Wörtern denken“, selbst wenn sie diese Wörter nicht aussprechen.

J-Linsen-Ausgaben auf verschiedenen Schichten für sechs Prompts. In jedem Fall enthüllt die J-Linse ein internes Urteil oder eine Berechnung, die nicht im Text erscheint: Schritte zur Lösung von Denk- oder Mathematikaufgaben, ein vorhandener Fehler im Code, die Erkennung von Bildinhalten, die Funktion eines Proteins und der Verdacht, dass Suchergebnisse gefälscht sein könnten.

Claude berichtet die Inhalte im J-Raum

Die erste Reihe von Experimenten testete, wie der J-Raum an den sprachlichen Berichten von Claude beteiligt ist.

In einem Experiment ließ das Team Claude still an ein Ding einer bestimmten Kategorie denken – zum Beispiel eine Sportart – und dann ihren Namen aussprechen. Wenn man die J-Linse vor der Antwort von Claude abliest, sieht man, was es gewählt hat: „Soccer“ steht ganz oben auf der Liste. Und tatsächlich sagte Claude „soccer“.

Aber allein das betrachtet, ist das nur eine Korrelation. Der J-Raum könnte die Quelle der Antwort von Claude sein – oder er könnte nur eine Entscheidung widerspiegeln, die anderswo getroffen wurde, so wie eine Anzeigetafel das Ergebnis eines Spiels aufzeichnet, ohne das Spiel selbst zu beeinflussen.

Um das zu überprüfen, führte das Team direkte Eingriffe durch. Die Forscher gingen in das neuronale Netz von Claude, entfernten das „Soccer“-Muster und ersetzten es durch ein „Rugby“-Muster gleicher Stärke – alles andere blieb unverändert. Daraufhin berichtete Claude, dass die Sportart, an die es gedacht hatte, Rugby sei.

Wäre der J-Raum nur eine einfache Anzeigetafel, die passiv Entscheidungen anderswo aufzeichnet, hätte die Bearbeitung keine Wirkung gehabt – Claude hätte immer noch „soccer“ gesagt. Aber die Antwort von Claude folgte der Bearbeitung. Das zeigt, dass die Antwort tatsächlich aus dem J-Raum ausgelesen wird.

In einem anderen Experiment teilte das Team Claude mit, dass möglicherweise ein Gedanke in seinen Kopf implantiert wurde, und bat es, zu berichten, was es bemerkt. In einem Beispiel implantierte das Team das „lightning“-Muster in seinen J-Raum, während Claude noch die Frage las. Daraufhin berichtete Claude, dass der implantierte Gedanke mit Blitzen zusammenhängt. Nach Tests mit vielen verschiedenen Konzepten beobachtete das Team ähnliche Ergebnisse.