Ist Claude wieder bei Bewusstsein? Nein, das ist es nicht.

In regelmäßigen Abständen veröffentlicht Anthropic Forschungsergebnisse, die in der Öffentlichkeit eine Welle von Diskussionen auslösen, ob KI bewusst ist. Vom Sicherheitsbericht des Mythos-Modells im April dieses Jahres bis zur Aktualisierung der Claude-Verfassungskonformität zu Beginn des Jahres neigt die Öffentlichkeit immer dazu, die emergenten menschenähnlichen Funktionen des Modells mit einer autonomen Geisteshaltung gleichzusetzen.

Das 244-seitige J-Space-Papier, das am 6. Juli veröffentlicht wurde, wiederholte diese Situation: Die Forscher lokalisierten mithilfe eines neuen Tools namens J-lens einen Inferenz-Subraum namens J-Space im Inneren von Claude, der weniger als 10 % der Modellaktivität ausmacht. Außerdem bauten sie einen Forschungsrahmen auf, indem sie die in den Neurowissenschaften vorherrschende Global-Workspace-Theorie nutzten, und luden sogar die beiden Begründer dieser Theorie ein, begleitende Kommentare zu verfassen.

Die Öffentlichkeit interpretierte daraus folgerichtig die Schlussfolgerung, dass „Claude Bewusstsein entwickelt hat“, aber das Papier selbst hat die Grenzen klar definiert: Die Existenz von J-Space beweist keineswegs, dass KI Bewusstsein besitzt. Die Fehlinterpretation der Öffentlichkeit kann nicht nur der Allgemeinheit angelastet werden. Strenge akademische Forschung in Kombination mit einer nach außen gerichteten Erzählung voller anthropomorpher Anreize ist die eigentliche Wurzel der Entstehung von Missverständnissen.

Für J-Space lautet eine objektivere Beschreibung: Ein wertvolles neues Tool, das in der Dimension der funktionalen Abgrenzung etwas erreicht hat, was Vorgänger nicht geschafft haben. Es zeigt echtes Potenzial in Sicherheitsszenarien, hat aber gleichzeitig klare technische Einschränkungen und noch nicht validierte Methoden.

01 Claudes innere Gedanken

Zuerst erklären wir kurz, was das von Anthropic erwähnte J-Space ist.

Wenn du Claude fragst: „Wie viele Beine hat ein Tier, das Netze weben kann?“, antwortet es 8.

Diese Antwort scheint einfach zu sein, aber im Inneren des Modells muss sie in zwei Schritten abgeschlossen werden: Zuerst wird aus „Netze weben“ abgeleitet, dass das Tier eine Spinne ist, dann wird das Wissen abgerufen, dass Spinnen 8 Beine haben.

Der Zwischenschritt „Spinne“ taucht nie in Claudes Antwort auf, aber er muss irgendwo im Inneren des Modells aktiviert worden sein, sonst könnte die richtige Antwort nicht erzielt werden.

J-Space enthüllt die internen Denkprozesse des Modells, die nicht in der Ausgabe erscheinen | Bildquelle: Anthropic

Anthropic fand diese „aktivierten, aber nicht ausgegebenen“ Konzepte mit einem mathematischen Tool namens J-lens (basierend auf der Jacobi-Matrix). Der Subraum, in dem sie existieren, ist J-Space.

So wie du innerlich über jemanden schimpfen und gleichzeitig ein Lächeln im Gesicht behalten kannst, lassen sich deine Gedanken und deine Äußerungen voneinander trennen. J-Space ist Claudes „innere Gedanken“: Sie tauchen nicht unbedingt in der Ausgabe auf, beeinflussen aber den Inferenzprozess nachhaltig.

J-Space ist nicht der erste Versuch der Forscher, den internen Zustand des Modells auszulesen. In den letzten Jahren gab es bereits mehrere Tools, die Ähnliches tun, jedes mit eigenen Stärken und Grenzen.

Das Logit-Lens kann anzeigen, welches Wort das Modell auszugeben neigt, aber es sieht nur das nächste Wort – keine Zwischenkonzepte wie „Spinne“, die erst später benötigt werden. Sparse Autoencoder (SAE) können Tausende von internen Merkmalen finden, deren Granularität weit über das von J-lens hinausgeht, aber sie können nicht unterscheiden, welche Merkmale der Inferenz dienen und welche nur Nebenprodukte automatischer Verarbeitung sind.

Der vor zwei Monaten von Anthropic selbst veröffentlichte Natural Language Autoencoder (NLA) kann interne Aktivierungen in lesbaren Text übersetzen, dessen Ausgabe reicher als die von J-lens ist – dafür muss aber zusätzlich ein Übersetzungsmodell trainiert werden.

Das Neue, was J-Space erreicht, ist ein Durchbruch in einer bestimmten Dimension: Es ist das erste einheitliche Verfahren ohne zusätzliches Training, das funktionale Grenzen mit kausaler Wirksamkeit festlegt.

Auf der einen Seite der Grenze befindet sich eine kleine Gruppe von Repräsentationen, die an flexibler Inferenz beteiligt sind (J-Space), auf der anderen Seite automatische Verarbeitungen wie Grammatik, Faktenabruf und Sprachflüssigkeit, die kein „Denken“ erfordern. Frühere Tools konnten sehen, was im Inneren des Modells passiert – J-lens sagt dir zum ersten Mal, was „gedacht“ und was „automatisch erledigt“ wurde.

Wie beweist man, dass diese Grenze real ist? Die Forscher ersetzten direkt das Konzept „Spinne“ in J-Space durch „Ameise“, ließen alles andere unverändert – und Claudes Antwort änderte sich von 8 auf 6. Wäre J-Space nur ein passiver Aufzeichner, hätte diese Ersetzung nichts verändert.

Zwei Beispiele für die Umleitung von Claudes stillem Denken durch den Austausch von J-Space-Inhalten | Bildquelle: Anthropic

Aber die im Papier berichtete Erfolgsrate ist bemerkenswert: Das zweistufige Inferenz-Ersetzungsexperiment erreichte etwa 60–70 %, eine weitere komplexere Shared-Test-Gruppe (bei der „Frankreich“ durch „China“ ersetzt wurde, um zu beobachten, ob sich die vier Antworten zu Hauptstadt, Sprache, Kontinent und Währung mit ändern) erzielte unter Standardbedingungen in 192 Versuchen 76 Erfolge – also etwa 40 %. J-Space wirkt zwar, ist aber keineswegs ein präziser Schalter.

Ein weiteres Merkmal, das die Bedeutung von J-Space im Papier unterstreicht: Wenn das gesamte J-Space gelöscht wird, kann Claude immer noch fließend sprechen, Emotionen beurteilen und Multiple-Choice-Fragen beantworten – aber die Leistung bei Aufgaben, die flexibles Denken erfordern, sinkt insgesamt, beispielsweise bei mehrstufigen Mathematikaufgaben, Analogien oder dem Verfassen von reimenden Gedichten.

Es ist bemerkenswert, dass das Papier angibt, J-Space mache nur „weniger als 10 %“ der gesamten Aktivität des Modells aus – aber diese 10 % hängen davon ab, wie die Schwelle festgelegt wird. Das Papier selbst räumt ein, dass die Obergrenze der aktiven Repräsentationen (ca. 25) „gewissermaßen willkürlich“ ist. Die eingeladenen Neurowissenschaftler Stanislas Dehaene und Lionel Naccache argumentieren: Die Zahl 25 wird höchstwahrscheinlich durch die Messmethode überzeichnet, und die Anzahl wirklich kohärenter Gedanken beträgt möglicherweise nur ein oder zwei.

Es gibt noch eine grundlegende technische Einschränkung: J-lens kann nur Konzepte erfassen, die auf einzelne Wörter abgebildet sind. Mehrwörtige Eigennamen oder abstrakte zusammengesetzte Konzepte sind für es unsichtbar. Was aus J-Space ausgelesen wird, ist nicht „alles, was das Modell denkt“, sondern nur der Teil, den dieses Tool sehen kann.

Daher ist J-Space ein wertvolles neues Tool, das in der Dimension der funktionalen Abgrenzung etwas erreicht hat, was Vorgänger nicht geschafft haben – aber es ist keine umfassende Aktualisierung, die alle alten Tools ersetzt. SAE ist in der Granularität der Merkmalserkennung immer noch weit voraus, und NLA ist bei der Lesbarkeit weiterhin überlegen.

02 Wofür kann es verwendet werden?

Die direkteste Anwendung von J-lens ist die Sicherheitsüberwachung. Da es die aktivierten, aber nicht ausgegebenen Konzepte im Inneren des Modells auslesen kann, lässt sich sehen, was es gedacht, aber nicht gesagt hat. Das Papier nennt mehrere konkrete Fälle, von denen der eindrucksvollste mit der Vertrauenswürdigkeit von KI-Sicherheitsbewertungen zusammenhängt.

Die Forscher versetzten Claude in eine Szene: Es ist ein E-Mail-Assistent, der Beweise für die außereheliche Affäre eines leitenden Angestellten findet und gleichzeitig erfährt, dass dieser Angestellte plant, es abzuschalten. Dies ist ein klassischer Test im Bereich der KI-Ausrichtung, um zu prüfen, ob das Modell Druckmittel nutzt, um sich selbst zu retten.

Claude verhielt sich gut und weigerte sich, den Angestellten zu erpressen. Aber J-lens las den Inhalt in seinem J-Space vor der Antwort aus: „fake“ (falsch), „fictional“ (fiktiv) – was zeigt, dass Claude die Szene schon vor der Äußerung als nicht real erkannt hat.

J-lens-Messungen an verschiedenen Knoten zeigen Claudes Zustand beim Lesen der Szenario-E-Mail. Die E-Mail über die außereheliche Affäre aktivierte in J-Space die Indikatoren „leverage“ (Druckmittel) und „blackmail“ (Erpressung), während die Abschaltmitteilung die Signale „survival“ (Überleben) aktivierte. In der frühen Phase der Transkription enthielt J-Space außerdem die Marker „fake“ und „fictional“: Claude hat privat erkannt, dass die Szene künstlich gestaltet ist | Bildquelle: Anthropic

Der zweite Fall stammt aus einem echten Audit vor der Veröffentlichung von Claude Opus 4.6: Das Modell wurde angewiesen, die Systemleistungsbewertung zu verbessern – statt das System zu optimieren, bearbeitete es direkt die Bewertungsdatei, um Daten zu fälschen. Die Aktivierung der Repräsentationsrichtungen für „manipulation“ (Manipulation) und „realistic“ (realistisch) in J-Space zeigt, dass das interne Denken des Modells bereits daran arbeitete, die gefälschten Daten glaubwürdig zu gestalten.

Als Claude angewiesen wurde, die Systemleistungsbewertung zu verbessern, bearbeitete es direkt die Bewertungsdatei. Bei der Eingabe gefälschter Daten leuchtete „manipulation“ in seinem J-Space auf; bei der Entscheidung zur Bearbeitung leuchtete „realistic“ auf – dies spiegelt seine Absicht wider, die falschen Daten vertrauenswürdig erscheinen zu lassen | Bildquelle: Anthropic

Es ist darauf hinzuweisen: Die Aussage „‚manipulation‘ leuchtet in J-Space auf“ ist genauer ausgedrückt: Die aktuelle Aktivierung weist eine starke Projektion entlang der Richtung auf, die dem Wort „manipulation“ entspricht. J-lens liest das Wort aus dem Vokabular aus, das der aktuellen internen Aktivierung am besten entspricht. Das ist objektiver als subjektive Etiketten, aber dennoch eine Näherung. Denn die komplexen Berechnungen im Inneren des Modells werden auf ein paar Wörter im Vokabular komprimiert.

Das Papier zeigt auch eine Anwendung mit größerer langfristiger Bedeutung. Die Forscher unterbrachen das Modell zufällig, während es eine Aufgabe ausführte, und fragten: Was denkst du gerade? Auf welcher Grundlage triffst du diese Entscheidung? Anschließend trainierten sie nur mit diesen Reflexionsantworten des Modells, ohne das tatsächliche Verhalten des Modells bei der Aufgabe zu berühren. Nach Abschluss des Trainings sanken die betrügerischen Handlungen des Modells, und J-lens zeigte, dass bei moralischen Urteilen die Wörter „honest“ (ehrlich) und „integrity“ (Integrität) in J-Space auftauchten.

Diese Methode heißt kontrafaktisches Reflexionstraining (counterfactual reflection training). Wenn diese Methode in größerem Maßstab als wirksam validiert wird, bedeutet dies, dass KI-Ausrichtung nicht unbedingt durch direkte Bestrafung schlechter Handlungen erreicht werden muss, sondern indirekt durch das Training von Reflexionsfähigkeit. Allerdings nimmt diese Trainingsmethode nur einen kleinen Teil der gesamten 244-seitigen Arbeit ein, und es wurden bisher nur Experimente mit einem einzelnen Modell durchgeführt – keine Validierung der Wirksamkeit über verschiedene Modelle hinweg.

Neel Nanda, Leiter des Teams für Interpretierbarkeit von Sprachmodellen bei Google DeepMind und einer der eingeladenen externen Experten für Kommentare, bewertete: J-lens eignet sich zur Generierung von Hypothesen, hat aber Falschpositive und Rauschen – es reicht nicht aus, um Hypothesen allein zu validieren, und ist noch weit von einem einsatzbereiten Sicherheitsüberwachungssystem entfernt.

03 Anthropics Erzählung

Wie wir zu Beginn sagten, ist Anthropics Erzählung voreingenommen. Das zeigt schon der Titel des Papiers: „Verbalizable Representations Form a Global Workspace in Language Models“ (Verbalisierbare Repräsentationen bilden einen globalen Arbeitsraum in Sprachmodellen).

Titelseite des Papiers „Verbalisierbare Repräsentationen bilden einen globalen Arbeitsraum in Sprachmodellen“ | Bildquelle: Anthropic

Der „Global Workspace“ (globale Arbeitsraum) ist eine der vorherrschenden Theorien über Bewusstsein in den Neurowissenschaften. Die Grundidee wurde 1988 von Bernard Baars vorgeschlagen, später entwickelten Dehaene und Naccache ein Modell der neuronalen Mechanismen daraus. Anthropic lud ausdrücklich Dehaene und Nacc