Yann LeCun hat gerade AGI kritisiert, da hat Anthropic schon den Beweis für AGI gefunden.
Die KI ist letztendlich doch zu tief in die Materie eingedrungen, denn Anthropic stieß bei der Forschung auf eine sehr „AGI-artige“ und zugleich zutiefst beunruhigende Entdeckung.
Es heißt, in Claude existiere ein Bereich namens J-space. Dieser steuert das Denken und Schlussfolgern von Claude. Fehlt J-space, wird Claude sofort zu einer „künstlichen Dummheit“ und kann nur noch Fragen auf Kindergartenebene beantworten.
Das ist nicht der Kernpunkt. Das Entscheidende ist: Anthropic hat J-space nie für Claude entworfen – alles in allem ist J-space bei Claude im Laufe jahrelanger Trainingsprozesse von selbst „herausgewachsen“.
Aus diesem Grund veröffentlichte Anthropic eine Arbeit mit dem Titel „Global Workspace in Large Language Models“.
In dieser Arbeit erörterte Anthropic zwar die Auswirkungen von J-space auf Claude und entwickelte speziell ein Werkzeug zur Beobachtung von J-space. Doch am Ende der Arbeit gelang es Anthropic nicht, vollständig zu erforschen, wie J-space eigentlich entstanden ist.
Das ist vergleichbar mit den Mitochondrien in menschlichen Zellen: Die überwiegende Mehrheit der Zellen bezieht ihre Energie aus Mitochondrien.
Forschungen zufolge existierten Mitochondrien ursprünglich nicht im Zytoplasma. Die gängige Theorie besagt, dass Mitochondrien einst unabhängige Bakterien waren, später von größeren Zellen aufgenommen wurden, eine symbiotische Beziehung eingingen und schließlich zu einem festen Bestandteil der heutigen Zellen wurden.
Aber wo genau die Mitochondrien herstammen, ist bis heute unbekannt.
Und es geht noch weiter: Nur wenige Tage vor der Veröffentlichung dieser Arbeit durch Anthropic hatte Yann LeCun die aktuelle AGI-Debatte scharf kritisiert und auf X geschrieben: „Das ‚G‘ in AGI ist Unsinn.“
01
Anthropic entdeckt in Claude eine AGI-ähnliche Struktur
Um zu verstehen, was J-space ist, müssen wir zunächst bei uns Menschen anfangen.
Während du diesen Satz liest, erledigt dein Gehirn gleichzeitig mehrere Aufgaben: Es passt deine Sitzhaltung an, steuert deine Atmung und erkennt die Linien auf dem Bildschirm als Schriftzeichen.
Aber du bemerkst diese Vorgänge überhaupt nicht – sie laufen im Hintergrund automatisch ab. Dieser Prozess wird als „unbewusste Verarbeitung“ bezeichnet.
Doch im Gehirn gibt es noch eine weitere Kategorie von Aktivitäten, die du bewusst wahrnehmen kannst.
Nehmen wir mein eigenes Erlebnis als Beispiel: Bei einer Besprechung am Montag erwähnte ein Kollege das Wort „Rack“ (Serverschrank). Weil das Mittagessen kurz bevorstand, verstand ich es fälschlicherweise als etwas Essbares und spürte sofort Hunger. Dieser Vorgang wird als „zugängliches Bewusstsein“ bezeichnet.
Anthropic stellte fest, dass in Claude eine ähnliche Trennlinie entstanden ist.
Die meisten Aufgaben, die Claude erledigt – wie flüssiges Sprechen, das Abrufen einfacher Fakten oder die korrekte Verwendung von Grammatik – werden automatisch verarbeitet und laufen im Hintergrund ab, genau wie deine Atmung.
Doch in Claude gibt es einen kleinen, besonderen Teil der Aktivitäten. Diese sind nicht so verteilt wie gewöhnliche Hintergrundberechnungen, sondern konzentrieren sich in einem „Konzeptraum“, der ausgelesen werden kann. Anthropic nennt diesen Raum J-space.
Jedes Muster in J-space entspricht einem Wort. Wenn dieses Wort aufleuchtet, bedeutet das nicht, dass Claude es gerade „ausspricht“, sondern dass das Wort „in seinem Denken“ ist.
Vielleicht ist das etwas schwer zu verstehen – ein Beispiel klärt es: Wenn du Claude fragst, wie viele Beine ein Tier hat, das Netze spinnt, antwortet es dir 8 Beine.
Aber die Forscher sahen in seinem J-space zuerst das Wort „spider“ (Spider), dann antwortete Claude basierend auf der Tatsache, dass Spinnen 8 Beine haben, mit der Zahl 8.
Es gibt noch ein sehr entscheidendes Detail: J-space wurde nicht von Anthropic entworfen, sondern ist bei Claude während des Trainingsprozesses von selbst entstanden.
Das Werkzeug, mit dem Anthropic J-space beobachtet, heißt „Jakobische Linse“, kurz J-lens.
Die „Gedanken“ im Inneren von Claude sind keine Wörter, sondern eine Menge von Zahlen. Die Aufgabe von J-lens ist es, diese Zahlen in für Menschen verständliche Wörter zu übersetzen.
Mithilfe dieser J-lens entdeckten die Forscher von Anthropic, dass wenn Claude einen Codeabschnitt mit Fehlern liest – selbst wenn niemand ihm sagt, wo der Fehler liegt – das Wort „ERROR“ in J-space auftaucht. Wenn er eine Sequenz von Buchstaben eines Proteins liest, erscheint die biologische Funktion des Proteins in J-space. Und wenn er in Suchergebnissen eine Prompt-Injection-Angriff erkennt, leuchten die Wörter „injection“ und „fake“ in J-space auf.
Aber das überzeugendste Experiment ist die „Trickvertauschung“.
Kehren wir zu der obigen Frage über die Spinne zurück: Die Forscher änderten die Frage nicht, sondern ersetzten das Wort „spider“ in J-space durch „ant“ (Ameise). Sofort änderte Claudes Antwort auf „6“.
In einem anderen Experiment leuchtete „France“ (Frankreich) in J-space auf – dann konnte Claude die Hauptstadt, die Währung und den Kontinent von Frankreich nennen. Als die Forscher „France“ durch „China“ ersetzten, änderten sich alle Antworten entsprechend.
Das zeigt: J-space dient nicht nur dazu, Ergebnisse aufzuzeichnen, sondern ist an den nachfolgenden Schlussfolgerungen beteiligt.
Anthropic fasste fünf Merkmale von J-space zusammen, von denen jedes den Eigenschaften von „zugänglichen Bewusstseinsinformationen“ in der menschlichen Kognitionswissenschaft entspricht:
1. Claude kann den Inhalt von J-space berichten (wenn du es fragst, woran es denkt, nennt es die Wörter, die in J-space stehen)
2. Es kann J-space auf Anfrage aktiv nutzen (wenn es gebeten wird, im Kopf zu rechnen, erscheinen in J-space der Rechenprozess und Zwischenergebnisse)
3. Es nutzt J-space für interne Schlussfolgerungen
4. Ein Konzept in J-space kann flexibel für verschiedene Aufgaben verwendet werden
5. J-space ist selektiv: Die meisten Aufgaben, die Claude erledigt, laufen überhaupt nicht über ihn.
Um den Einfluss von J-space auf Claude zu untersuchen, schalteten die Forscher J-space vorübergehend aus. Sie stellten fest, dass Claude immer noch einfache Fragen beantworten konnte – etwa Stimmungen erkennen, Allgemeinwissensfragen beantworten oder Grammatik beurteilen.
Aber bei Aufgaben, die mehrstufiges Denken erfordern – wie Schlussfolgern, Analogien bilden, Übersetzen oder Gedichte schreiben – sank die Leistung stark. Mit anderen Worten: J-space ähnelt Claudes „Notizblock“: Kleine Aufgaben ohne Notizblock gelingen noch, aber komplexe Probleme, die einen Notizblock erfordern, lassen sich nicht mehr beantworten.
Alle Anzeichen deuten darauf hin, dass J-space Ähnlichkeiten mit der menschlichen Denkweise aufweist. Aber wie bereits erwähnt, war dies keine absichtliche Gestaltung von Anthropic – es gab nicht einmal entsprechende Designüberlegungen. Alles hat sich bei Claude spontan entwickelt.
An dieser Stelle muss man unweigerlich über AGI sprechen, denn J-space ist ein Beweis dafür, dass Claude sich dem Konzept von AGI annähert.
Früher beurteilten wir, ob ein Modell eine AGI ist, hauptsächlich an äußeren Leistungen: Ob es Mathematikaufgaben lösen, Code schreiben oder Prüfungen bestehen kann. Heutzutage ist aber die Spontaneität, mit der Claude J-space „herausgewachsen“ hat, wahrscheinlich das eigentliche Merkmal von AGI.
Ein Modell ist nicht nur stark, weil seine Ausgaben menschenähnlicher sind – sondern weil sich in seinem Inneren möglicherweise eine wiederverwendbare Denkstruktur gebildet hat. Es kann Konzepte zwischenspeichern, Zwischenergebnisse aufnehmen, verschiedene Informationen zusammenführen und so nachfolgende Antworten beeinflussen.
So wie wir Augen, Nase und Mund haben, ist J-space wahrscheinlich ein „Organ“ der AGI. Ohne es kann das Modell immer noch sprechen – aber mit ihm ist es viel wahrscheinlicher, dass das Modell Sprache, Wissen und Schlussfolgerungen zu einem stabilen Denkprozess verbindet.
02
Yann LeCun kritisiert auf X das AGI-Konzept aufs Schärfste
Es passte zufällig genau zusammen.
Nur wenige Tage vor der Veröffentlichung der J-space-Arbeit durch Anthropic kritisierte der Turing-Preisträger und einer der „drei Giganten des Deep Learning“, Yann LeCun, das Konzept von AGI auf X bis ins Mark.
Der Zeitablauf ist so: Im Jahr 2023 gab Yann LeCun auf der VivaTech-Technologiekonferenz in Paris ein Interview, in dem er öffentlich sagte, dass ChatGPT, Claude und Gemini „nicht der Weg zu menschlicher Intelligenz oder menschenähnlicher Intelligenz sind – nicht einmal tierähnlicher Intelligenz, weil sie keine Daten der realen Welt verarbeiten können und dafür überhaupt nicht entwickelt wurden“.
Auf der VivaTech im Juni dieses Jahres wiederholte Yann LeCun diese Aussage.
Am 4. Juli schrieb er auf X: „Das ‚G‘ in AGI ist Unsinn.“
Yann LeCun ist der Meinung, dass das Bestehen von Prüfungen nicht gleich Intelligenz bedeutet. Im Silicon Valley gilt die Logik: Modelle, die Anwaltsprüfungen, Mathematikwettbewerbe, Doktoraufgaben und Programmier-Benchmarks bestehen, nähern sich der AGI an.
Aber Yann LeCun argumentiert, dass Prüfungsaufgaben sprachlich formulierte, diskrete Aufgaben mit klaren Antworten sind – genau das, worin große Sprachmodelle am besten sind. Wahre Intelligenz sollte aber auch Fähigkeiten wie Wahrnehmung, physikalische Intuition und kausales Verständnis umfassen – Fähigkeiten, die aus Allgemeinwissen stammen.
In einem Interview nannte er ein Beispiel: Yann LeCun nahm einen Stift, stellte ihn auf seine Spitze und fragte: „Was passiert, wenn ich loslasse? Jedes Kind weiß, dass der Stift umfallen wird. Aber niemand errät, in welche Richtung er fällt – das ist nicht vorhersehbar und hängt von zu vielen physikalischen Details ab.“
„Was würde ein großes Sprachmodell tun? Es würde basierend auf statistischen Mustern in den Trainingsdaten eine vernünftig erscheinende Vorhersage generieren. Aber diese Vorhersage ist fast sicher falsch – denn es schließt nicht über die physikalische Realität, sondern führt nur eine statistische Vervollständigung durch.“
Yann LeCun ist der Meinung, dass Agenten die Welt beobachten, lernen sollten, wie sie sich verändert, dann intern Vorhersagen treffen und Planungen durchführen, bevor sie schließlich handeln.
Obwohl große Sprachmodelle eine Menge Sprach- und Wissensmuster erlernt haben, sind sie nach Yann LeCuns Ansicht kein Verständnis der Welt selbst – sondern nur eine Schnittstelle zur Interaktion.
Ende 2025 verließ Yann LeCun Meta und gründete AMI Labs (Advanced Machine Intelligence Labs) mit Hauptsitz in Paris. Im März 2026 erhielt das Unternehmen eine Seed-Finanzierung von 1,03 Milliarden US-Dollar – die größte Seed-Runde in der europäischen Geschichte, mit Investoren wie Nvidia und Jeff Bezos.
AMI Labs nutzt die JEPA-Architektur, um KI-Systemen beizubringen, Kausalzusammenhänge und Planung aus Wahrnehmungsdaten zu lernen.
Ein weiterer Punkt: Yann LeCun glaubt nicht, dass die fortgesetzte Skalierung von Modellen automatisch zu AGI führt.
Tatsächlich gehen sowohl OpenAI als auch Anthropic davon aus, dass die fortgesetzte Erhöhung von Rechenleistung und Modellleistung automatisch zu einer Emergenz von AGI führt.
Aber Yann LeCun meint, dass dieser Weg an eine Wand stoßen wird. Seine Ansicht ist: Sprachdaten können nicht die gesamte reale Welt abbilden, und rein autoregressive Vorhersage ist keine effiziente Methode des Schlussfolgerns.
Letztendlich hasst Yann LeCun die „Weltuntergangsstimmung“ im Silicon Valley, die besagt, dass AGI die Menschheit zerstören könnte, mehr als die Idee von AGI selbst.
Yann LeCun widerspricht oft Elon Musk, Geoffrey Hinton, Ilya Sutskever und anderen. Nicht weil er glaubt, dass KI niemals Risiken birgt – sondern weil er der Meinung ist, dass aktuelle Systeme noch weit von echter autonomer Intelligenz entfernt sind.
Seiner Ansicht nach ist es eine massive Übertreibung, heutige große Sprachmodelle als eine AGI zu beschreiben, die außer Kontrolle geraten könnte. Aus dieser Perspektive warnte Yann LeCun auch davor, dass die KI-Blase schließlich vollständig platzen wird.
Man kann es sich leicht vorstellen: Nachdem Yann LeCun die J-space-Arbeit gelesen hat, wird er sicherlich im Stillen die Fähigkeiten von Dario Amodei (CEO von Anthropic) kritisiert haben.
Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Letter AI“, Autor ist Miao Zheng, Redakteur ist Wang Jing. 36Kr veröffentlicht ihn mit Genehmigung.