Es nützt nichts, das Gehirn von Claude zu zerlegen – der wahre Schlüssel zum KI-Blackbox verbirgt sich in der Ontologie-Engineering.

Von der Neurowissenschaft zur Erkenntnistheorie: Unterscheidungen der Ansätze zur Interpretierbarkeit

  „Das Wesen der Erklärung liegt nicht darin, die Maschine selbst zu betrachten, sondern die Welt zu untersuchen, auf die die Maschine ihren Blick richtet“.

Im Juli 2026 veröffentlichte das Anthropic-Forschungsteam die Arbeit „A global workspace in language models“ und identifizierte mit dem als J-Linse bezeichneten Werkzeug im Inneren von Claude einen beobachtbaren, eingreifbaren und kausalen wirksamen Bereich neuronaler Aktivitäten – den J-Space.

Diese Entdeckung erregte breite Aufmerksamkeit, da sie Forschern erlaubt, einen Blick auf das „innere Selbstgespräch“ des Modells während des Denkprozesses zu werfen. Sie markiert den Übergang der Interpretierbarkeitsforschung von der Erklärung des Modellverhaltens zur Echtzeitbeobachtung seiner internen Zustände.

J-Space verwendet die Theorie des globalen Arbeitsraums der kognitiven Neurowissenschaft als Erklärungsrahmen, stellt eine Analogie zwischen den Denkaktivitäten von Sprachmodellen und der Informationsverarbeitung auf der Ebene des menschlichen Bewusstseins dar, stellt einen wichtigen Fortschritt auf methodischer und erkenntnistheoretischer Ebene dar und bietet eine völlig neue Überwachungsdimension für die KI-Sicherheit.

Gerade wegen seiner tiefgreifenden Auswirkungen ist es jedoch notwendig, die inhärenten Grenzen dieses Ansatzes sorgfältig zu prüfen. Die grundlegende Ausrichtung der J-Space-Forschung ist internalistisch – sie definiert das Kernproblem der Interpretierbarkeit als „Verstehen, was im Inneren des Modells geschieht“ und versucht, die neuronalen Aktivitäten des Sprachmodells mit der J-Linse zu scannen, so wie Neurowissenschaftler das menschliche Gehirn mit fMRT scannen.

Dieser Ansatz geht davon aus, dass die Antwort auf die Interpretierbarkeit „im Inneren“ des Modells verborgen liegt. Ob die Ausgabe eines Modells verständlich ist, hängt jedoch nicht nur von der Sichtbarkeit seiner internen Zustände ab, sondern vor allem von der Beziehung zwischen diesen Zuständen und den Sachverhalten in der Welt, semantischen Normen sowie den kognitiven Rahmenbedingungen der Nutzer.

Die Aussage eines Modells nur durch die Beobachtung neuronaler Aktivitäten zu verstehen, ist wie das Verstehen der Worte einer Person nur durch die Beobachtung ihrer EEG-Aktivitäten – wir können vielleicht neuronale Korrelate erfassen, aber die Bedeutung der Aussage selbst nie erreichen.

Darüber hinaus leiht sich J-Space die Theorie des globalen Arbeitsraums – eine Theorie über das Bewusstsein – zur Erklärung von Sprachmodellen aus. Bei der Übertragung tritt ein subtiler Kategorienfehler auf: Die Isomorphie auf funktionaler Ebene wird fälschlicherweise mit der Äquivalenz auf erkenntnistheoretischer Ebene gleichgesetzt.

Modelle haben keine subjektiven Erfahrungen. Die Aktivierungsmuster in J-Space sind nur das Ergebnis mathematischer Operationen und keine geistigen Zustände in irgendeinem Sinne.

Das tiefere Problem liegt darin, dass die J-Space-Forschung im Wesentlichen eine ingenieurorientierte Arbeit ist, die „Interpretierbarkeit“ auf „Beobachtbarkeit“ und „Eingreifbarkeit“ verengt. In der breiteren erkenntnistheoretischen Tradition ist die Bedeutung von „Erklärung“ jedoch weitaus reicher – sie beinhaltet die Einordnung von Phänomenen in allgemeinere Gesetzmäßigkeiten, die Bereitstellung von Gründen und Grundlagen sowie die Argumentation für die Rechtmäßigkeit von Entscheidungen.

J-Space kann uns sagen, „woran“ das Modell gerade denkt, aber es kann uns nicht sagen, warum das Modell auf diese Weise denkt, welche „Gründe“ es dafür hat und in welchem Sinne diese Gründe „gute“ Gründe sind. Die Antworten auf diese Fragen liegen nicht in den Mustern neuronaler Aktivitäten.

Die oben genannten Grenzen weisen auf ein gemeinsames Kernproblem hin: Die J-Space-Forschung und sogar die gesamte Interpretierbarkeitsforschung, die sich auf neuronale Netze konzentriert, betrachten immer „das Modell selbst“ als einziges Objekt der Erklärung – der Ausgangs- und Endpunkt der Fragestellung ist stets das Modell.

Dieser Artikel versucht, eine andere Perspektive vorzuschlagen – die Frage nach der Interpretierbarkeit von dem Inneren des Modells auf die Informationen zu lenken, die das Modell verarbeitet, und von dem internalistischen Ansatz der Neurowissenschaft zum „informationsontologischen“ Ansatz der Erkenntnistheorie überzugehen.

Diese Umstellung basiert auf einer einfachen Beobachtung: Große Sprachmodelle sind im Wesentlichen Informationsverarbeiter, deren Ein- und Ausgaben alle Texte sind. Die Bedeutung der Texte – das, was wir wirklich erklären müssen – existiert nicht in den Aktivierungswerten von Neuronen, sondern in der Beziehung zwischen diesen Symbolen und der Welt, dem Wissen sowie der menschlichen Praxis.

Wenn ein Modell antwortet „Paris ist die Hauptstadt von Frankreich“, müssen wir nicht nur erklären, welcher Bereich im Inneren des Modells aktiviert wird, sondern vor allem, in welchem Wissenssystem diese Aussage gültig ist, worauf sie sich stützt, wie zuverlässig und rechtmäßig diese Grundlagen sind und welche Beziehung diese Antwort zu dem bestehenden geographischen Wissen der Menschen hat – keine dieser Fragen kann durch das Scannen neuronaler Aktivitäten beantwortet werden.

Daher schlägt dieser Artikel vor, den Kern des Interpretierbarkeitsproblems von „Wie denkt das Modell?“ auf „Welche Art von Informationen verarbeitet das Modell und welchen ontologischen Status haben diese Informationen?“ zu verlagern, um das Objekt der Interpretierbarkeit von dem Modell selbst auf das gesamte Informationsökosystem auszudehnen, in das das Modell eingebettet ist – einschließlich der Struktur der Trainingsdaten, der Darstellungsweise des Wissens, des Informationsflusses während des Denkprozesses und der Abbildungsbeziehung zwischen der Ausgabe und dem externen Wissenssystem.

Die Interpretierbarkeitsforschung, die durch J-Space repräsentiert wird, hat das neurowissenschaftliche Paradigma in den Bereich der künstlichen Intelligenz eingeführt. Ihr Beitrag liegt darin, dass wir einen Blick darauf werfen können, „was im Inneren des Modells geschieht“. Die internalistische Ausrichtung dieses Ansatzes, die Abhängigkeit von funktionalen Analogien sowie die Verengung des Begriffs der „Erklärung“ durch die ingenieurstechnische Perspektive bilden jedoch gemeinsam seine dreifache erkenntnistheoretische Grenze.

Dieser Artikel ist der Ansicht, dass um das Problem der Interpretierbarkeit großer Sprachmodelle wirklich voranzubringen, es notwendig ist, über die Betrachtung der internen Zustände des Modells hinauszugehen und aus der Perspektive der Erkenntnistheorie systematisch die ontologische Grundlage der Informationen zu untersuchen, die das Modell verarbeitet – deren Quelle, Struktur, Darstellungsweise, Flusswege und Beziehung zu externen Wissenssystemen. Genau diese Perspektivenumstellung bildet den Ausgangspunkt der Forschung dieses Artikels.

Ontologischer Ursprung: Die philosophische Grundlage der Interpretierbarkeit

„Begriffe ohne Anschauung sind leer, Anschauungen ohne Begriffe sind blind“.

Werfen wir zuerst eine alte philosophische Frage auf: Wie verstehen Menschen die Welt eigentlich? Kant gibt in der „Kritik der reinen Vernunft“ eine klassische Antwort: Er glaubt, dass der menschliche Geist nicht passiv äußere Reize empfängt, sondern von Natur aus mit zwölf „reinen Verstandesbegriffen“ (den „zwölf Kategorien“) als formaler Rahmen der Erkenntnis ausgestattet ist.

Kant leitete diese Kategorien aus den zwölf Formen der menschlichen logischen Urteile ab und unterteilte sie in vier Gruppen: Quantität, Qualität, Relation und Modalität. Die Quantität bezieht sich auf „wie viel“, die Qualität auf „wie es beschaffen ist“, die Relation auf die Verbindungen zwischen Dingen und die Modalität auf die Art des Seins.

Kants Kategorientheorie ist im Wesentlichen eine ontologische Verpflichtung über die „Verständlichkeit“: Nur das, was in den Rahmen dieser zwölf Kategorien eingeordnet werden kann, kann zum Objekt des Wissens werden; das „Ding an sich“ jenseits dieses Rahmens ist für immer unerkennbar. Das bedeutet, dass die „Ontologie“ im Sinne Kants nicht mehr fragt, „was die Welt an sich ist“, sondern „wie die Welt uns erscheint“.

Die tiefe Erkenntnis daraus für die KI-Interpretierbarkeit lautet: Wenn wir die Ausgabe eines Sprachmodells erklären, ist das wirklich „erklärbare“ nicht die physische Aktivierung interner Neuronen, sondern der Prozess, in dem Informationen kategorisiert und zu verständlichem Wissen strukturiert werden. Die neuronale Aktivierung gehört zur Ebene des „Dings an sich“, die Bedeutung der vom Modell ausgegebenen Aussage zur Ebene der Phänomene – nur wenn sie in einen bestimmten kognitiven Rahmen gestellt wird, kann sie verstanden und bewertet werden.

Die Ontologie ist der „Schlüssel“ zur Interpretierbarkeit von KI. Auf der analytischen Ebene bietet sie einen vollständigen begrifflichen Rahmen zur Beschreibung der strukturierten Form der vom Modell verarbeiteten Informationen – wir können prüfen, ob eine Aussage implizit die Zugehörigkeit von „Substanz und Akzidenz“, das Urteil über „Kausalität“ oder die Verpflichtung zur „Modalität“ enthält, um systematisch zu beschreiben, welche Wissensstruktur das Modell aufgebaut hat, anstatt allgemein zu sagen „das Modell scheint die Kausalität zu verstehen“.

Auf der normativen Ebene bietet sie Bewertungsmaßstäbe für die Interpretierbarkeit: Wenn in der internen Repräsentation des Modells tatsächlich strukturierte Muster gebildet werden, die der Ontologie entsprechen, hat seine Ausgabe die Grundlage für Verständlichkeit. Wenn sie nie auf diese Ontologien abgebildet werden kann, ist die Ausgabe – so fließend sie auch sein mag – in erkenntnistheoretischer Hinsicht nicht interpretierbar.

Die Verwendung von Kants Kategorien als philosophischer Schlüssel zur Interpretierbarkeit bedeutet nicht, zu behaupten, dass das Modell diese Kategorien „besitzen“ muss – Kants Kategorien sind die angeborenen Erkenntnisbedingungen des Subjekts, während das Modell eine Frage der funktionalen Implementierung ist. Es kann auf verschiedenen neuronalen Berechnungswegen funktional gleichwertig Substanz, Kausalität oder modale Unterschiede unterscheiden.

Der entscheidende Punkt ist: Die Interpretierbarkeit erfordert nicht, dass der interne Mechanismus des Modells bis hin zu jedem Gewicht transparent ist, sondern dass wir bestätigen können, ob die auf der Ebene der Informationsverarbeitung gebildete Struktur des Modells auf den Kategorienrahmen abgebildet wird, den Menschen zum Verstehen der Welt verwenden.

Von der Theorie zur Praxis: Die Integration von Ontologie-Engineering und großen Sprachmodellen

Die Ontologie bietet eine normative Antwort auf die Frage „Wie muss eine verständliche Struktur beschaffen sein?“, aber diese Antwort selbst wird nicht automatisch zu einem funktionsfähigen technischen System. Ohne die Unterstützung durch das Ontologie-Engineering ist die Ontologie nur ein in der Luft schwebendes Begriffsspiel.

Das Ontologie-Engineering als Praxisfeld, das philosophische Kategorien in berechenbare, wartbare und nachvollziehbare technische Entitäten instanziiert, bildet die unvermeidliche Brücke von der Theorie zur Anwendung.

In Bezug auf die Interpretierbarkeit der künstlichen Intelligenz ist die Beziehung zwischen Ontologie und Ontologie-Engineering besonders grundlegend: Erstere sagt uns, welche Wissensstrukturen wir untersuchen sollen, Letztere baut tatsächlich eine solche Struktur zwischen Modellen, Daten und Systemen auf.

Das Aufkommen großer Sprachmodelle hat dem Ontologie-Engineering eine nie dagewesene Entwicklungsdynamik verliehen und gleichzeitig völlig neue ingenieurstechnische Herausforderungen aufgeworfen. Der traditionelle Ontologie-Aufbau stützt sich auf die manuelle Beteiligung von Fachexperten, ist langwierig, kostspielig und kann sich kaum dem Rhythmus der Wissensaktualisierung und fachlichen Entwicklung anpassen.

Große Sprachmodelle verändern die praktische Form des Ontologie-Engineerings grundlegend, indem sie semantische Muster und Wissenszusammenhänge aus massiven Texten extrahieren.

Bei zentralen Ontologie-Lernaufgaben wie der Definition von Klassen, der Extraktion von Relationen und dem Aufbau von Eigenschaften können Sprachmodelle die strukturierte Extraktion großer Mengen von Wissen mit weit höherer Effizienz als menschliche Arbeitskräfte durchführen. Noch entscheidender ist, dass die semantische Sensitivität der Sprachmodelle bei der Erkennung von hierarchischen, synonymen und assoziativen Beziehungen zwischen Konzepten den Ontologie-Aufbau von der „manuellen Erstellung durch Experten“ zu einer „kooperativen Produktion von Mensch und Maschine“ oder sogar zu einem „automatisierten generativen Aufbau“ weiterentwickelt hat.

Die Bedeutung dieser Veränderung liegt nicht nur in der Effizienzsteigerung – sie verleiht dem Ontologie-Aufbau eine nie dagewesene Skalierbarkeit und fachliche Abdeckung, sodass die Situation, in der bisher nur wenige Schlüsselfelder von der Ontologie-Unterstützung profitieren konnten, sich nun für mehr vertikale Szenarien und schnell veränderte Wissensbereiche öffnet.

Gleichzeitig darf die umgekehrte Befähigung durch das Ontologie-Engineering