Leute wie Jeff Dean, springt über Bord, bevor die bayessche KI eintrifft.

Am 5. August kündigte Jeff Dean an, dass er Google, wo er 27 Jahre lang gearbeitet hat, verlässt und ein Unternehmen namens Discovery Loop gründet. Der Ehrgeiz hinter diesem Namen besteht darin, die KI in einen kontinuierlich laufenden Zyklus wissenschaftlicher Entdeckungen zu bringen.

Aber in der vergangenen Woche wurde eine Arbeit von Google DeepMind mit dem Titel „LLM can't jump“ ebenfalls viral.

Der wörtliche Titel der Arbeit lautet „Große Sprachmodelle können nicht springen“. Der hier genannte „Sprung“ ist ein Teil des wissenschaftlichen Entdeckungsprozesses, den Einstein in einem Brief an einen Freund erwähnt hat.

Die gesamte wissenschaftliche Entdeckung lässt sich wie folgt beschreiben:

Sinneserfahrung E → Axiome A durch Sprung gewinnen → Schlussfolgerungen S aus Axiomen ableiten → zurück zur empirischen Überprüfung.

Wissenschaftler gehen von empirischen Tatsachen aus, durch einen Sprung, der nicht vollständig durch bestehende Logik abgeleitet werden kann, bilden sie neue Grundprinzipien. Daraus leiten sie dann Vorhersagen ab und prüfen diese in der empirischen Welt.

Dieser Sprung ist der Schlüssel zur wissenschaftlichen Entdeckung.

Zahavys Einschätzung wirkt wie ein kalter Guss auf die große Erzählung von Discovery Loop. Modelle können Experimente automatisieren, bestehende Probleme kontinuierlich verbessern und sogar komplexe mathematische Deduktionen durchführen, aber ihnen fehlt der entscheidendste Schritt der wissenschaftlichen Entdeckung: die Erfindung eines Satzes neuer, bisher nicht existierender Grundprinzipien aus begrenzten Erfahrungen.

Eine beliebte optimistische Interpretation besagt, dass wissenschaftliche Kreativität im Wesentlichen darin besteht, bessere Methoden zur Datenkompression zu finden. Wenn alte Theorien Beobachtungen nicht präzise erklären können, sucht das System zur Verringerung von Vorhersagefehlern nach einheitlicheren neuen Regeln.

Aber Zahavy stimmt nicht zu, dass Kompression den gesamten Prozess der wissenschaftlichen Entdeckung abdecken kann. Seiner Meinung nach ist dies nur eines von drei Mustern, mit denen Menschen Wissen bilden. Datenkompression ist im Wesentlichen Induktion, die dafür zuständig ist, Regeln aus Daten zu finden. Daneben gibt es noch Deduktion, die Ergebnisse aus Prämissen ableitet. Aber der Sprung, der den wissenschaftlichen Rahmen wirklich verändert, ist die Erfindung neuer Erklärungsprinzipien aus begrenzten Tatsachen, also Abduktion (Abduction).

Aus Sicht der Autoren sind heutige Modelle strukturell nicht in der Lage, dies zu tun.

Die abduktive Schlussfolgerung, die Einstein durchführte, stützte sich darauf, simulierende Erfahrungen in formalisierte Axiome zu übersetzen. Zuerst entdeckte er unerklärliche Phänomene im System, dann simulierte er diese mit Gedankenexperimenten wie freiem Fall und Aufzügen, und schließlich destillierte er neue Axiome in diesem wiederholten Simulationsprozess.

Große aktuelle Sprachmodelle verarbeiten hauptsächlich bereits verbalisierte Symbole. Ihnen fehlt ein handlungssteuerbares Weltmodell (action-controllable world model, ein Modell, das den Zustand der Umgebung durch Handlungen verändern kann), um diese simulierten Gedankenexperimente durchzuführen.

Ist es also völlig aussichtslos, dass Jeff Dean und mehrere Kernfiguren von Google AI ihre Karriere darauf setzen, Modelle durch langfristige Interaktion, Experimente und Selbstmodifikation kontinuierlich weiterzuentwickeln?

Tatsächlich liegt zwischen den Fähigkeiten aktueller Modelle und dem Niveau, auf dem Einstein völlig neue Problemdomänen erschließen kann, noch eine Vielzahl von Ebenen, beispielsweise die Ebene gewöhnlicher Forscher und die Ebene von Forschern, die teilweise Theorien aufstellen und korrigieren können.

Aktuelle KI ist nicht einmal in der Lage, ein echter Wissenschaftler zu sein.

Die Arbeit „LLMs Can’t Jump“ fragt, ob KI den letzten Sprung vollziehen kann. Die Wette von Jeff Deans Startup lautet hingegen, ob KI endlich die Voraussetzungen erfüllt, um vor diese Klippe zu gelangen.

Bevor wir beantworten, ob Modelle zu Einstein werden können, müssen wir möglicherweise zuerst eine realistischere Frage beantworten: Was fehlt heutigen großen Modellen noch, um einen gewöhnlichen, aber qualifizierten wissenschaftlichen Forscher zu erreichen?

01. Die Obergrenze der wissenschaftlichen Entdeckung durch große Modelle hat vor dem Sprung bereits zwei Einbrüche erlitten

Bevor eine Studie in Experimente und Überprüfung eintritt, sind zwei Schritte erforderlich: Zuerst bestätigen, „wo es ein untersuchungswürdiges Problem gibt?“, dann bestätigen, „auf welche Weise dieses Problem erklärt oder gelöst werden soll?“

Es gibt bereits Forschungen zum wissenschaftlichen Geschmack von großen Sprachmodellen, die sich mit diesen beiden Fragen befassen. Sie belegen, dass heutige Modelle nicht erst beim Sprung plötzlich ihre Kreativität verlieren, sondern schon früher zwei aufeinanderfolgende Schrumpfungen durchlaufen haben.

Der Einbruch der Problemdomäne beginnt mit fehlendem Zweifel und konzeptuellem Spiel

Wissenschaftliche Entdeckung wird oft als Suche nach Antworten beschrieben. Tatsächlich ist in vielen wichtigen Studien nicht die Antwort das Knappe, sondern die Fähigkeit, etwas als Problem zu erkennen.

Der Ausgangspunkt aktueller KI-Forschungssysteme ist normalerweise bereits sehr spät. Modelle erhalten Titel von Arbeiten, Zusammenfassungen, verwandte Arbeiten, Datensätze und Aufgabenbeschreibungen. Die Forschungsobjekte sind bereits benannt, die Ziele sind festgelegt, die Vor- und Nachteile bestehender Methoden sind von den Autoren der Arbeiten zu einer ausgereiften Erzählung zusammengefasst worden.

Was Modelle wirklich tun müssen, ist oft nicht, Probleme aus der Welt zu entdecken, sondern in einem von anderen bereits organisierten Problemraum den nächsten Schritt fortzusetzen.

Wie verändert sich in diesem Muster die Fähigkeit der Modelle, Probleme zu erkennen?

Die Hongkong University of Science and Technology veröffentlichte im Mai die Arbeit „AI Research Agents Narrow Scientific Exploration“, in der eine groß angelegte Studie durchgeführt wurde. Die Autoren nutzten vier gängige Frameworks für wissenschaftliche intelligente Agenten (AI Scientist, ResearchAgent, Co-Scientist, Agent Laboratory) und fünf große Modelle, um 219.655 Forschungsideen aus 155 Forschungsbereichen zu generieren, und verglichen diese dann mit den echten Forschungsentscheidungen menschlicher Forscher.

Alle vier Agenten-Frameworks wurden auf innovationsfördernde Einstellungen gesetzt. AI Scientist führt mehrere Runden der Selbstreflexion durch, ResearchAgent fügt phasenweise Planung und Bewertung hinzu, Agent Laboratory lässt mehrere Agenten diskutieren, Co-Scientist führt sogar wettbewerbsartige Hypothesenevolution ein.

Aber selbst wenn alle Agenten ausdrücklich angewiesen werden, neuartige, hochwirksame Richtungen zu suchen und aktiv zusätzliche Literatur abzurufen, bleibt das Problembewusstsein der Modelle relativ konservativ.

Die Autoren zerlegten jeden Vorschlag in „was erforscht werden soll“ und „wie erforscht werden soll“ und verglichen diese mit den Ausgangsarbeiten. Nur 10,5 % der KI-Vorschläge stellten neue Forschungsprobleme vor, die nicht in den Ausgangsmaterialien enthalten waren, aber 90,4 % führten neue Methoden ein, die nicht in den Ausgangsarbeiten vorkamen.

Mit anderen Worten: Die Neuheit der Modelle besteht meist nicht darin, neue Probleme entsprechend der aktuellen Situation vorzuschlagen, sondern nur die Lösung auf lokaler Ebene zu ändern.

Beispielsweise untersuchen bestehende Arbeiten derzeit X, aber aktuelle Methoden weisen Mängel in Effizienz, Robustheit oder Generalisierbarkeit auf. Wir können die Methode Y einführen, das Modul Z hinzufügen und dann eine Reihe von Experimenten entwerfen, um X zu verbessern.

Sie fragt normalerweise nicht zuerst: Warum ist X zu einem Problem geworden? Mischt X zwei völlig unterschiedliche Phänomene? Ist die aktuelle Methode zur Messung von X korrekt? Gibt es ein wichtigeres Problem, das in den Darstellungen bestehender Arbeiten überhaupt nicht sichtbar ist?

Das ist natürlich legitime Forschung. Die überwiegende Mehrheit der Arbeiten in der realen Welt ist ohnehin keine theoretische Revolution im Einstein-Stil. Das Problem liegt darin, dass wenn diese Struktur zum überwältigenden Standardweg wird, der Problemraum selbst nicht vollständig geöffnet ist.

Sie neigt dazu, die in den gelesenen Materialien enthaltenen Annahmen zu akzeptieren: dass X ein untersuchungswürdiges Objekt ist, dass aktuelle Indikatoren Fortschritte darstellen und dass die Grenzen bestehender Aufgaben angemessen sind. Anschließend wird Innovation darauf beschränkt, wie X mit neuen Technologien weiter vorangebracht werden kann.

Abruf und komplexe Agenten-Frameworks können den Modellen geringfügig helfen, die Ausgangsmaterialien zu verlassen, aber sie ändern dieses lokale Explorationsmuster nicht grundlegend.

Die Autoren nennen dieses Phänomen lokale Ausarbeitung (local elaboration). Es zeigt, dass Modelle gut darin sind, entlang bestehender Forschungen voranzukommen, aber schlecht darin, das Gebiet der wissenschaftlichen Exploration zu erweitern.

Das steht im Gegensatz zu tiefgehender menschlicher Forschung, die sehr oft aus Konflikt und Zweifel entsteht.

Eine weitere Arbeit der University of Chicago vom Juni „Contemporary AI Lacks the Imagination to Diverge or Negate in Science“ beweist dies ebenfalls. Ihre Studie lud Autoren von 121.640 aktuellen Preprint-Arbeiten ein, Modelle dazu zu bringen, nach den Hintergründen und wissenschaftlichen Rätseln in den eigenen Arbeiten der Forscher Folgehypothesen zu generieren. Schließlich gaben 6.749 Wissenschaftler 25.139 Gruppen von Bewertungen ab.

Die Studie ergab, dass keine Modellkategorie spontan eine Nullhypothese (null hypothesis) aufstellte, also die Annahme, dass die in der Aufgabe genannte Beziehung möglicherweise nicht existiert.

Außerdem sind die von ihnen vorgeschlagenen Forschungsrichtungen sehr homogen. Obwohl nicht-argumentative Modelle mehrere Hypothesen generieren können, teilen mehrere Hypothesen oft dieselben Prämissen, kausalen Richtungen und Problemrahmen.

Eine weitere Arbeit ging noch einen Schritt weiter. Die im Juli von der University of Chicago veröffentlichte Arbeit „Measuring the Gap Between Human and LLM Research Ideas“ analysierte, welche Art von Wissensmangel Modelle als Forschungschance definieren.

Die Autoren zogen Referenzen aus 11.683 bereits in Zeitschriften veröffentlichten menschlichen Arbeiten und ließen verschiedene Modelle anhand dieser Referenzen neue Forschungsvorschläge unterbreiten.

Sie unterteilten die von Forschern vorgeschlagenen Forschungsprobleme in sieben Kategorien: Widerspruch oder Rätsel, Erklärungslücke, Fehlanpassung des Anwendungsbereichs, Beweislücke, Überbrückungschance, Ausfallrisiko und Ressourcenengpass.

Die Verteilung menschlicher Arbeiten auf diese sieben Eingänge ist relativ verteilt. Laut den Diagrammen der Arbeiten betreten Menschen am häufigsten über Erklärungslücken die Forschung (etwa 30 %), Ausfallrisiko, Anwendungsbereich, Beweislücken und Überbrückungschancen machen jeweils über 10 % aus, die Entdeckung von Widersprüchen und Ressourcenengpässen sind etwas seltener.

Auf Seiten der Modelle ergab sich ein deutlich anderes Muster. Bei neun Modelleinstellungen wurden 47,1 % bis 64,2 % der Forschungsmotive als Überbrückungschance eingestuft, während dieser Wert bei Menschen nur 12,1 % beträgt.

Mit anderen Worten: Wenn man Modellen mehrere benachbarte Arbeiten gibt, wandeln sie Forschungskonzepte oft in eine Beurteilung von Beziehungen um, also darin, voneinander getrennte Literatur, Methoden, Theorien oder Beweisströme neu zu verbinden.

Und die argumentativen Modelle, von denen wir erhoffen, dass sie Strukturen tiefer durchdringen und tiefe Erkenntnisse bilden, gehen diesen Weg des Zusammenfügens eher. Am Beispiel von Qwen3-8B: Im Thinking-Modus stieg der Anteil überbrückender Motive von etwa der Hälfte auf über 70 %.

Die Arbeit der University of Chicago stellte dieses Phänomen ebenfalls fest: Sie sind der Meinung, dass Modelle wissenschaftliche Aufgaben normalerweise als „eine Beziehung zwischen bestehenden Variablen vorschlagen“ verstehen, anstatt die Art und Weise, wie wir die Welt beobachten, neu zu gestalten.

Warum wählen Modelle diesen Weg? Erstens behandeln KI Messmethoden und experimentelle Bedingungen als externe Bedingungen. Sie sehen hauptsächlich vertraute Texte, also generieren sie Hypothesen nur auf Basis bereits veröffentlichter Literatur und können am Ende nur Rekombination (recombination) durchführen.

Zweitens sind Überbrückung und Rekombination die Schlussfolgerungen, die am leichtesten direkt aus der Literatur abgeleitet werden können. Arbeit A hat bereits eine Methode, Arbeit B hat bereits einen anderen Mechanismus, beide wurden noch nicht gemeinsam verwendet, also kann ihre Verbindung direkt als Forschungsmotiv formuliert werden. Modelle lesen Literatur, und diese Methode erfordert nicht einmal ein tiefes Eindringen in die Literatur, um neue Richtungen vorzuschlagen.

Daraus folgt: Modelle stellen nicht nur wenige neue Probleme vor, sondern selbst wenn sie Lücken in bestehenden Problemen suchen, sind die von ihnen erkannten Lückentypen deutlich zu eng.

Aktuelle KI ist wie ein Forscher, der keine Prämissen leugnen wagt und in Händen und im Kopf nur Verbindungen zwischen Konzepten hat.

Der Einbruch der Lösungsdomäne liegt in oberflächlicher Bearbeitung und enger Vorstellungskraft

Sobald das Problem festgelegt ist, betreten Modelle ihren vertrauteren Bereich.

Sie können schnell ein riesiges Wissensarchiv abrufen und für dasselbe Problem auf einmal ein Dutzend technischer Routinen vorschlagen. Aber „viele Kandidaten“ bedeutet nicht „viele verschiedene Lösungsstrukturen“. Viele Vorschläge führen möglicherweise nur dieselbe kognitive Aktion mit unterschiedlichen Materialien aus.

Das erste Merkmal dieser Innovationen ist, dass die Lösungen sehr nah am Ausgangspunkt liegen.

In der Arbeit „AI Research Agents Narrow Scientific Exploration“ messen die Forscher die Distanz der KI-Vorschläge