Unter der aktuellen Architektur kann selbst eine selbst-evolvierende KI das menschliche Urteilsvermögen nicht ersetzen.

Bis Mitte 2026 ist der Zeitplan für die „Automatisierung der KI-Forschung und -Entwicklung“ bereits recht ambitioniert.

In dem von Anthropic im Juni veröffentlichten Bericht hat Claude bereits über 80 % der internen Codierungsarbeiten übernommen. Das Mythos-Modell erreichte bei der Optimierung einer Trainingscodeaufgabe eine 52-fache Beschleunigung – weit über dem Niveau erfahrener menschlicher Forscher, die stundenlang nur eine 4-fache Beschleunigung erzielen können.

In China hat das M3-Modell von MiniMax in nur 12 Stunden den gesamten Prozess von „Datensynthese, Training, Bewertung bis zur Iteration“ ohne menschliche Eingriffe abgeschlossen. Das MiniCPM5 von Facewall Intelligence nutzt sogar einen Agent-geschlossenen Kreislauf, um ein vortrainiertes Framework zu entwickeln, das die Rechenressourcenauslastung um 10 % über dem ursprünglichen Megatron liegt.

All dies beweist, dass die Branche die Grenzen des rekursiven Selbstverbesserungsprozesses (RSI) tatsächlich vorantreibt.

RSI bedeutet, dass Modelle in die vollständige Entwicklungskette eingreifen, um sich selbst zu stärken: Sie definieren Ziele, erstellen Umgebungen, schreiben Code, führen Experimente durch und übertragen validierte Verbesserungen zurück auf das Basismodell.

Bereits 1965 stellte der Mathematiker I.J. Good die Idee einer „intelligenten Explosion“ vor. Bei den späteren systematischen Untersuchungen zur Entwicklungsrichtung der Superintelligenz durch Wissenschaftler wie Nick Bostrom, einer der einflussreichsten Philosophen unserer Zeit und unser Gast aus der letzten Ausgabe, war RSI stets das zentrale Element auf dem Weg zur ultimativen Intelligenz.

Aber in den letzten zehn Jahren war dies nur ein Gedankenexperiment, da die Fähigkeiten der zugrunde liegenden Modelle einen solchen geschlossenen Evolutionskreislauf keineswegs unterstützen konnten.

Doch jetzt, mit der Reifung der Modelle, steht die technische Grundlage kurz vor der Vollendung.

Wie wird sich die Forschung selbst verändern, wenn KI tatsächlich die Schwelle der Selbstevolution überschreitet? Wie wird sich die Fähigkeitsstruktur des Menschen wandeln? Warum sollten Organisationen noch existieren?

An der Schwelle von RSI müssen diese Fragen dringend beantwortet werden.

Dr. Tian Yuandong ist möglicherweise einer der am besten geeigneten Personen, um diese Fragen zu beantworten.

Er forschte lange Zeit an der Spitzen-KI bei Meta FAIR und stellte die stufenweise Erklärung für das „Grokking“ (plötzliche Leistungssteigerung von Modellen) vor. Gleichzeitig leistete er Beiträge zu Bereichen wie Verstärkungslernen, Self-Play, Selbstoptimierung von Modellen und offene Erkundung.

Im Jahr 2026 trat er als Mitbegründer dem Unternehmen Recursive AI bei – ein Unternehmen, das seinem Namen nach genau darauf abzielt, ein sich selbst entwickelndes KI-System aufzubauen.

Er ist sowohl Experte für Selbstevolution als auch Zeuge organisatorischer Veränderungen in der Welle des Silicon Valley.

In der Nacht vor diesem Wandel führten wir ein langes Gespräch mit ihm. Wir versuchten, den Nebel der KI-Automatisierung zu lichten und die aktuellen wahren Engpässe selbstentwickelnder Systeme direkt anzugehen. Wir diskutierten auch, wie Einzelpersonen und Organisationen ihre Position neu definieren können, wenn der Erfolgspfad im Berufsleben von „ein Team von hundert Personen zu leiten“ zu „eine Gruppe von Coding-Agenten zu steuern“ wechselt.

An der Klippe des Übergangs zwischen altem und neuem Paradigma enthielten seine Antworten überraschenderweise einen gewissen existenziellen Unterton.

Nach Tian Yuandongs Ansicht ist der Versuch, mit Maschinen bei der Parameteroptimierung und Ausführungseffizienz zu konkurrieren, ein Kampf, der von vornherein verloren ist. Wenn RSI die intellektuelle Arbeitsteilung morgen vollständig umgestaltet, ist der letzte Vorteil des Menschen das nicht externalisierbare, tiefgreifende Verständnis, das nicht strukturiert werden kann.

Dazu gehören das scharfe Gespür für die Richtung von Problemen, das Urteilsvermögen (Taste) zu bestimmen, wohin sich die Superintelligenz entwickeln soll, und die Unersetzbarkeit des Subjekts in realen, komplexen Situationen.

Im Folgenden unser Gespräch.

01 Was ist die Schwelle für selbstentwickelnde KI?

Unter dem brodelnden Oberfläche: Heutzutage ist selbstentwickelnde KI ein hochaktuelles Thema im technischen Spitzenbereich. Viele Unternehmen betreiben jedoch bereits automatisierte KI-Forschung und -Entwicklung, insbesondere im Bereich des Nach-Trainings: Die von Agenten gesteuerte Datensynthese, das Training, die Bewertung und die Iteration sind bereits relativ ausgereift. Was ist der Kernunterschied zwischen der selbstentwickelnden KI, die Recursive AI anstrebt, und diesen bereits implementierten automatisierten KI-Forschungs- und Entwicklungsprozessen?

Tian Yuandong: Diese automatisierten F&E-Prozesse sind nur der erste Schritt. Wir hoffen später, dass die KI neue Algorithmen, neue Muster, neue Architekturen und neue Datenmischungen entdeckt – sogar Architekturen, die sich stark von der aktuellen Transformer-Architektur unterscheiden – um so das nächste Generationstrainingsparadigma zu finden.

Das ist unser höchstes Ziel.

Unter dem brodelnden Oberfläche: Das ist also ein offenerer Prozess?

Tian Yuandong: Genau. Die einfachste rekursive Form ist die Optimierung von Hyperparametern, aber der Hyperparameterraum ist nicht sehr groß. Da große Modelle jetzt stark sind, können wir einen viel größeren Suchraum nutzen.

Anmerkung: Der Begriff „automatisierte KI-F&E“ bezieht sich hier hauptsächlich darauf, Teile bestehender Forschungsprozesse – wie Datengenerierung, Training, Bewertung und Parameterabstimmung – an Agenten zu übergeben. „Selbstentwickelnde KI“ hingegen betont stärker, ob das System neue Algorithmen, Architekturen oder Trainingsverfahren entdecken und die Ergebnisse zur Verbesserung des Modells selbst zurückführen kann. Der Unterschied liegt nicht im Automatisierungsgrad, sondern darin, ob ein geschlossener Kreislauf zur „Selbstverbesserung“ entsteht.

Unter dem brodelnden Oberfläche: Ich habe eine noch unausgereifte Überlegung: Kann man die Selbstentwicklung von KI als einen automatischen Prozess der wissenschaftlichen Entdeckung verstehen? Zuerst wird das Problem erkannt, dann Ziele und Belohnungen definiert, Lösungsansätze erforscht, Umgebungen und benötigte Daten erstellt, schließlich Ergebnisse validiert und die Verbesserungen beibehalten. Diese Verbesserungen können sowohl extern als auch in Form von Parametern erfolgen. Stimmt diese Überlegung?

Tian Yuandong: Auf hoher Ebene stimmt das ungefähr. Es bedeutet, den Forschungsprozess von Forschern zu automatisieren. Nach der Automatisierung findet die KI neue Erkenntnisse und Ideen, die wieder in die KI eingebracht werden, sodass sie stärker wird. Wenn die KI stärker wird, kann sie weiter automatisieren. Das ist ungefähr die Logik.

Der Unterschied zum „KI-Wissenschaftler“ liegt darin, dass das Ziel des KI-Wissenschaftlers außerhalb der KI liegen kann – beispielsweise im Materialdesign oder Medikamentendesign. Diese Aufgaben beinhalten keine Modifikation der KI selbst und haben keinen Weg zur Selbstverbesserung oder Selbstverstärkung.

Wir konzentrieren uns lieber auf Anwendungen, die sich selbst verbessern. Wenn wir eine neue vortrainierte Architektur entdecken, können wir diese wieder in das Vortraining einbringen, um das Modell zu stärken. Das ist etwas, was viele Ansätze des KI-Wissenschaftlers nicht haben.

Anmerkung: „KI-Wissenschaftler“ bezieht sich in der Regel auf den Einsatz von KI zur Automatisierung wissenschaftlicher Forschungsprozesse – etwa das Aufstellen von Hypothesen, das Entwerfen von Experimenten, das Verfassen von Arbeiten oder das Lösen externer wissenschaftlicher Probleme wie Material- oder Medikamentenforschung. Recursive AI hingegen konzentriert sich auf eine rekursivere Version: Das Forschungsobjekt ist kein externes wissenschaftliches Problem, sondern die Frage, wie KI selbst weiter gestärkt werden kann.

Unter dem brodelnden Oberfläche: Welche Teile decken die heute bereits industriell eingesetzten automatisierten Systeme ungefähr ab? Welchen Teil will Recursive AI vorantreiben? Beispielsweise ist ein Teil des Vortrainings automatisiert, und es gibt auch automatisierte Prozesse zur Parameterabstimmung. Welche Teile sind relativ ausgereift und welche noch nicht?

Tian Yuandong: Es ist schwer zu sagen, was ausgereift ist und was nicht. Selbst bei der Parameterabstimmung können hervorragende Ergebnisse erzielt werden. Wenn man den Parameterraum besser versteht, könnten das Modell oder die KI zur Parameterabstimmung möglicherweise bessere Parameterkombinationen entdecken.

Daher ist die Parameterabstimmung nicht grundsätzlich die niedrigste Stufe. Das Wichtigste ist, ob das Modell das Problem besser versteht. Mit einem besseren Verständnis erhält die Parameterabstimmung eine tiefere Bedeutung.

Der konkrete Handlungsraum ist nicht das einzige Kriterium für die Stärke der Selbstentwicklung.

Unter dem brodelnden Oberfläche: Entscheidender ist, wie stark der Erkundungsraum wirklich ist?

Tian Yuandong: Genau, der Erkundungsraum und die Fähigkeit, darin bahnbrechende Entdeckungen zu machen.

Viele erfahrene KI-Forscher entwickeln nach der Auswertung zahlreicher Signale äußerst wichtige Erkenntnisse über das Problem. Diese Erkenntnisse, die festgehalten werden, können die Effizienz enorm steigern. Sie können sehr einfach sein – beispielsweise das Anpassen von Parametern oder das Ändern von zwei Zeilen Code.

Die konkrete Handlung ist nicht wichtig, sondern wie tief das Problem verstanden wird.

Anmerkung: Der Begriff „Erkundungsraum“ kann als der Bereich von Lösungen verstanden werden, den das System selbst auszuprobieren erlaubt. Parameterabstimmung, Codeänderungen, Anpassung der Datenmischung oder Architekturänderungen sind nur Handlungsräume auf verschiedenen Ebenen. Was die Fähigkeit zur Selbstentwicklung wirklich bestimmt, ist, ob das System in diesen Räumen gültige Erkenntnisse gewinnen kann – nicht, ob die Handlung selbst anspruchsvoll wirkt.

Unter dem brodelnden Oberfläche: KI ist ein ausgezeichneter Musterlerner, der Wahrscheinlichkeiten und Muster aus vorhandenen Inhalten zusammenfassen kann. Auch naturwissenschaftliche Entdeckungen sind in gewissem Maße rekursiv und induktiv. Erfahrene Forscher entdecken nach der Auswertung zahlreicher Beispiele Regeln, fassen sie zusammen und nehmen Verbesserungen vor – etwas, das KI eigentlich gut können sollte. Aber Sie haben in anderen Interviews erwähnt, dass die Innovationsfähigkeit von KI noch begrenzt ist. Gibt es hier einen Widerspruch?

Tian Yuandong: Innovation hat verschiedene Ebenen. Bei einfachen Innovationen ist KI bereits stark, sogar besser als Menschen.

Beispielsweise das Übertragen von Konzepten oder das Anwenden vorhandener Konzepte für wiederholende Aufgaben – das beherrscht KI bereits sehr gut.

Auf komplexeren, abstrakteren Innovationsebenen erreicht KI jedoch noch nicht das menschliche Niveau.

Das sind zwei verschiedene Dinge.

Unter dem brodelnden Oberfläche: Wie sehen komplexere Innovationen aus? Beispielsweise gibt es rekursive Entdeckungen und zufällige Entdeckungen. Ist KI nicht in der Lage, diese Zufälle oder fortgeschrittenere neue Entdeckungen zu erfassen?

Tian Yuandong: Man kann sich Beispiele ansehen: Wie Galois die Gruppentheorie entdeckte, wie Einstein die Relativitätstheorie und sogar die allgemeine Relativitätstheorie fand. Das sind konzeptionelle Durchbrüche, die auf einer Fülle von Experimenten basieren.

Konzeptionelle Durchbrüche können viele zuvor unlösbare Probleme lösen. Mit einem solchen Konzept ändert sich die Perspektive auf Probleme und das Verständnis für sie vollständig.

Solche Forschungen kann KI heute noch nicht durchführen.

Unter dem brodelnden Oberfläche: Liegt es daran, dass sie noch keine guten Fähigkeiten zur Induktion und Zusammenfassung von Konzepten hat?

Tian Yuandong: Genau, oder es fehlt ihr am unmittelbaren Verständnis für neuartige Strukturen. Sie stützt sich hauptsächlich auf Abgleiche aus vergangenen Ableitungen.

Aber selbst wenn es nur Musterabgleich ist, ist KI in der Praxis bereits sehr nützlich. In vielen Bereichen kann einfacher Musterabgleich hervorragende Ergebnisse erzielen.

Wenn das höchste Ziel vorübergehend nicht erreichbar ist, gibt es dennoch viele praktische Anwendungsfälle.

Unter dem brodelnden Oberfläche: Ist es bei der aktuellen autoregressiven Architektur von KI möglich, dass fortgeschrittenere semantische Zusammenfassungen oder ein tieferes Verständnis neuer Muster entstehen?

Tian Yuandong: Mit den heutigen großen Modellen und Trainingsalgorithmen halte ich es für nicht einfach (ein Verständnis für neue Strukturen zu entwickeln). Aber wenn neue Algorithmen gefunden werden, könnte es möglich sein.

Das wird derzeit noch erforscht.

Anmerkung: Ein „konzeptioneller Durchbruch“ bedeutet nicht, vorhandene Muster besser abzugleichen, sondern die Art und Weise, wie das Problem selbst ausgedrückt wird, zu verändern. Tian Yuandong nutzt die Beispiele Gruppentheorie und Relativitätstheorie, um zu zeigen, dass wirklich hochwertige wissenschaftliche Entdeckungen oft aus neuen abstrakten Frameworks stammen – nicht nur aus der Induktion lokaler Regeln aus zahlreichen Stichproben.

02 Wie überschreitet man die Schwelle der selbstentwickelnden KI?

Wenn der erste Teil die Frage „Was zählt als Selbstentwicklung?“ erörtert, behandelt dieser Teil ein stärker ingenieurwissenschaftliches Problem: Wie kann das System diese Schwelle tatsächlich überschreiten? Die Engpässe liegen dabei nicht nur in der Rechenleistung oder im Modell selbst, sondern in einer Reihe konkreter technischer Schritte.

Dazu gehören Validierungssignale, menschliche Einsichten, die Geschwindigkeit der Rückmeldung und die Art und Weise, wie das System verschiedene Evolutionspfade zu einem nachhaltigen geschlossenen Kreislauf organisiert.

Unter dem brodelnden Oberfläche: Ein praktisches Problem ist, dass das Training von Frontier-Scale-Modellen Wochen oder Monate dauern und extrem teuer sein kann. Wie kann das Forschungsteam in einer solchen Situation feststellen, ob ein bestimmter Trainingsweg der richtige ist?

Tian Yuandong: Heute verlassen wir uns noch darauf, dass erfahrene Forscher die konkreten Zahlen auswerten. Ein Modell durchläuft vom Vortraining über RL bis hin zu RLHF die gesamte Kette, bevor es ausgeliefert wird. Wir wollen, dass das Endmodell gute Kennzahlen erreicht – aber die genaue Beziehung zwischen den endgültigen Parameterkennzahlen und den anfänglichen Entscheidungen im Vortraining