Ein ehemaliger OpenAI-Forscher nimmt seine frühere Aussage zurück: Super-KI-Forscher könnten bereits im nächsten Jahr eintreffen.

Unser Zeitplan ist vorgezogen worden!

Am 11. November teilte der ehemalige OpenAI-Forscher Daniel Kokotajlo auf X die neue Vorhersage des Teams mit und sagte: „Ich empfinde Angst, Trauer und Wut“.

Er ist der Ansicht, dass die intelligente Explosion doch noch im Jahr 2027 eintreten wird: Wenn die Beurteilung von METR zutrifft und die KI-gesteuerte Forschungs- und Entwicklungsbeschleunigung einsetzt, liegt dies etwa fünf Monate früher als die ursprüngliche Simulation in „AI 2027“.

Wenn KI den Menschen bei der Entwicklung der nächsten Generation von KI unterstützt, könnten selbst die radikalsten Prognostiker das Fortschrittstempo von KI-Modellen unterschätzen.

In weniger als drei Monaten hat das Vorhersageteam AI Futures Project hinter „AI 2027“ den Zeitplan für die Ankunft des Super-KI-Forschers (SAR) auf das nächste Jahr vorverlegt.

Zuvor hatte selbst der optimistischste Mitglied des Teams, Daniel Kokotajlo, nur eine Wahrscheinlichkeit von 50 % angegeben, als er von der „Entstehung des Super-KI-Forschers vor 2029“ sprach.

Am 10. November veröffentlichte das AI Futures Project eine neue Runde von Vorhersagen (Q3.5).

Die unterzeichnenden Autoren sind sich einig: Wenn die Spitzen-KI-Forschung und -Entwicklung nicht signifikant und aktiv verlangsamt wird, wird der Super-KI-Forscher höchstwahrscheinlich im Jahr 2027 entstehen.

Die wichtigste Grundlage, die sie zu dieser Korrektur der Beurteilung veranlasst hat, ist eine Untersuchung der unabhängigen Bewertungsstelle METR bei Anthropic.

METR verbrachte 11 Wochen damit, Anthropic zu untersuchen, interne Daten einzusehen und Mitarbeiter zu interviewen, und schätzte schließlich eine Zahl:

Seit Oktober 2025 hat die Wachstumsgeschwindigkeit der Benchmark-Punkte der internen Modelle von Anthropic das Niveau von früher auf das 1,9-fache erreicht.

Gemäß dieser Schätzung entspricht der jährliche Anstieg der Modelle von Anthropic in dieser Testgruppe dem Wachstum von fast zwei Jahren in der Vergangenheit.

Die Geschwindigkeit der Punktsteigerung hat sich fast verdoppelt – wie viel hat die KI dazu beigetragen?

Am 5. November veröffentlichte METR diesen Bericht.

Um zu sehen, wie schnell sich die Modelle von Anthropic verbessert haben, verwendete METR einen internen Indikator namens AECI.

Er kombiniert die Ergebnisse mehrerer Tests zu einer Gesamtpunktzahl. Die meisten Tests haben klare Ziele, und die Ergebnisse können überprüft werden.

METR schätzt, dass seit Oktober 2025 die Geschwindigkeit des Anstiegs dieser Gesamtpunktzahl etwa das 1,9-fache des vorherigen Niveaus beträgt, mit einem 95 %-Konfidenzintervall von 1,5 bis 2,8-fach.

Vor und nach Oktober 2025 stieg der jährliche Anstieg der Gesamtpunktzahl des Modells von etwa 15 Punkten auf etwa 29 Punkte. (Quelle: METR)

Die Art und Weise, wie der Schwierigkeitsgrad der Aufgaben geschätzt wird, beeinflusst auch das Ergebnis.

METR berechnete neu mit mehreren Annahmen und stellte fest, dass die Geschwindigkeit des Punktanstiegs nach Oktober 2025 etwa das 1,1- bis 2,9-fache des vorherigen Niveaus beträgt.

Die Geschwindigkeiten, die sich aus verschiedenen Algorithmen ergeben, sind unterschiedlich, aber der Trend ist bereits eindeutig: Die Punkte steigen schneller an.

Warum steigen die Punkte schneller an?

METR untersuchte die Veränderungen bei der Trainingsrechenleistung, der Personalbeschaffung, den Daten und den Algorithmen und kam zu dem Schluss, dass die Veränderung der Wachstumsgeschwindigkeit der Trainingsrechenleistung diese Beschleunigung nicht erklären kann.

Die spezifischen Beweise, die diese Beurteilung stützen, wurden jedoch in der öffentlichen Version des Berichts entfernt.

Was den Anteil des Beitrags der KI betrifft, so ist METR der Ansicht, dass sich dieser Anteil im Laufe der Zeit verändert.

Als die Beschleunigung Ende 2025 begann, spielten höchstwahrscheinlich auch Faktoren außerhalb der KI eine Rolle.

Aber bis Oktober 2026 schätzt METR, dass etwa 80 % des zusätzlichen Tempos im Vergleich zur Vergangenheit von der KI stammen könnten.

Beachten Sie, dass diese „80 %“ eine subjektive Schätzung von METR ist. Der Bericht verwendet den Ausdruck „We guess“ (wir vermuten) und weist ausdrücklich darauf hin, dass diese Beurteilung mit großer Unsicherheit behaftet ist.

Darstellung des Beitrags von KI und anderen Faktoren zur Modellbeschleunigung: Der orangefarbene Bereich ist die zusätzliche Beschleunigung durch KI, der graue Bereich sind nicht unterteilte nicht-KI-Faktoren.

Wobei hilft die KI konkret?

Ein befragter Forscher sagte, dass es früher ein oder zwei Tage gedauert hat, nur um den Code zu schreiben und das Experiment zum Laufen zu bringen.

Mit Hilfe der KI ist er bereit, mehr Ideen auszuprobieren, um zu sehen, welche funktionieren.

Andere befragte Forscher erwähnten auch, dass die KI hilft, Experimentiercode zu schreiben, den Ablauf von Experimenten zu überwachen und Messungen durchzuführen, für die früher viel zusätzliche Arbeit erforderlich war.

Einige übergeben sogar zehn Ideen auf einmal an einen Agenten, damit er sie umsetzt und testet.

Vom Schreiben von Code bis zum Durchführen von Experimenten unterstützt die KI bereits die Entwicklung der nächsten Generation von KI.

Gemäß der neuen Schätzung des AI Futures Project könnte diese Beschleunigung früher eintreten als in der ursprünglichen Simulation von „AI 2027“.

Die Beschleunigung der KI-Forschung und -Entwicklung könnte 5 Monate schneller sein als die Simulation in „AI 2027“

Der im April 2025 veröffentlichte Bericht „AI 2027“ hat bereits simuliert, wie KI bei der Entwicklung der nächsten Generation von Modellen hilft.

Gemäß den damaligen Einstellungen benötigte das virtuelle Unternehmen OpenBrain eineinhalb Wochen, um den gleichen Fortschritt bei den Algorithmen zu erzielen, wenn es keine KI verwendete – mit KI reichte eine Woche.

Aber der Fortschritt bei den Algorithmen ist nur ein Teil des Modellfortschritts.

Eine Verbesserung, die aus einem Experiment hervorgeht, muss in die nächste Trainingsrunde übernommen werden, um sich in den Fähigkeiten des neuen Modells zu zeigen.

Diesmal hat das AI Futures Project gemäß der Schätzung von METR berechnet, dass Anfang November 2026 allein die durch die KI verursachte Beschleunigung das gesamte Fortschrittstempo des Modells auf das 1,7-fache des historischen Niveaus bringen könnte.

Um zu sehen, wann dieses Tempo im alten Szenario erreicht worden wäre, hat das Team den ungefähren Trend von „AI 2027“ mit dem Modell reproduziert.

Die Ergebnisse zeigen, dass die gleiche 1,7-fache Geschwindigkeit erst um April 2027 erreicht worden wäre. Wenn die Schätzung Anfang November zutrifft, ist der Zeitpunkt, an dem das Modellfortschrittstempo das 1,7-fache erreicht, um etwa fünf Monate früher als im alten Szenario.

Dieses Ergebnis übertrifft auch die Erwartungen des Teams von vor weniger als drei Monaten.

Selbst bei Verwendung des damals optimistischsten Vorhersagemodells lag die Wahrscheinlichkeit, dass die KI das gesamte Fortschrittstempo des Modells bereits im November 2026 auf das 1,7-fache oder mehr des historischen Niveaus gebracht hätte, bei weniger als 4 %.

Der Super-KI-Forscher soll selbst entscheiden, was erforscht wird

Der Bericht von METR hat das AI Futures Project auch dazu veranlasst, den Zeitplan für den Super-KI-Forscher vorzuziehen.

Gemäß ihrer Definition muss der Super-KI-Forscher zunächst in der Lage sein, die gesamte Programmierarbeit für ein Spitzen-KI-Projekt zu erledigen.

Bei der Auswahl von Forschungsrichtungen, dem Entwurf von Experimenten und der Interpretation von Ergebnissen muss er zudem das Urteilsvermögen eines Spitzen-Forscherteams von Menschen aufweisen.

Nachdem der Code geschrieben ist, welche Idee als Nächstes ausprobiert werden soll? Wenn ein Experiment fehlschlägt: Soll man weiter nach der Ursache suchen oder die Richtung wechseln … Für diese Entscheidungen, für die es keine fertigen Antworten gibt, muss die KI selbst eine Entscheidung treffen.

Wann wird die KI diese Schwelle überschreiten?

In demselben Bericht unterscheiden sich die Zeitpunkte, die mit drei verschiedenen Methoden berechnet wurden, um mehr als ein Jahr.

Eine Methode geht zunächst davon aus, dass die KI das Fortschrittstempo des Modells bereits auf das 1,7-fache des historischen Niveaus gebracht hat. Dann wird berücksichtigt, dass die KI in Zukunft möglicherweise mehr Forschungs- und Entwicklungsarbeiten übernimmt.

Gemäß diesem Modell liegt der Median der Vorhersage bei Februar 2027, d. h. die Wahrscheinlichkeit, dass der Super-KI-Forscher vor diesem Zeitpunkt entsteht, beträgt etwa 50 %.

Eine andere Methode schätzt anhand des Fortschrittstempos des Modells in Tests zurück, wann es das Urteilsvermögen eines Spitzen-Forscherteams erlangen kann – der berechnete Median liegt bei Juli 2027.

Eine dritte Methode verwendet die von den Mitarbeitern von Anthropic selbst gemeldete Effizienzsteigerung zur Extrapolation, was zu einem Ergebnis von Mitte 2028 führt.

Welche wichtigen Beweise hat Anthropic entfernt?

METR sagt bereits zu Beginn des Berichts, dass ihrer Ansicht nach die meisten Beweise, die am meisten zur Beurteilung der Kernschlussfolgerung beitragen, entfernt wurden.

Der Bericht enthält auch eine Tabelle, die punktgenau vergleicht, welche internen Materialien Anthropic METR zur Verfügung gestellt hat und welche Ergebnisse in die öffentliche Version aufgenommen wurden.

Der Trend der Punktwerte der internen Modelle wurde veröffentlicht, aber die Schätzung des Algorithmusfortschritts und die wichtigen Forschungs- und Entwicklungsinvestitionen wurden nicht offengelegt. Was den Beitrag der KI zur Beschleunigung der Forschung und Entwicklung betrifft, listet die öffentliche Version nur einen Teil der Beweise auf.

Gemäß der vorherigen Vereinbarung darf Anthropic nicht öffentliche Informationen kürzen, während METR darauf hinweisen darf, welche Schlussfolgerungen von diesen Materialien abhängen.

Anthropic begründete dies damit, dass die Offenlegung dieser vertraulichen Informationen anderen Entwicklern helfen könnte, die KI-Forschung und -Entwicklung zu beschleunigen.

Welche Schlussfolgerungen kann die Öffentlichkeit nach der Kürzung noch überprüfen?

Das AI Futures Project weist darauf hin, dass die ungefähr 1,9-fache Geschwindigkeit der Punktsteigerung durch eine öffentliche Kurve gestützt wird.

Was die Aussage „etwa 80 % der zusätzlichen Beschleunigung könnten von der KI stammen“ und die daraus abgeleitete 1,7-fache Geschwindigkeit betrifft, gibt es weit weniger öffentliche Beweise.

Um zu beurteilen, ob diese beiden Zahlen zuverlässig sind, muss die Öffentlichkeit mehr auf die Bewertung der internen Materialien durch METR vertrauen.

Am 5. November veröffentlichte METR auch eine Überprüfung des Risikoberichts von Anthropic vom August.

Sowohl METR als auch Anthropic sind der Ansicht, dass das Risiko einer unmittelbaren Katastrophe durch die automatisierte Forschung und Entwicklung mit dem Modell von Mitte Juli noch relativ gering ist. Beide neigen auch