Google erklärt, dass die KI-Selbstverbesserung noch weit entfernt ist, aber die Gruppe um Hinton kann es kaum noch erwarten.

Kürzlich hat Hayden Belfield, Ingenieur bei Google DeepMind, eine Reihe von Daten veröffentlicht: Mehr als 75 % des Produktionscodes im internen Bereich von Google wird von KI geschrieben. Das klingt so, als ob KI tief in die Forschungs- und Entwicklungsarbeit eingegriffen hat.

Aber Belfield hat gleichzeitig eine weitere Zahlenreihe vorgelegt: Rund 88 % der Codeänderungen erfordern immer noch menschliche Überwachung oder Prüfung, und jede Änderung muss vor der Einreichung einer menschlichen Überprüfung unterzogen werden. Der Anteil der Codeänderungen, die vollständig an KI übergeben werden, ist von 7,5 % auf 11,9 % gestiegen.

Die Lücke zwischen 75 % und 11,9 % ist die tatsächliche Grenze der aktuellen Fähigkeit der KI zur Selbstverbesserung.

Je komplexer die Aufgabe ist, desto schwieriger ist es für KI, sie unabhängig zu erledigen

Die von Belfield offengelegten Daten stammen aus dem tatsächlichen Betrieb im internen Bereich von Google. Nach seinen Angaben hat Google DeepMind keine messbare Beschleunigung der KI-Forschung festgestellt, die von der KI selbst angetrieben wird. Der Automatisierungsgrad hat zwar deutlich zugenommen, aber es besteht noch ein erheblicher Abstand zu dem Zustand, dass „die KI sich selbst verbessert“.

Diese Beurteilung wurde in den internen Benchmarktests von Google bestätigt. Bei 1389 internen Betriebstests des Argon-Agenten ist die Erfolgsrate ohne menschliche Eingriffe mit zunehmender Komplexität der Aufgabe stark gesunken. Je komplexer und zeitaufwändiger die Aufgabe ist, desto schwieriger ist es für die KI, sie unabhängig zu erledigen.

Im internen Benchmarktest RE-Bench von DeepMind, der 74 echte Aufgaben für maschinelles Lernen umfasst, kann Argon etwa die Hälfte der Aufgaben lösen. Dies ist eine deutliche Verbesserung gegenüber der Quote von 27 % bei Gemini 3.7 Flash, aber es besteht noch ein erheblicher Abstand zu der nahezu perfekten Leistung, die für die vollständige Automatisierung erforderlich ist.

Belfield erklärte, dass Menschen in kreativer Forschung, neuartigem Versuchsdesign, Diagnose feiner Trainingsinstabilitäten und langfristiger Planung immer noch von entscheidender Bedeutung sind. Eine Umfrage unter 12 hochrangigen Forschern von DeepMind hat dieses Muster bestätigt: Der höchste Automatisierungsgrad liegt bei klar definierten und überprüfbaren Aufgaben, der niedrigste bei offenen wissenschaftlichen Konzeptionen.

Mit anderen Worten: KI kann die Arbeit nach vorgegebenen Plänen gut erledigen, aber nicht die Erstellung der Pläne selbst durchführen.

Das Wachstum des Allgemeinfähigkeitsindex hat sich nicht beschleunigt

Um den Fortschritt systematisch zu verfolgen, hat das Google-Team einen Allgemeinfähigkeitsindex erstellt, der 123 Modelle und 92 Benchmarktests umfasst. Die Daten zeigen, dass die Fähigkeit des Gemini-Modells mit einer stabilen Geschwindigkeit von etwa 0,1 GCI-Punkten pro Monat wächst, ohne signifikante Geschwindigkeitsänderung.

Das Team ist der Ansicht, dass die Leistung von Gemini 4 Argon leicht über der Trendlinie liegt, was jedoch hauptsächlich auf die Erhöhung der Rechenleistung und des organisatorischen Einsatzes zurückzuführen ist, nicht auf eine von KI angetriebene Beschleunigung. Dies ist eine entscheidende Unterscheidung: Der Fortschritt des Modells stammt von „dem Einsatz mehrerer Ressourcen durch Menschen“, nicht davon, dass „die KI von selbst intelligenter wird“.

Derzeit ist das Team der Ansicht, dass das Risiko der von KI angetriebenen Automatisierung der Forschung gering ist, aber es baut eine Messinfrastruktur auf, um Anzeichen einer zukünftigen beschleunigten Entwicklung zu verfolgen.

Aber eine andere Gruppe von Menschen ist anderer Meinung

Die Forschungsergebnisse von Belfield stimmen mit mehreren aktuellen Studien überein, aber nicht alle Branchenvertreter stimmen dieser Beurteilung zu.

Mehr als 20 KI-Forscher, darunter Geoffrey Hinton, Yoshua Bengio und Jakub Pachocki von OpenAI, haben kürzlich in einem Forschungspapier davor gewarnt, dass eine „Intelligenzexplosion“ im Bereich der KI auftreten könnte. Das Papier mit dem Titel „What if automating AI R&D triggers an intelligence explosion?“ wurde vom Cambridge-Projekt für KI-Wissenschaft und -Politik veröffentlicht. Zu den 22 beteiligten Autoren gehören zwei KI-Pioniere, der Pionier des Verstärkungslernens Andrew Barto, der leitende Wissenschaftler von OpenAI Pachocki und Jack Clark, Mitbegründer von Anthropic.

Die Kernbeurteilung des Papiers lautet: Sobald die KI vollständig an der Entwicklung der nächsten Generation von KI teilnehmen kann, kann die rekursive Selbstverbesserung wirklich geschlossen werden. Sobald die Automatisierung der KI-Forschung und -Entwicklung einen bestimmten Grenzwert überschreitet, kann der KI-Fortschritt, der normalerweise mehrere Jahre dauert, auf mehrere Monate oder sogar kürzer komprimiert werden. Im Extremfall könnte der KI-Fortschritt, der heute ein Jahr dauert, in Zukunft nur noch etwa 5 Wochen benötigen.

Die im Papier zitierten Daten umfassen: Im Januar 2025 lag der Anteil der von KI generierten genehmigten Codes nur im niedrigen einstelligen Bereich, bis Mai 2026 hat dieser Anteil über 80 % überschritten. Im März 2026 konnte Claude etwa 1 % der Forschungs- und Entwicklungsarbeiten selbstständig erledigen, unter nur hohem menschlichen Überwachungsniveau; bis August desselben Jahres ist diese Zahl auf 26 % gestiegen, was sich innerhalb von etwa einem halben Jahr um mehr als das Zwanzigfache erhöht hat.

Das Papier weist auch darauf hin, dass Anthropic selbst betont, dass Claude derzeit noch keine der getesteten KI-Forschungs- und Entwicklungsarbeiten vollständig ohne menschliche Überwachung erledigen kann. Aber dieser Trend allein ist bereits ausreichend, um Wachsamkeit zu wecken.

Die Wahrheit zwischen 75 % und 88 %

Die Daten der beiden Seiten widersprechen sich nicht, sie beschreiben verschiedene Aspekte derselben Sache.

Die 75 % von Google beziehen sich auf „den Anteil des Codes, an dessen Erstellung die KI beteiligt ist“ – die KI schreibt einen Codeabschnitt, der von Menschen nach der Prüfung genehmigt wird. Die 80 %, die im Hinton-Papier zitiert werden, haben einen ähnlichen statistischen Umfang. Und die 88 % von Belfield beziehen sich auf „den Anteil der Codeänderungen, die menschliche Überwachung oder Prüfung erfordern“. Wenn man diese beiden Zahlen zusammen betrachtet: Die KI schreibt viel Code, aber die Codeänderungen, die die KI unabhängig erledigt, sind sehr wenige.

Diese Lücke weist auf ein Kernproblem hin: Was die KI derzeit leisten kann, ist „Unterstützung“, nicht „Autonomie“. Sie kann viele Kandidatenlösungen generieren, aber die Beurteilung, welche Lösung richtig, sicher und einreichungswürdig ist, muss immer noch von Menschen erledigt werden.

Die Ergebnisse des RE-Bench-Tests von Google bestätigen dies auch: Argon kann etwa die Hälfte der Aufgaben lösen, was bedeutet, dass die andere Hälfte der Aufgaben immer noch menschliche Beteiligung erfordert. Bei offenen wissenschaftlichen Konzeptionen ist der Beitrag der KI fast vernachlässigbar.

Das Papier von Hinton und anderen räumt auch ein, dass die Automatisierung der KI-Forschung und -Entwicklung derzeit noch in einem frühen Stadium ist. Aber ihr Fokus liegt nicht hier. Ihr Argument lautet: Sobald ein bestimmter Grenzwert überschritten wird, können die Veränderungen sehr schnell eintreten. Und die Position von Google lautet: Wir haben diesen Grenzwert noch nicht erreicht, und wir haben Daten, die belegen, dass die Wachstumskurve linear und nicht exponentiell ist.

Die KI-Codegenerierung in der Unternehmenswelt: Die bereits stattfindende Automatisierung Unabhängig von der akademischen Debatte beschleunigt sich die Übernahme der KI-Codegenerierung in der Unternehmenswelt bereits.

Laut dem „Bericht zum Zustand der KI-Programmierung 2026“, der von New Relic veröffentlicht wurde, gaben 67 % der befragten technischen Führungskräfte an, dass KI derzeit 51 % bis 75 % des wöchentlichen Code-Ausstoßes ihrer Organisation generiert oder erheblich umgestaltet. Der Bericht zitiert auch Daten mehrerer Unternehmen: Microsoft berichtet, dass KI 30 % seiner Codebibliothek geschrieben hat, Mark Benioff, CEO von Salesforce, schätzt, dass KI-Agenten derzeit 30 % bis 50 % der Arbeitslast übernehmen, und Meta hat sich für 2026 das Ziel von 50 % gesetzt.

Die 75 % von Google sind unter allen großen Technologieunternehmen die höchste. Aber der Bericht enthüllt gleichzeitig einen Widerspruch: 94 % der Befragten sind der Ansicht, dass der von KI generierte Code bei der Prüfung eine höhere Qualität hat als der von Menschen geschriebene Code, aber nach der Bereitstellung in der Produktionsumgebung berichten 78 % der Befragten über mehr Unfälle und 86 % über mehr Notfallreparaturen, die die Beteiligung erfahrener Ingenieure erfordern.

Das bedeutet, dass der von KI generierte Code bei der Prüfung gut aussieht, aber in der realen Produktionsumgebung schlecht abschneidet. Diese Lücke – die Lücke zwischen der Bewertung bei der Prüfung und der Leistung in der Produktion – ist der zentrale Engpass der aktuellen Fähigkeit der KI zur Selbstverbesserung. Die KI kann Code schreiben, der richtig aussieht, aber die Beurteilung, ob er wirklich richtig ist, erfordert immer noch Menschen.

Der Kapitalmarkt hat die rekursive Selbstverbesserung bereits eingepreist

Obwohl die technische Entfernung noch sehr groß ist, hat der Kapitalmarkt bereits begonnen, das Konzept der „rekursiven Selbstverbesserung“ als Investitionsnarrative einzupreisen.

Ein kürzlich von der Deutschen Bank veröffentlichter Forschungsbericht weist darauf hin, dass wenn KI den Rechenumfang kontinuierlich erweitern und echte rekursive Selbstverbesserung realisieren kann, ihre Fähigkeit in eine Phase des beschleunigten Wachstums eintreten könnte, und es nicht unmöglich ist, dass bis 2030 eine superintelligente KI entsteht, die menschliche Experten umfassend übertrifft. Der Bericht räumt gleichzeitig ein, dass es noch umstritten ist, ob die Skalengesetze weiterhin gültig bleiben, und echte rekursive Selbstverbesserung noch realisiert werden muss.

Das Konzept der rekursiven Selbstverbesserung hat sich in der zweiten Hälfte von 2026 schnell verbreitet. Laut dem Bericht von TMTPOST sind die durch die damit verbundenen Diskussionen hervorgerufenen Eindrücke unterschiedlich, aber die Rückmeldung des Kapitalmarkts ist relativ positiv. Die Angst vor „Verlangsamung“ führte kurzzeitig zu Schwankungen, wurde aber bald vergessen, und die Narrative der rekursiven Selbstverbesserung wurde schnell in den Vordergrund gerückt. Zusammen mit Ereignissen wie der Veröffentlichung des verbraucherorientierten persönlichen KI-Agenten Muse durch Meta hat sich der US-amerikanische Technologieaktienmarkt, der zuvor durch das verlangsamte ARR-Wachstum von KI-Unternehmen unter Druck stand, deutlich erholt.

Der globale Markt für selbstverbessernde KI-Systeme wird voraussichtlich zwischen 2025 und 2030 um etwa 69,5 Milliarden US-Dollar wachsen, mit einer durchschnittlichen jährlichen Wachstumsrate von 38,8 %. Die Bewertungen von Startups für KI-Programmierung steigen ebenfalls sprunghaft an: Cursor verhandelt derzeit über eine Finanzierung mit einer Bewertung von mehr als 50 Milliarden US-Dollar, und die Post-Money-Bewertung von Cognition AI erreicht 26 Milliarden US-Dollar.

Die Bedeutung der Messung

Kehren wir zur Arbeit des Google-Teams zurück. Belfield sagte, dass sie eine Messinfrastruktur aufbauen, um Anzeichen einer zukünftigen beschleunigten Entwicklung zu verfolgen. Diese Aussage hat mehr Gewicht, als es auf den ersten Blick scheint.

Wenn die Selbstverbesserung der KI wirklich bevorsteht, kann man umso früher Anzeichen der Beschleunigung erkennen, je früher man die Messfähigkeit aufbaut. Wenn sie nicht eintritt, können diese Messdaten auch der Öffentlichkeit und den Aufsichtsbehörden zuverlässige Grundlagen liefern, um zu verhindern, dass der Markt von übermäßigen Narrativen vorangetrieben wird.

Die aktuellen Daten sind eindeutig: KI hat 75 % des Codes geschrieben, aber nur 11,9 % der Codeänderungen wurden vollständig an die KI übergeben. Diese Lücke selbst ist ein Signal – sie zeigt uns, wie weit die KI von dem Zustand entfernt ist, dass „sie sich selbst verbessert“.

Aber niemand kann eine genaue Antwort darauf geben, wie lange dieses Signal andauern wird. Die Warnungen von Hinton und die Messungen von Google laufen im Wesentlichen auf dasselbe hinaus: Sie bereiten sich auf einen Wendepunkt vor, der niemals eintreten kann oder jederzeit eintreten kann.

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Tech Business“, verfasst von Tech Business, und wird von 36Kr mit Genehmigung veröffentlicht.