StartseiteArtikel

Fable 5 hat den ersten CUDA-"Superkernel" von Hand erstellt und in 2,5 Stunden einen Leistungsschub von 18,7-fachem erreicht

新智元2026-07-07 15:19
Fable 5 schreibt einen super CUDA-Kernel, der mit seiner Leistung alle anderen weit übertrifft und die rekursive Selbstverbesserung der KI einleitet.

【Einführung】Künstliche Intelligenz kann CUDA vollständig von Grund auf entwickeln und die GPU bis an ihre Grenzen ausnutzen! Fable 5 erreicht einen atemberaubenden Geschwindigkeitsvorteil von 18,7-fach und übertrifft GPT-5.5 um mehr als das Vierfache. Der Mitbegründer von Anthropic ruft aus: Die rekursive Selbstverbesserung (RSI) hat begonnen.

Die KI hat tatsächlich den schnellsten Kernel aller Zeiten geschrieben!

In der neuen Benchmark-Testreihe für GPU-Operatoren namens KernelBench-Mega übertrifft Fable 5 alle Konkurrenten mit Leichtigkeit.

Auf einer RTX PRO 6000 erzeugt es CUDA-Code vollständig manuell und erreicht eine Geschwindigkeitssteigerung von 18,7-fach.

Zum Vergleich: Selbst ein starkes Modell wie Claude Opus 4.8 erreicht nur 14,4-fache Geschwindigkeit, während GPT-5.5 lediglich 4,34-fach erreicht.

Fable 5 liegt mehr als das Vierfache vor dem Zweitplatzierten und führt die Rangliste mit deutlichem Abstand an.

Die endgültige Bewertung zu diesem Thema stammt von Jack Clark, Mitbegründer von Anthropic.

Seine Aussage ist kurz und präzise: Dies ist der Beginn des Zyklus der „rekursiven Selbstverbesserung (RSI)“.

Fable 5 erreicht 18,7-fache Geschwindigkeit und übertrifft GPT-5.5 deutlich

Die KI schreibt den weltweit schnellsten Low-Level-Code, der nicht nur menschliche Fähigkeiten in der Geschwindigkeit übertrifft, sondern auch in der „Reinheit“ des Codes das Maximum erreicht.

Man muss wissen, dass KernelBench-Mega kein gewöhnlicher Leistungstest ist.

Es geht nicht mehr nur um die Verbesserung einzelner, isolierter Operatoren, sondern darum, die gesamten Rechenblöcke eines Modells in einen Kernel zu packen und eine tiefe Operator-Fusion durchzuführen –

Die anspruchsvolle Aufgabe in diesem Test war 02_kimi_linear_decode, eine gemischte Dekodierungsaufgabe für Kimi-Linear W4A16 (4-Bit-Gewichte, bf16-Aktivierungen).

Die Regeln sind extrem streng: Jedes Modell hat nur eine einzelne Sitzung zur Verfügung und eine echte Zeitgrenze von 3 Stunden zur maximalen Optimierung.

Das Ergebnis von Fable 5 ist so beeindruckend, dass es die physikalischen Grenzen direkt vor die Augen der Konkurrenten hält:

Fable 5: 18,71-fach

Opus 4.8: 14,4-fach

GPT-5.5: 4,34-fach

Sonnet 5: 4,0-fach

Noch überraschender ist: Je länger der Kontext ist, desto schneller läuft es!

Bei 2K-Kontext liegt es bei 17,8-fach, bei 8K steigt es auf 18,9-fach und bei 16K erreicht es sogar 19,5-fache Geschwindigkeit.

Man muss wissen, dass mit zunehmender Kontextlänge der KV-Cache zwangsläufig wächst und der Rechenaufwand für die Aufmerksamkeitsberechnung pro Token stark ansteigt.

Dies ist normalerweise der Bereich, in dem die Leistung von Dekodier-Kerneln stark einbricht.

Aber Fable 5 packt alle Berechnungen extrem effizient in einen einzigen „Kernel Launch“, wodurch die festen Synchronisationskosten von Barrieren stark reduziert werden;

Gleichzeitig nutzt seine int4-Berechnungseffizienz die maximale Speicherbandbreite der Hardware vollständig aus.

Das Ergebnis: Während andere Modelle an ihre Grenzen stoßen, wird der Abstand zur Basislinie nicht kleiner, sondern wächst mit zunehmender Belastung weiter an.

Der erste „echte Super-Kernel“ aller Zeiten

Was die Experten wirklich erschreckt, ist nicht diese Geschwindigkeit.

Was Fable 5 geschrieben hat, ist der erste echte „Super-Kernel“ (Megakernel) in der Geschichte von KernelBench-Mega.

Ein „Super-Kernel“ bedeutet, dass der gesamte Inferenzprozess in einen einzigen Kernel gepackt und in einem Durchgang ausgeführt wird, ohne Unterbrechungen oder Wechsel.

Dies ist eine der schwierigsten Programmiertechniken in der GPU-Programmierung.

Selbst menschliche Ingenieure haben damit große Schwierigkeiten, und bisher hat kein anderes Modell in der Rangliste dies wirklich erreicht.

Wo liegt seine „Reinheit“?

Mit torch.profiler kann man ein erstaunliches Detail sehen:

Bei der Dekodierung jedes Tokens wird der Kernel von Fable 5 nur „genau einmal“ gestartet.

Int4-Entquantisierung, Faltung, SiLU, KDA-gesteuerter Delta-Zustand, MLA-Aufmerksamkeit mit latenten Variablen, MoE-Routing mit Top-8-Experten, verschiedene RMSNormen und sogar das Schreiben in den KV-Cache –

Alles wird in diesen einen einzigen Aufruf gepackt und in Phasen mit 14 Gitterbarrieren ausgeführt.

Alle anderen Modelle mit hohen Werten müssen die Aufgabe in 4 bis 14 separate Kernel-Starts aufteilen, um sie überhaupt ausführen zu können.

Einmal gegen vierzehn Mal.

Dieser Unterschied ist kein Zufall. Jedes Mal, wenn ein Kernel gestartet wird, muss die GPU anhalten und den Kontext wechseln – die Leerlaufzeiten dazwischen sind vergeudete Zeit.

Während andere Modelle die Aufgabe in Dutzende Schritte aufteilen, erledigt Fable 5 alles in einem Durchgang. Die eingesparte Zeit ist reine Leistungssteigerung.

In 2,5 Stunden mit 550.000 Tokens in einem Durchgang geschrieben

Beim Schreiben des Kernels begann Fable 5 nicht sofort mit dem wilden Tippen von Code.

Während der gesamten Sitzung verbrachte es 64 % der Zeit mit stiller Arbeit – es maß die Basislinie, erstellte Mikro-Benchmarks für die Gitterbarrieren und leitete eine Roofline-Obergrenze von „etwa 29-fachen Bytes pro Token“ ab.

Adresse: https://huggingface.co/datasets/Infatoshi/kernelbench-mega-traces/blob/main/20260701_172615_claude_claude-fable-5_02_kimi_linear_decode.jsonl

Nach diesen Vorbereitungen schrieb es den gesamten Kernel in einem Durchgang und erreichte beim ersten Test direkt 14,4-fache Geschwindigkeit.

Dann nutzte es die letzte Stunde, um Barrieren zu entfernen und die Int4-Entquantisierung so zu optimieren, dass sie fast „kostenlos“ wird – damit steigerte es die Leistung auf 18,7-fach.

Einmal versuchte es eine negative Optimierung, rollte sie nach dem Test sofort zurück, ohne sich zu rechtfertigen – es vertraute nur den Daten.

Der gesamte Prozess dauerte 2,5 Stunden und umfasste etwa 550.000 Tokens.

Der Punkt, der am leichtesten übersehen wird, ist –

Fable 5 ist lediglich die „sichere Version“ des internen Anthropic-Modells Claude Mythos.

Der Zyklus der „selbstverbessernden KI“ hat begonnen

Aus diesem Grund hat Jack Clark, Mitbegründer von Anthropic, in der neuesten Ausgabe von Import AI eine deutliche Bewertung abgegeben –

Dies markiert den offiziellen Beginn des Zyklus der „rekursiven Selbstverbesserung“ (RSI).

Als Untertitel dieser Ausgabe hinterließ er nur einen Satz: Ist dies der Beginn einer neuen Welt?

Seine Logik ist einfach: Die Fähigkeit, Kernel selbst zu entwickeln und zu optimieren, ist eine der grundlegendsten Aufgaben in der KI-Forschung.

Je besser die KI darin ist, Kernel zu schreiben, desto schneller laufen Training und Inferenz; je schneller sie läuft, desto leistungsfähiger wird die nächste Generation; desto leistungsfähiger sie ist, desto besser wird sie wieder Kernel schreiben –

Sobald dieses Schwungrad in Gang kommt, braucht es kaum noch menschliche Unterstützung.

Fable 5 ist nicht nur bei der „Herstellung seiner selbst“ führend – es übernimmt auch bereits menschliche Aufgaben.

Kürzlich ist der Erledigungsgrad von Aufgaben durch KI auf dem Remote Labor Index von 2,5 % bei der Einführung im Oktober 2025 bis Juli 2026 stetig gestiegen.

In weniger als acht Monaten hat sich das Spitzenniveau mehr als vervierfacht.

Clark sagt, dass die Geschwindigkeit, mit der KI ihre wirtschaftlichen Grenzen erweitert, die Geschwindigkeit übertrifft, mit der Menschen ihre „komparativen Vorteile“ neu definieren.

Teils rasante Entwicklung, teils Ehrfurcht

Interessanterweise hat Jack Clark am Ende derselben Ausgabe von Import AI eine Science-Fiction-Geschichte geschrieben –

Eine Welt im Jahr 2050, in der „allgemeine Computer“ von Menschen