Die KI beginnt, ihre eigenen Chips für sich selbst herzustellen, OpenAI hat für den gesamten Prozess von Null bis zur Produktion nur neun Monate benötigt.

Die „Chip-Eigenentwicklung“ ist mittlerweile zu einem allgemeinen Trend geworden.

OpenAI hat die Ergebnisse der ersten öffentlichen Testphase von Jalapeño, dem ersten gemeinsam mit Broadcom selbst entwickelten KI-Inferenzchip, veröffentlicht.

Auf dem öffentlichen Benchmark-Test InferenceX von SemiAnalysis führte Jalapeño die drei Modelle GPT-OSS 120B, DeepSeek R1 670B und Kimi K2.5 1T aus. Die Ergebnisse zeigen, dass Jalapeño 1,5 bis 1,9 Mal mehr KI-Arbeit pro Watt erledigt als Nvidias GB200 und GB300, und die End-to-End-Latenz auf etwa 30 % bis 60 % des Vergleichssystems sinkt.

Bei der Ausführung von DeepSeek R1 sank die Inferenzzeit für eine Eingabe von 8K und eine Ausgabe von 1K von 5,99 Sekunden auf 1,65 Sekunden, während das minimale Token-Intervall von 5,90 ms auf 1,43 ms reduziert wurde.

Mit Jalapeño könnte es in Zukunft auf ChatGPT nicht nur den „Schnellmodus“ mit 1,5-facher Ausgabegeschwindigkeit geben: Wenn man bereit ist, mehr zu investieren, ist auch eine 3-fache Geschwindigkeit durchaus realisierbar.

Die überragende Leistung ist so offensichtlich, dass Sam Altman sich sehr kurz gefasst hat, als er darüber sprach:

„Wir haben einen Chip gebaut, der sehr schnell ist.“

Der beliebte scharfe Chili, geboren für die Inferenz

Im Gegensatz zu allgemeiner einsetzbaren GPUs verfolgte Jalapeño von der Designphase an nur ein einziges Ziel: Den Inferenzanteil moderner großer Modelle zu übernehmen.

Dieses Ziel steht in engem Zusammenhang mit der aktuellen Beliebtheit von KI-Agenten.

Wer schon einmal die Aufgabenketten von arbeitenden Agenten beobachtet hat, merkt schnell, dass ein einzelnes Aufgabe oft Dutzende aufeinanderfolgende Modellaufrufe erfordert: Dateien lesen, Informationen suchen, Software bedienen, Ergebnisse prüfen und dann die nächsten Arbeitsschritte basierend auf den Ergebnissen durchführen.

Die kumulierte Inferenzlatenz jedes einzelnen Schritts führt dazu, dass Agenten selbst für nicht allzu komplexe alltägliche Aufgaben viel Zeit verbrauchen.

Genau deswegen ist die Startoberfläche von ChatGPT in die Bereiche „Chat“ und „Arbeit“ unterteilt —

Einfache alltägliche Fragen können schnell ausgegeben werden, während komplexe Aufgaben, die Agenten erfordern, separat behandelt werden müssen, damit Agenten, die „zu viel nachdenken“, die alltägliche Nutzungserfahrung nicht verlangsamen.

Wenn Agenten schneller inferieren können, nähert sich ihre Antwortgeschwindigkeit immer mehr der eines normalen Chats an. Prinzipiell kehrt ChatGPT dann zu seiner ursprünglichen Form zurück: Auf der Startseite gibt es nur noch ein einziges Dialogfeld, ohne dass Chat- und Arbeitsmodus extra getrennt werden müssen.

Um die Inferenzgeschwindigkeit weiter zu steigern, wurde Jalapeño bereits in der Designphase speziell auf die tatsächliche Last von Großmodell-Inferenzen optimiert.

Wie allgemein bekannt ist, liegt bei allen Chips nach von-Neumann-Architektur die Rechengeschwindigkeit weit über die Geschwindigkeit des Datentransports.

In unserem Artikel vor zwei Tagen haben wir ein Gleichnis verwendet: Selbst wenn das Schneiden und Wenden von Zutaten in der Küche blitzschnell funktioniert, kann der schnellste Koch nur am leeren Herd warten, wenn der Transport der Zutaten nicht Schritt hält.

Xiaomi hat das komplette Sortiment seines neuen Xuanjie-KI-Chips vorgestellt und zudem das neue große Falt-Handy „Wide Fold“ offiziell angekündigt.

Der Inferenzprozess von großen Modellen gliedert sich hauptsächlich in zwei Phasen: Die erste Phase ist das Prefill, bei dem der Chip das gesamte Eingabeprompt des Benutzers auf einmal verarbeitet und hauptsächlich die Rechenkapazität getestet wird. Die zweite Phase ist das Decode, bei dem das Modell Token für Token generiert. Bei diesem Schritt müssen wiederholt Gewichte und KV-Cache aus dem Speicher gelesen werden, was unweigerlich auf die „Speicherwand“ stößt, bei der die Datentransportgeschwindigkeit nicht mit der Rechengeschwindigkeit Schritt hält.

Bild | OpenAI

Das bedeutet: Um die Obergrenze der Rechenleistung zu erreichen, muss man wie OpenAI bei der Gestaltung von Jalapeño Rechenkerne, HBM-Speicher und interne Netzwerke gemeinsam entwerfen, um die Zeit für das Datenlesen so weit wie möglich zu reduzieren.

Laut Angaben von SemiAnalysis ist Jalapeño mit 216 GiB HBM4 ausgestattet, die Speicherbandbreite erreicht 15,4 TB/s. Dieser Wert liegt fast doppelt so hoch wie bei Microsofts Maia 200 und Googles Ironwood. Eine so aggressive Bandbreite sorgt dafür, dass die Daten mit der Berechnung Schritt halten können, und die theoretische Rechenleistung, die sonst durch Datenwartezeit verschwendet würde, wieder nutzbar gemacht wird.

Bild | SemiAnalysis

Zusätzlich sind bei Jalapeño Rechenkerne und HBM in mehrere einander zugeordnete Bereiche unterteilt, sodass Modellgewichte und KV-Cache möglichst im lokalen Speicher des sie verarbeitenden Bereichs verbleiben. Wenn eine Synchronisation zwischen verschiedenen Bereichen erforderlich ist, werden die Daten über ein spezielles Hochgeschwindigkeits-Kommunikationsnetz transportiert. Dadurch werden die Schritte des wiederholten Hin- und Hertransports von Daten zwischen Kernen, Speichern und Chips reduziert, und die Wartezeit der Recheneinheiten auf Daten wird verringert.

Bild | SemiAnalysis

Da Rechen-, Speicher- und Netzwerkressourcen bereits in der Anfangsphase des Chipdesigns berücksichtigt wurden, erreicht Jalapeño ein erstaunliches Energieeffizienzverhältnis: Seine Nennleistungsaufnahme beträgt 700 W, die dauerhafte Leistungsaufnahme im Praxistest liegt sogar unter 550 W. Zum Vergleich: Die Nennleistungsaufnahme von Nvidias GB200 und GB300 beträgt 1200 W bzw. 1400 W.

Das heißt, Jalapeño erreicht mit etwa der Hälfte des Energieverbrauchs von Nvidia-Chips eine höhere Inferenzleistung.

Energie bedeutet Strom, und Strom bedeutet bares Geld. Angesichts des enormen täglichen Rechenbedarfs von Rechenzentren kann jede Verbesserung des Energieeffizienzverhältnisses die Kosten für die Rechenleistung von OpenAI deutlich senken.

Bild | Computex 2026 Keynote

OpenAI plant, Jalapeño bis Ende des Jahres in seine Recheninfrastruktur einzubinden. Gleichzeitig befindet sich die zweite Generation des Produkts bereits in der mittleren Entwicklungsphase, und die dritte Generation nimmt bereits Gestalt an.

Mit der breiten Nutzung von Jalapeño dürfen wir auch erwarten, dass Tibo den „Zurücksetzen“-Knopf häufiger drücken wird.

Drei Jahre für die Chipentwicklung, neun Monate für den Tapeout

Die „Geschwindigkeit“ von Jalapeño zeigt sich nicht nur in der Leistung, sondern auch in seinem Design- und Herstellungsprozess, der für ein Halbleiterprodukt ungewöhnlich schnell ist.

Laut Berichten von Reuters begann dieses Projekt offiziell etwa zwischen Ende 2024 und Anfang 2025, viele der ursprünglichen Teammitglieder kamen aus dem Google-TPU-Projekt.

Ein Jahr davor hat OpenAI bereits den ehemaligen Leiter des Google-TPU-Projekts Richard Ho eingeladen, ein Hardware-Team aufzubauen —

Offensichtlich hat OpenAI die Bedeutung eigener Chips schon lange erkannt, noch bevor Gemini mit eigener TPU-Rechenleistung zeitweise die Konkurrenz überholte.

Schließlich wurde das Projekt im vergangenen Oktober offiziell vorgestellt: Damals kündigte OpenAI an, gemeinsam mit Broadcom 10 GW an maßgeschneiderten KI-Beschleunigern einzusetzen, um „Forschungserfahrungen mit Spitzenmodellen und Produkten direkt in die Hardware einzubringen“. Die Nachricht vom offiziellen Tapeout des Chips kam im vergangenen November.

Zusammengenommen mit den Angaben aus dem offiziellen Blogbeitrag im Juni, wonach das Projekt vom ersten Design bis zum Tapeout nur 9 Monate brauchte, der Schätzung von Reuters, wonach vom Tapeout bis zum fertigen Chip etwa 6 Monate vergehen, und der Angabe von SemiAnalysis, wonach OpenAI vor dem offiziellen Test im August nur etwa 3 Monate für das Einschalten und Debuggen des Chips benötigte, lässt sich ein klarer Zeitablauf zusammenstellen:

Jalapeño trat etwa im Februar 2025 in die offizielle Designphase ein, schloss den Tapeout im November ab, im Mai dieses Jahres erhielt OpenAI den ersten fertigen Chip, und im August wurde das Debuggen abgeschlossen und der öffentliche Test gestartet.

Jeder Schritt wurde mit Hochdruck vorangetrieben und näherte sich der Obergrenze der Chipdesign-Geschwindigkeit.

Laut Schätzungen von Semiconductor Engineering dauert die Entwicklung eines KI-Beschleunigers mit der hohen Komplexität von Jalapeño vom offiziellen Design bis zum Tapeout normalerweise 18 bis 24 Monate. OpenAI hat den offiziellen Designzyklus auf neun Monate verkürzt, was fast doppelt so schnell ist — es ist das beste Beispiel für das rasante Wachstum im KI-Zeitalter.

Ein Schlüsselfaktor für diese Geschwindigkeit ist die KI selbst.

Mit den Worten von OpenAI hat die KI direkt an der Entwicklung von Jalapeño mitgewirkt.

Ihre Modelle wurden während der Designphase verwendet, um Implementierungslösungen zu erforschen, an der Prüfung und Änderung von Lösungen mitzuwirken und die arithmetischen Schaltkreise des Chips zu optimieren. Nachdem die fertigen Chips im Labor eingetroffen waren, hat OpenAI mit Codex und dem noch unveröffentlichten Astra-Modell innerhalb von zwei Monaten die Anpassung mehrerer Modelle wie GPT-OSS, DeepSeek R1 und Kimi K2.5 abgeschlossen, die ursprünglich nicht im Anpassungsplan für Jalapeño vorgesehen waren.

Als Kennzeichen und Produkt des „Zeitalters der großen Beschleunigung“ verkürzt die KI den Entwicklungsprozess von Chips stark. Die zweite und dritte Generation von Jalapeño sowie spezielle Chips anderer Großmodell-Hersteller werden voraussichtlich in den nächsten Jahren auf den Markt kommen.

Warum entwickeln fast alle Modellhersteller ihre eigenen Chips?

Die Einführung von Jalapeño ist zwar beeindruckend, aber OpenAI ist nicht der erste Akteur, der den Weg der Eigenentwicklung von Chips beschreitet.

Viele der ursprünglichen Mitarbeiter dieses Projekts kamen aus dem Google-TPU-Projekt, das vor zehn Jahren erstmals in Rechenzentren eingesetzt wurde und mittlerweile bereits die achte Generation erreicht hat.

Bereits die sie