48 Millionen Chips: Zweißigtausend Wörter zur Analyse von Rechenzentren

Kürzlich hat die Semiconductor Industry Association (SIA) in Zusammenarbeit mit Deloitte einen Bericht veröffentlicht, in dem festgestellt wird, dass alle Halbleitertechnologien unverzichtbarer Bestandteil der künstlichen Intelligenz (KI) sind, einen beträchtlichen Anteil am Wert der KI-Infrastruktur ausmachen und in den kommenden Jahren enorme Marktchancen bieten.

Dieser neue Bericht stellt fest, dass Chips mehr als 95 % des Komponentenwerts von führenden KI-Servergestellen ausmachen und über 50 % der gesamten Kapitalausgaben für den Bau und Betrieb von KI-Rechenzentren ausmachen. Die Studie erläutert zudem detailliert, wie KI ein breites Spektrum an Halbleitertechnologien umfasst: Logik, Speicher, Analog- und Basischips. Darüber hinaus prognostiziert der Bericht, dass die jährlichen Einnahmen von Halbleitern für KI-Rechenzentren bis 2028 1,2 Billionen US-Dollar erreichen könnten. Das ist eine fast zehnfache Steigerung in vier Jahren und liegt über 50 % über dem gesamten Halbleiterumsatz für alle Endanwendungen weltweit im Jahr 2025.

Weitere wichtige Ergebnisse des Berichts:

1. KI-Rechenzentren benötigen eine große Menge an Rechenleistung, Speicher, Speicherbandbreite, Stromverteilung und Netzwerkkapazität – all dies wird durch den vollständigen Stapel von Chiptechnologien bereitgestellt;

2. Ein vollständiger KI-Servergestell enthält insgesamt mehr als 4500 verkapselte Chips. Dazu gehören:

(1) Fortschrittliche Logikchips wie KI-Beschleuniger, anwendungsspezifische integrierte Schaltungen (ASIC), feldprogrammierbare Gate-Arrays (FPGA), Zentralprozessoren (CPU), Datenprozessoren (DPU) und Netzwerkchips.

(2) Speicher wie Hochbandweiten-Speicher (HBM), dynamischer und statischer Direktzugriffsspeicher (DRAM und SRAM) sowie nichtflüchtiger Flash-Speicher (NAND).

(3) Analogchips und Basischips wie Leistungssteuerchips, Transceiver, Controller und Sensoren.

Der Bericht analysiert auch zukünftige Markttrends im Bereich der KI-Rechenzentren und konzentriert sich insbesondere auf die schnellen Veränderungen der KI in den kommenden Jahren, die Herausforderungen und Chancen für die Halbleiterindustrie mit sich bringen. Mit der anhaltend schnellen Entwicklung der KI wird der Wettbewerb um die globale Führungsposition immer intensiver, und der technologische Wandel erfordert kontinuierliche Innovation.

Im Folgenden die kompilierte Fassung des Berichtstextes:

Zusammenfassung

Halbleiter sind die Grundlage der künstlichen Intelligenz (KI), einer Technologie, die unsere Wirtschaft und Gesellschaft verändert, ganze Branchen produktiver und innovativer macht und große wissenschaftliche Durchbrüche antreibt.

Heutige KI-Systeme bauen auf jahrzehntelangen Innovationen des gesamten Halbleiterökosystems auf. Mit dem kontinuierlichen Fortschritt der Chiptechnologie wird KI immer leistungsfähiger, energieeffizienter und kostengünstiger. Umgekehrt trägt eine leistungsfähigere KI zur Verbesserung des Chipdesigns, zur Optimierung der Halbleiterfertigung und zur Förderung einer größeren Nachfrage nach verschiedenen KI-Chips bei.

Zusammenfassung der wichtigsten Punkte:

1. Halbleiter sind die grundlegende ermöglichende Technologie für künstliche Intelligenz. Chips bilden die grundlegende Hardwareebene moderner KI-Systeme und nehmen einen wichtigen Platz im Gesamtwert moderner KI-Server ein:

Ein einzelner KI-Servergestell umfasst mehr als 4.500 verkapselte Chips, die aus etwa 20.000 separaten Chips – also einzigartigen integrierten Schaltungen – bestehen.

Halbleiter machen mehr als 95 % des Inhaltswerts von führenden KI-Servergestellen aus und über 50 % der gesamten Kapitalausgaben für den Bau und Betrieb von KI-Rechenzentren.

2. KI erfordert eine vollständige Palette an Halbleitertechnologien.

Um komplexe KI-Trainings- und Inferenzworkloads auszuführen, benötigen heutige KI-Rechenzentren eine große Menge an Rechenleistung, Speicher, Speicherbandbreite, Stromverteilung und Netzwerkkapazität – all dies wird durch die gesamte Palette von Chiptechnologien bereitgestellt. Jede Chiptechnologie ist für den Aufbau von KI in den USA von entscheidender Bedeutung, und Abhängigkeitsprobleme in einem Bereich können diesen Fortschritt behindern. Zu den Chips in KI-Rechenzentren gehören:

Fortgeschrittene Logikchips wie KI-Beschleuniger, anwendungsspezifische integrierte Schaltungen (ASIC), feldprogrammierbare Gate-Arrays (FPGA), Zentralprozessoren (CPU), Datenprozessoren (DPU) und Netzwerkchips.

Speicher wie Hochbandweiten-Speicher (HBM), dynamischer und statischer Direktzugriffsspeicher (DRAM und SRAM) sowie nichtflüchtiger Flash-Speicher (NAND).

Analog- und Basischips wie Leistungssteuerchips, Transceiver, Controller und Sensoren.

3. KI ist der Haupttreiber der Chipnachfrage in der gesamten Halbleiterindustrie.

In einer positiven Rückkopplungsschleife treibt der Fortschritt der KI die Nachfrage nach leistungs- und effizienzstärkeren Halbleitern an, während der Fortschritt der Halbleitertechnologie leistungsfähigere und fortgeschrittenere KI-Systeme ermöglicht.

Um die globale Nachfrage nach neuen KI-Anwendungen zu decken, werden Regierung und Industrie bis 2028 mehr als 4 Billionen US-Dollar in den Bau neuer Rechenzentrumsinfrastruktur investieren, davon bis zu 2,8 Billionen US-Dollar in Halbleiter.

Bis 2028 könnte die jährliche Einnahme von in KI-Rechenzentren eingesetzten Halbleitern über 1,2 Billionen US-Dollar betragen, was einer fast zehnfachen Steigerung in vier Jahren entspricht.

Der Markt für KI-Rechenzentren erlebt ein beispielloses Wachstum, es wird erwartet, dass die durchschnittliche jährliche Wachstumsrate (CAGR) zwischen 2022 und 2028 88,8 % beträgt. Obwohl das anfängliche Wachstum durch die rasche Verbreitung der generativen KI angetrieben wird, bleibt die anhaltende Nachfrage stark, es wird eine CAGR von 56,3 % zwischen 2025 und 2028 erwartet.

Die gesamte Halbleiterlieferkette unterstützt den Aufbau der KI-Infrastruktur. Ohne Halbleiter gibt es keine künstliche Intelligenz. Um diese transformative Technologie anzuführen, müssen Regierung und Industrie zusammenarbeiten, relevante Politik vorantreiben, die umfassende Entwicklung und Innovation im Bereich der Chiptechnologie beschleunigen und eng mit globalen Partnern zusammenarbeiten, um eine starke und widerstandsfähige Lieferkette aufzubauen.

Die vielen Chips im Kern der künstlichen Intelligenz

In den letzten Jahren hat die künstliche Intelligenz (KI) ein explosionsartiges Wachstum erlebt, und die Personen, die KI-Modelle trainieren und einsetzen, stehen im Mittelpunkt der Aufmerksamkeit. Eine Vielzahl von Halbleitern sind das Rückgrat und die ermöglichende Technologie des KI-Hardwarestapels; Fortschritte in der Chiptechnologie haben die Verarbeitungsleistung, die Recheneffizienz und die Gesamtleistung von KI-Anwendungen verbessert. Halbleiter sind die Grundlage von KI-Systemen, die in alltägliche digitale Erfahrungen eingebettet sind.

Dieser Bericht bietet durch die virtuelle Zerlegung des modernsten KI-Datenservers – der Grundeinheit der modernen KI-Infrastruktur – einen einzigartigen Einblick in die verschiedenen Chips, die den Kern der KI-Infrastruktur bilden. Im Gegensatz zu traditionellen Analysen, die nur auf Systemebene Leistung oder Marktgröße betrachten, untersucht dieser Bericht eingehend die Halbleiterkomponenten in jedem Subsystem des Servers und zeichnet die Verteilung der Chips, Die und Komponenten auf, die die heutigen Rechenzentren antreiben.

Wir ergänzen diese Analyse weiter und konzentrieren uns darauf, wo der Wert in diesen Serversystemen konzentriert ist und welche Technologien entscheidend sind – von der Spitzenlogik, die auf führenden Technologieknoten aufbaut, bis hin zu Komponenten aus ausgereiften Knoten wie Stromverwaltungsschaltungen (PMIC), elektrisch löschbaren programmierbaren Nurlespeichern (EEPROM), Verbindungshalbleitern und Mikrocontrollern – alle sind für die Funktionsfähigkeit von KI-Systemen und -infrastruktur von entscheidender Bedeutung.

Chipinnovation treibt die Entwicklung der künstlichen Intelligenz an

Obwohl künstliche Intelligenz wie eine moderne Technologie erscheint, gehen ihre Grundlagen auf jahrzehntelange Fortschritte der Spitzenrechenleistung zurück. Damals wurden die Funktionen der künstlichen Intelligenz letztendlich durch Hardwarebeschränkungen begrenzt.

In den letzten Jahren haben Umfang und Komplexität in den Bereichen Logik, Speicher, Netzwerk, Stromversorgung und Wärmeabfuhr kontinuierlich zugenommen, was den Weg für die breite Bereitstellung von leistungsstarken KI-Systemen geebnet hat.

Diese technologischen Fortschritte haben den Aufstieg von KI-Rechenzentren beschleunigt. Traditionelle Rechenzentren existieren seit Jahrzehnten für die Verwaltung von Unternehmens-IT-Betrieben, Website-Hosting und Speicherung, während moderne KI-Rechenzentren eine grundlegende Spezialisierung der Fähigkeiten und keine schrittweise Entwicklung darstellen. Jeder KI-Servergestell integriert eine Reihe komplexer fortschrittlicher Halbleiterbauelemente, die sorgfältig entwickelt wurden, um Parallelverarbeitung, Datennähe und Skalierbarkeit zu unterstützen. Ein KI-Servergestell besteht aus etwa 20.000 separaten Halbleiterchips, die in mehr als 4.500 Chips verkapselt sind. Dazu gehören Logikprozessoren mit hohem Durchsatz, Speichersubsysteme mit extrem geringer Latenz, Stromverwaltungseinheiten und Netzwerkkomponenten.

Halbleiter machen etwa 95 % des Inhaltswerts eines modernen KI-Servergestells aus. Jeder Servergestell in einem KI-Rechenzentrum umfasst mehr als 4500 Chips, die wiederum aus etwa 20.000 separaten Halbleiterchips bestehen. Ein modernes Rechenzentrum kann mehr als 45 Millionen Chips aufnehmen.

Da Organisationen in allen Branchen konkurrieren um die Bereitstellung von KI-gesteuerten Lösungen, ist die Nachfrage nach KI-Rechenzentrumskapazität und damit nach fortschrittlichen Halbleitern explodiert. Die Auswirkungen dieser Nachfragesteigerung wirken sich auf die gesamte Halbleiterwertkette aus.

Chipdesigner stehen unter Druck, Innovationszyklen zu verkürzen und häufiger neue Generationen von Spitzenbauteilen auf den Markt zu bringen. Gleichzeitig müssen Hersteller erhebliche Modernisierungen der Fertigungstechnologie durchführen, um dem Sprung der Leistungsanforderungen durch KI-Workloads gerecht zu werden. Diese Workloads überschreiten die Grenzen von Hardware der vorherigen Generationen und offenbaren zentrale Probleme bei der Architekturoptimierung, der Wärmeabfuhr und der Datenübertragung über große Systeme hinweg. Um diesen Herausforderungen zu begegnen, entwickeln Chiphersteller gemeinsam Hardware und Software und arbeiten an einer engeren Integration von Speicher und Rechenleistung, wodurch innovative Verpackungstechnologien entwickelt werden, die Konfigurationen mit hoher Dichte und hoher Bandbreite ermöglichen.

Dies ist ein sich selbst verstärkender Innovationszyklus zwischen Halbleitern und künstlicher Intelligenz: Fortschritte bei Halbleitertechnologien und KI-Systemen haben einen immer komplexeren Entwicklerökosystem hervorgebracht, der wiederum immer leistungsfähigere KI-Systeme und Halbleitertechnologien erfordert. Mit der zunehmenden Komplexität des Entwicklerökosystems wächst die Größe der KI-Modelle ständig, was mehr Daten, schnellere Verarbeitung, engere Abstimmung zwischen Systemen und mehr Rechenleistung erfordert und damit ständig die Belastungsgrenzen vorhandener Chips und Systeme herausfordert. Dies hat zu einer Wende hin zu einer hohen Spezialisierung im Halbleiterdesign geführt, einschließlich effizienterer und leistungsstärkerer Prozessoren, spezialisierterer Speicherstapel und Hochgeschwindigkeitsverbindungen, die verteilte KI-Workloads unterstützen können. Tatsächlich nutzen Halbleiterdesigner und Hersteller zunehmend KI-Methoden, um die Entwicklung von Produkten der nächsten Generation voranzutreiben.

In diesem Bericht erwähnen wir häufig zwei Hauptarten von KI-Workloads – Training und Inferenz, die unterschiedliche Phasen der KI-Berechnung darstellen und die Art und Weise beeinflussen, wie Chips entworfen werden. Lassen Sie uns diese beiden Workloads anhand eines einfachen Beispiels klarer verstehen:

Training ist der Prozess, bei dem ein Modell trainiert wird, indem ihm ein großer Datensatz gezeigt wird. Um zum Beispiel ein Katzenidentifikationsmodell zu bauen, muss man einem neuronalen Netzwerk möglicherweise tausende von Bildern von Katzen und Nicht-Katzen zeigen. Durch wiederholtes Darstellen lernt das Modell, Muster wie Ohren, Schnurrhaare oder Körperform zu erkennen und so Katzen von anderen Objekten zu unterscheiden.

Inferenz ist die Anwendung des trainierten Modells auf neue, ungesehene Daten. Nehmen wir das Katzenbeispiel weiter: Sobald das Modell trainiert ist, kann es ein neues Bild einer Katze generieren.

Kurz gesagt: Training ist der Lernprozess des Modells, während Inferenz die Art und Weise ist, wie das Modell sein Wissen in der realen Welt anwendet, z. B. durch Generieren von Abfrageantworten, Treffen von Vorhersagen oder Erkennen von Mustern.

Klassifizierung von Halbleiter-KI-Chips

KI-Servergestelle sind auf das Zusammenspiel verschiedener Halbleitertechnologien angewiesen, die jeweils speziell entwickelt wurden, um die strengen Anforderungen moderner KI-Workloads zu erfüllen (Abbildung 3).