Die weltweit erste 2-nm-GPU ist da: Lisa Su präsentiert das „leistungsstärkste KI-Rack“, dessen CPU-Leistung die von NVIDIA übertrifft.

Bericht von Zhidong in San Jose am 23. Juli: Gerade auf der jährlichen AMD Advancing AI-Konferenz hat Dr. Lisa Su, Vorstandsvorsitzende und CEO von AMD, eine Reihe von neuen Produkten vorgestellt: den stärksten KI-Chip von AMD, die Instinct MI455X GPU, die „stärkste Agenten-CPU“ Venice, die „stärkste rackebene KI-Infrastruktur“ Heilos sowie einen speziell für Roboter entwickelten Ryzen-Chip.

Heute kündigt AMD insgesamt 7 wichtige Neuheiten an:

• Die stärkste rackebene KI-Infrastruktur Heilos
• Die stärkste Agenten-Server-CPU „Venice“
• Der Rechenzentrum-KI-Chip MI430
• Die luftgekühlte PCIe-GPU MI350P
• Der KI-Software-Stack ROCm.ai
• Die lokale KI-Entwicklerplattform „Gorgon Halo“
• Das Kria AI Robotersystemmodul & die Entwicklerplattform

Gleichzeitig hat Lisa Su die neueste Roadmap für AMDs GPUs, CPUs und rackebene KI-Infrastruktur vorgestellt.

Bei den GPU-Produkten soll die MI500-Serie im nächsten Jahr erscheinen, mit der nächsten Generation von HBM, die größere Skalierungsnetzwerke für die vertikale Erweiterung unterstützt und neue Kupfer- und Lichtverbindungstechnologien einführt. Die MI600-Serie befindet sich in der Entwicklung und wird 2028 veröffentlicht.

Der Inferenzdurchsatz der nächsten Generation MI500 wird auf über das 2000-fache der MI300X ansteigen.

Bei den Server-CPUs ist die heute vorgestellte sechste Generation „Venice“ AMDs erste Server-CPU mit 2nm-Fertigungstechnik, die erstmals 512 Threads und PCIe 6.0 unterstützt. Die siebte Generation Server-CPU „Florence“ wird einen neuen Fertigungsknoten und neuen Speicher verwenden und voraussichtlich 2028 ausgeliefert. Die achte Generation „Ravenna“ befindet sich in der Entwicklung und soll 2030 auf den Markt kommen.

Für die rackebene KI-Infrastruktur sieht die Roadmap der nächsten drei Jahre wie folgt aus:

• Helios wird heute veröffentlicht und verwendet „Venice“-CPUs, MI455X-Serie-GPUs, Pensando „Vulcano“ AI-NIC und „Salina“ DPU.
• Helios 500 kommt im nächsten Jahr auf den Markt und wird mit „Verano“-CPUs, MI500-Serie-GPUs, Pensando „Como“ AI-NIC und „Monza“ DPU ausgestattet sein.
• Helios 600 soll 2028 ausgeliefert werden und „Ferrara“-CPUs, MI600-Serie-GPUs, Pensando „Palma“ AI-NIC und „Levanzo“ DPU verwenden.

Auf GPU-Seite verwendet die MI455X die 2nm- und 3nm-Fertigungstechnologien von TSMC, basiert auf der CDNA 5-Architektur, verfügt über 320 Milliarden Transistoren, nutzt innovative Chiplet-Technologie, kombiniert 12 Rechen-Chiplets und I/O-Chiplets mit 432 GB HBM4 und verwendet fortschrittliche 3D-Stapelverpackungstechnologie.

Ein kürzlich von Signal65 veröffentlichter unabhängiger Bericht zeigt, dass bei Tests mit mehreren gängigen Open-Source-Modellen unter realen Arbeitslasten der Durchsatz der vorherigen AMD MI355X-GPU nahezu gleich oder sogar höher als der von Nvidias B200 liegt und ein hohes Preis-Leistungs-Verhältnis aufweist.

AMD hat außerdem eine luftgekühlte PCIe-GPU für Unternehmensserver vorgestellt – die Instinct MI350P, die über 144 GB HBM3E, einen Videospeicherbandbreite von ca. 4 TB/s, PCIe 5.0×16 und eine maximale Leistung von ca. 600 W verfügt, die auch auf ca. 450 W konfiguriert werden kann. Eine einzelne Karte kann Modelle mit bis zu 260 Milliarden Parametern unterstützen.

Die Anzahl der pro Sekunde erzeugten Tokens pro Dollar der MI350P ist das 4,2-fache der von Nvidias RTX Pro 4000.

AMD hat intern zwei Szenarien getestet: autonome Bedrohungserkennung und Ausführung persönlicher Agenten. Durch Token-Routing wird ein Teil der Anfragen an fortschrittliche Modelle in der Cloud gesendet, der andere Teil an Open-Weight-Modelle, die auf EPYC und MI350P ausgeführt werden. Dadurch sinken die Token-Kosten um ca. 43 %, und die Antwortgeschwindigkeit lokal ausgeführter Arbeitslasten wird um bis zu 3-fach erhöht.

Diese hybride Architektur, die fortschrittliche Modelle in der Cloud mit lokalen Unternehmensmodellen kombiniert, wird zu einem wichtigen Bereitstellungsansatz für Unternehmens-KI.

Bei der rackebenen KI-Infrastruktur hat AMD Helios detailliert mit dem Rack von Nvidias Vera Rubin verglichen. Helios ist bei FP4-Leistung, FP8-Leistung, HBM-Kapazität und -Bandbreite sowie Bandbreite für die horizontale Erweiterung deutlich überlegen.

Dies sind die gemessenen Leistungsdaten von AMD auf Helios: Die HBM-Bandbreite erreicht 20 TB/s, die FP4-Rechenleistung 20 PFLOPS, die Bandbreite für die vertikale Erweiterung pro einzelner GPU 3,2 TB/s und die Bandbreite für die horizontale Erweiterung 190 GB/s.

Ein AMD-Manager erklärte, dies seien „die höchsten jemals von einem GPU-Hersteller veröffentlichten gemessenen Werte“.

Auf CPU-Seite hat AMD die Leistung von „Venice“ mit den kürzlich diese Woche veröffentlichten Leistungsdaten von Nvidias Vera CPU verglichen: Der Durchsatz von „Venice“ erreicht das 2,2-fache von Vera, und die Leistung pro Kern liegt im Auslieferungszustand ohne Leistungsoptimierung bereits um 20 % vorne.

Ein Rack mit der „weltweit stärksten Agenten-CPU“ ist natürlich auch das „weltweit stärkste Rack für Agenten-CPUs“.

Bei lokaler KI verfügt die hochwertige erweiterte Version „Gorgon Halo“ der AMD Ryzen AI Max 400-Serie über 192 GB einheitlichen Speicher und kann lokal große Modelle mit 300 Milliarden Parametern ausführen.

Bei physischer KI hat AMD die Prozessoren der Ryzen AI Embedded X100-Serie, die Kira AI-Entwicklerplattform für Roboter, das Kria AI-Systemberechnungsmodul und das Kria AI-Softwarepaket für Roboter vorgestellt und sein „Roboter-Freundeskreis“ präsentiert.

AMD betonte außerdem, dass sein eigenes Produktportfolio autonome Roboter von der Steuerung bis zum Gehirn vollständig abdecken kann:

• Kira AI: Das „Gehirn“ des Roboters, zuständig für fortgeschrittene Wahrnehmung und Inferenz.
• Versal AI Edge: Die „Wirbelsäule“ des Roboters, zuständig für Hochgeschwindigkeitsdaten und adaptive Berechnung.
• Zynq UltraScale+: Die „Gelenke“ des Roboters und die Echtzeitsteuerung.
• Spartan UltraScale+: Sensorverbindung und untergeordnete Schnittstellen.