Chipschwergewichte haben alle in dieses Optikunternehmen investiert.
Im Dezember 2024 kündigte der junge Lichtchips-Designer Ayar Labs die erfolgreiche Durchführung einer Serie-D-Finanzierung in Höhe von 155 Millionen US-Dollar an. Die Liste der Investoren dieser Runde ist beeindruckend: Neben den Lead-Investoren Advent Global Opportunities und Light Street Capital gehören Nvidia, AMD, Intel, GlobalFoundries, das Partnerschaftsprogramm VentureTech Alliance von TSMC und 3M sowie andere Branchenriesen dazu.
In letzter Zeit hat das Unternehmen außerdem eine Finanzierung in Höhe von rund 500 Millionen US-Dollar erhalten. Die Investoren umfassen Neuberger Berman, MediaTek und die Investmentbehörde Katar. Diese Runde hat den Schätzwert des diskreten Unternehmens auf 3,8 Milliarden US-Dollar gebracht.
Was macht dieses nur seit zehn Jahren gegründete Start-up so attraktiv, dass es die Gunst von Chipriesen wie Nvidia, Intel, AMD und MediaTek gewann und sie dazu brachte, ihre Differenzen beiseite zu legen und gemeinsam zu investieren?
Von dem MIT-Labor zum Silicon Valley-Unicorn
Die Geschichte von Ayar Labs begann im Jahr 2011 mit einem interuniversitären Forschungsaufbau, der aus der Massachusetts Institute of Technology (MIT), der University of California, Berkeley und der University of Colorado bestand. Ihr Forschungsziel war klar: Wie kann man die Grenzen der Chip-Rechenleistung überwinden, wenn diese an ihre physikalischen Grenzen stößt?
Damals schuf der Erfolg des Moore'schen Gesetzes in der Computergruppe ein interessantes Paradoxon - die Prozessoren waren die meiste Zeit im Leerlauf. Die Chips übertragen Daten über Kupferleitungen, aber die Übertragungsgeschwindigkeit von Kupfer hat eine physikalische Obergrenze, und die Hersteller neuer Chips nähern sich dieser Grenze. Mit der zunehmenden Nutzung von Machine Learning und Big Data in kommerziellen Anwendungen wird dieses Problem immer deutlicher. Das Forschungsteam stellte fest, dass sich zwar die Rechenleistung stetig verbessert, aber die Verbundenheit der elektronischen Kommunikation und die Bandbreite des Speichers nicht Schritt halten können. Um die physikalischen Grenzen der elektronischen Kommunikation zu überwinden, wird "Licht" benötigt.
Drei Kernmitglieder des Forschungsprojekts - Chen Sun, Mark Wade und Vladimir Stojanovic - wurden später Mitbegründer von Ayar Labs und traten als Chefwissenschaftler, CEO und Cheftechnologiewissenschaftler in die Firma ein. Im Jahr 2015 trafen sie an der MIT Sloan School of Management auf die vierte Mitbegründerin, Alex Wright-Gladstein. Diese Unternehmerin, die ein MBA absolvierte und zuvor in der Reinigungstechnologie arbeitete, erkannte schnell, dass viele Menschen großartige Dinge erfinden können, aber nicht wissen, wie sie diese auf den Markt bringen können.
Im MIT Clean Energy Entrepreneurship Competition traten die Vier mit ihrer OptiBit-Technologie für optoelektronische Chips an und gewannen zwei Gesamtsiege sowie 275.000 US-Dollar Preisgeld. "Dieses Geld hat uns in der Anfangsphase ermöglicht, uns ein bescheidenes Gehalt zu verdienen und uns vor der Suche nach Risikokapital etwas Zeit zu nehmen. Das hat uns alle dazu gebracht, uns für den Unternehmenserfolg zu entscheiden", erinnert sich Wright-Gladstein.
Aber in den ersten drei Jahren des Unternehmenslebens wurde Ayar Labs von über hundert Investoren abgelehnt. Obwohl Silicon Valley auf der Grundlage von Siliziumchip-Halbleitern aufstieg, war die Gründung von Hardware-Unternehmen im Bereich Deep Tech in den 2010er Jahren nicht so beliebt. Mark Wade und sein Team ließen sogar den Begriff "Siliziumphotonik" in ihren Präsentationen bewusst weg, um die Investoren zu verstehen - "heute ist es natürlich ein beliebter Begriff, aber damals war es etwas zu revolutionär".
Von Morgen bis Abend war Mark Wade an der Sand Hill Road, in San Francisco, Palo Alto und Mountain View unterwegs, um Investoren zu treffen. Nach 17 Uhr gehörte die Zeit dem "Chip-Workshop" des Teams. "Es war eine unvergessliche und unglaubliche Zeit. Ich weiß bis heute nicht, wie ich das geschafft habe", sagt Wade.
Schließlich war es der von Peter Thiel, Mitbegründer von PayPal, gegründete Founders Fund, das Ayar Labs das erste Mal unterstützt hat. Im Jahr 2018 führte Playground Global die Serie-A-Finanzierung von Ayar Labs in Höhe von 24 Millionen US-Dollar an. Das Team hatte endlich das Kapital, um die Forschung und Entwicklung zu beschleunigen. Obwohl dies im Vergleich zu den Forschungskosten in der Halbleiterindustrie nur ein Tropfen auf den heißen Stein war, nutzte das Team das Geld sehr sorgfältig. Sie installierten die ersten Computer-Aided-Design-Server (CAD-Server) im Büro und entwickelten den ersten Siliziumphotonik-Chip des Teams.
"Ich wusste immer, dass die Chips irgendwann an ihre physikalischen Grenzen stoßen würden, aber ich hätte nicht gedacht, dass es die KI vorantreibt", sagt Mark Wade. Als das Unternehmen 2015 gegründet wurde, war man sich nicht sicher, ob die Siliziumphotonik-Technologie funktionieren würde oder ob das, was man tat, jemals realisiert werden würde. Man wollte einfach nur das Problem der Datenübertragungsgrenze in der Hochleistungsrechnung (HPC) lösen.
Zehn Jahre später, im Jahr 2024, hat Ayar Labs endlich seinen Augenblick erreicht. Das Unternehmen hat bereits etwa 15.000 Geräte an einige Kunden ausgeliefert und plant, bis Mitte 2026 die Massenproduktion von Chips zu starten. Ab 2028 könnte die jährliche Auslieferung mehr als 100 Millionen Geräte betragen. Heute besteht das Team aus Spitzentechnikern von Intel, IBM, Micron, der MIT, Berkeley und Stanford und hat strategische Partnerschaften mit GlobalFoundries, Applied Materials, TSMC, Intel und Nvidia sowie anderen Hauptherstellern eingegangen.
TeraPHY+SuperNova
Bevor wir uns mit der Technologie von Ayar Labs befassen, sollten wir uns zunächst mit den grundlegenden Herausforderungen befassen, denen die KI-Infrastruktur gegenübersteht.
Mit der exponentiellen Zunahme der Komplexität und Größe von generativen KI-Modellen steigt die Nachfrage nach großen Rechenclustern stetig. Diese Rechenanlagen müssen normalerweise Hunderte oder sogar Tausende von GPUs und anderen Beschleunigern verbinden. Die Erweiterung der KI-Infrastruktur steht jedoch vor der Dreifaltigkeit von Bandbreite, Latenz und Stromverbrauch. Diese Herausforderungen werden hauptsächlich durch die traditionellen Kupfer-basierten Interconnect-Technologien verursacht.
Die Datenübertragungsgrenze beschränkt die Leistung der GPUs und führt zu einer abnehmenden Rendite der Investitionen. Genauer gesagt kann die Betriebseffizienz einer einzelnen GPU bis zu 80 % betragen, sinkt jedoch auf 50 %, wenn 64 GPUs eingesetzt werden, und auf nur 30 %, wenn 256 GPUs eingesetzt werden. Dies verringert nicht nur die Gesamtsystemeffizienz, sondern behindert auch die umfassende Verbesserung der Rechenleistung in den Rechenzentren und beschränkt den Fortschritt der KI-Technologie. Rob Ober, Chefplattformarchitekt für Nvidia's Rechenzentrenprodukte, meint, dass Nvidia in den letzten zehn Jahren die KI um das Millionfache beschleunigt hat. Die nächste Millionfache Beschleunigung erfordert jedoch neue Technologien wie optische I/O, um die Bandbreiten-, Leistungs- und Größenanforderungen zukünftiger KI/ML-Workloads und Systemarchitekturen zu erfüllen.
Um diese Herausforderung zu bewältigen, hat Ayar Labs die erste optische I/O-Lösung innerhalb des Package auf dem Markt eingeführt. Der Kern dieser Lösung besteht aus zwei komplementären Produkten: dem TeraPHY optischen I/O-Chiplet und der SuperNova Mehrwellenlängen-Lichtquelle.
TeraPHY
Das TeraPHY optische I/O-Chiplet ist das Kernprodukt von Ayar Labs und der erste monolithische optische I/O-Chip innerhalb des Package auf dem Markt. Es ist hauptsächlich für die Umwandlung und Übertragung von optischen und elektrischen Signalen verantwortlich und bietet eine miniaturisierte, energieeffiziente und hochleistungsfähige Lösung als Ersatz für traditionelle Kupferrückplatten und steckbare optische Kommunikationsgeräte.
Das Besondere an diesem Chip ist, dass es zum ersten Mal die Siliziumphotonik-Technologie mit dem Standard-CMOS-Herstellungsprozess kombiniert und die optische Verbindung mit elektronischen GPUs oder CPUs in einem Package integriert. Es kann nahtlos in die System-in-Package (SiP)-Architektur der Kunden integriert werden, sodass anwendungsspezifische integrierte Schaltungen (ASICs) über Entfernungen von Millimetern bis Kilometern nahtlos kommunizieren können. Dies minimiert die Signallverluste und Latenzzeiten und ist besonders nützlich für verteilte KI-Systeme und Cloud-Computing-Umgebungen.
Von der technischen Architektur her besteht TeraPHY aus etwa 70 Millionen Transistoren und über 10.000 optischen Komponenten und umfasst hauptsächlich die folgenden Module:
Beugungsgitterkoppler (Grating Coupler Fiber Coupling Array): Verantwortlich für die Ein- und Ausgabe von optischen Signalen.
Optischer Transceiver: Hauptsächlich für die Modulation und Umwandlung von optischen und elektrischen Signalen verantwortlich. Er besteht aus Mikroringmodulatoren (Micro-ring Modulators) und Mikroringfiltern (Micro-ring Filter). Der Mikroringmodulator ist für die Modulation des erforderlichen optischen Signals verantwortlich, während der Mikroringfilter das empfangene optische Signal verarbeitet. Es ist erwähnenswert, dass der Mikroringmodulator der Kernvorteil von TeraPHY ist - er löst erfolgreich das Problem der Temperatursensitivität und der Signalstabilität und ermöglicht die genaue Ausgabe eines optischen Signals mit einer bestimmten Wellenlänge im Temperaturbereich von 15 bis 100 °C.
AIB (Advanced Interface Bus): Verantwortlich für die elektrische Verbindung zwischen den Chips.
Glue/Crossbar: Fungiert als Brücke zwischen dem optischen Transceiver und dem AIB.
Dank seiner modularen Mehrport-Design kann TeraPHY 8 optische Kanäle unterstützen, was einer x8 PCIe Gen5-Schnittstelle entspricht und die Anforderungen von generativen KI-Modellen an die Massenparallelverarbeitung erfüllt. Seine Gesamtbidirektionalbandbreite von 4 Tbps und die Hochgeschwindigkeitsübertragungsleistung von 256 Gbps pro Port ermöglichen eine schnelle Datenübertragung und beschleunigen den Trainingsprozess und die Inferenz von KI-Modellen. Darüber hinaus könnte die Bandbreite dieses Chips alle paar Jahre verdoppelt werden.
Die niedrige Latenzzeit von 5 ns trägt zur Verbesserung der Datenverarbeitungsgeschwindigkeit und zur Optimierung der generativen KI-Erfahrung bei. Wichtig ist auch, dass TeraPHY eine Standard-UCIe (Universal Chiplet Interconnect Express)-elektrische Schnittstelle verwendet, was bedeutet, dass "jeder Chiphersteller es installieren und einen optischen Konverter haben kann". Wenn ein GPU mit einem anderen GPU kommuniziert, weiß es nicht einmal, dass es das Package verlässt - diese Transparenz ist für die Massenimplementierung von entscheidender Bedeutung.
SuperNova
Wenn TeraPHY der Konverter für optische Signale ist, dann ist SuperNova die Lichtquelle. Dieser unabhängige Laser erzeugt genau mehrere Wellenlängen von Photonen und kann als Lichtquelle außerhalb des ASIC-Package angesehen werden. In der praktischen Implementierung arbeitet SuperNova in Zusammenarbeit mit TeraPHY.
SuperNova wurde von Ayar Labs und MACOM (einer der Spitzendesigner von DFB) gemeinsam entwickelt und von dem britischen Laserhersteller Sivers Photonics hergestellt. Es ist die erste Mehrwellenlängen- und Mehrport-Lichtquelle, die den CW-WDM MSA (Coarse Wavelength Division Multiplexing Multi-Source Agreement)-Standard erfüllt. Sie kann bis zu 16 Wellenlängen von Licht auf 16 Fasern übertragen, was einen weiteren wichtigen Schritt in der optischen I/O-Technologie darstellt.
Jede Faser kann bis zu 16 Wellenlängen übertragen, sodass 256 optische Träger angetrieben werden können und eine bidirektionale Bandbreite von 16 Tbps zur Verfügung gestellt wird, was die Bandbreitenanforderungen von KI-Workloads erfüllt. Die Anzahl der Wellenlängen ist das 64-fache von CWDM4-Mehrwellenlängen-steckbaren optischen Geräten, und die Integration mehrerer Wellenlängen in einem einzigen Array vereinfacht das Package und senkt die Package-Kosten, was ein wichtiger Vorteil für die Massenimplementierung von KI-Systemen ist.
Darüber hinaus erfüllt SuperNova die CW-WDM MSA-Spezifikationen und die GR-468-Anforderungen an die Zuverlässigkeit von optoelektronischen Geräten und steckbaren optischen Geräten und kann in Bereichen wie KI-Architekturen, Hochgeschwindigkeits-I/O, optischer Rechnung und hochdichten ko-package-optischen Geräten weit verbreitet eingesetzt werden.
Laut den Informationen von Ayar Labs bietet seine optische I/O-Lösung im Vergleich zu traditionellen steckbaren optischen Geräten und elektrischen SerDes-Verbindungen deutliche Vorteile:
Bandbreitensteigerung um das 5- bis 10-fache: Von einigen hundert Gbps bei traditionellen Lösungen auf das Niveau von 4 bis 16 Tbps.
Energieeffizienzsteigerung um das 4- bis 8-fache: Der Energieverbrauch pro Bit beträgt weniger als 5 pJ/b, während ein 112-Gbps-langreichweitiges elektrisches I/O 6 bis 10 pJ/b verbraucht und steckbare optische Geräte etwa 15 pJ/b verbrauchen.
Latenzzeitverringerung auf 1/10: Die Latenzzeit von TeraPHY beträgt 5 Nanosekunden pro Chiplet + TOF, ohne Vorwärtsfehlerkorrektur. Die verteilten Rechensysteme für Hochleistungsrechnung und KI können die zusätzlichen Latenzzeiten von mehreren Nanosekunden, die durch die Vorwärtsfehlerkorrektur traditioneller elektrischer I/O verursacht werden, nicht tolerieren.
Wichtiger ist, dass die optische I/O-Lösung offene Standards wie UCIe, CXL, CW-WDM MSA usw. befolgt und für KI-Training und -Inferenz optimiert ist. Ihr starkes Ökosystem ermöglicht es ihr, nahtlos in KI-Systeme integriert zu werden und somit die Leistung und Effizienz von generativen KI-Anwendungen zu verbessern.