首页文章详情

再造一个HBM

半导体行业观察2025-11-06 11:17
这两个月,存储市场正经历一场罕见的供需失衡。

这两个月,存储市场正经历一场罕见的供需失衡。

伴随着云巨头持续扩大资本支出,人工智能需求进一步挤压供应,最终导致内存短缺问题不断加剧,三星率先于10月暂停DDR5 DRAM合约定价,最终引发了内存疯狂暴涨。

而更引人关注的是,NAND闪存也在这轮涨价潮中扮演了重要角色。报告指出,9月以来,512Gb TLC晶圆价格稳步攀升,10月下旬已达5美元,1Tb TLC/QLC晶圆价格触及6.5至7.2美元区间。传统上被视为廉价大容量存储的NAND,迎来了自己的高光时刻。

而NAND涨价的核心,除了库存见底之外,也指向了一个新兴技术概念——高带宽闪存(HBF,High-Bandwidth Flash)。如果说HBM让DRAM从配角跃升为AI时代的核心资产,那么HBF可能正在为NAND开启同样的”封神之路“。

HBF:从概念到产业共识

今年上半年,闪迪在投资者日上介绍了高带宽闪存概念,这是一种NAND版本的高带宽内存技术。通过将16层NAND堆栈通过逻辑芯片连接到中介层,再以多通道高带宽方式连接到GPU或其他处理器。

这一技术路线的提出并非偶然。当前AI模型正在向多模态、长上下文方向发展——GPT-4V的视觉理解、Claude的100K token上下文、Gemini的多模态能力——这些应用需要在内存中维护庞大的中间状态数据。传统DRAM虽然速度快,但容量扩展成本极高;而NAND闪存虽然容量大,但访问速度相对较慢。HBF试图通过架构创新,在两者之间找到最优解。

具体实现上,HBF依托闪迪成熟的CBA(CMOS直接键合阵列)技术构建核心架构:将逻辑芯片与3D NAND堆叠层键合,其中逻辑芯片承担NAND与中介层的连接功能,而3D NAND堆叠层则替换为16层核心芯片堆叠,并通过类HBM(高带宽内存)的硅通孔(TSV)连接器实现层间互联。这种设计使HBF在性能与成本间达成精妙平衡——伊尔克巴哈尔强调,HBF能“匹配HBM内存的带宽表现,同时在相近成本下提供8至16倍的存储容量”,这一优势使其在大模型存储场景中具备天然竞争力。

在闪迪发布HBF概念的2月,NAND市场尚处于水深火热之中,因而一经推出,就吸引了行业的众多厂商的关注,各家开始纷纷布局这一技术。

而今,HBF的生态已然初具雏形。

群雄并起:四大阵营的技术路径

SK海力士:生态联盟的先行者

SK海力士在2025年OCP全球峰会上发布了包含HBF在内的AI产品战略,构建了“AIN Family”产品阵容。其中,AIN B正是采用HBF技术的产品名称,核心是将高容量、低成本的NAND与HBM堆叠结构相结合。

SK海力士表示:“随着AI推理市场的迅速增长,能够快速、高效处理海量数据的NAND存储产品需求正在急剧扩大。对此,我们构建了‘AIN(AI-NAND)Family’产品阵容,旨在以面向AI时代的最优解决方案满足客户需求。”

在高管专场中,SK海力士eSSD产品开发负责人金千成(Kim Cheonseong)副社长作为演讲嘉宾,介绍了AIN产品系列。

据了解,AIN系列从性能(Performance)、带宽(Bandwidth)、容量(Density)三个维度进行优化,旨在同时提升数据处理速度和存储容量。

AIN P(Performance) 是一款可在大规模AI推理环境中高效处理海量数据读写的解决方案。通过最小化AI计算与存储之间的瓶颈,大幅提升处理速度和能效。公司目前正在以全新架构设计NAND与控制器,计划于2026年底推出样品。

AIN D(Density) 是一款以低功耗、低成本存储大容量数据为目标的高密度解决方案,适用于AI数据存储。该产品旨在将基于QLC的TB级SSD容量提升至PB级,同时兼具SSD的速度与HDD的经济性,定位为中间层级存储。

AIN B(Bandwidth) 是通过垂直堆叠NAND来扩大带宽的解决方案,这正是公司采用“HBF”技术的产品名称。

SK海力士启动AIN B研究的初衷是为了解决内存容量不足问题,其核心在于将高容量、低成本的NAND与HBM堆叠结构相结合。公司正在研究将AIN B与HBM协同部署,以补充容量不足等多种应用场景。

为推动AIN B生态系统发展,SK海力士在OCP峰会会场附近的科技互动中心(The Tech Interactive)举办了“HBF之夜”活动,邀请了多家全球大型科技公司的代表出席。当天活动由海内外教授组成的专家团以圆桌讨论形式进行,吸引了数十位业内主要架构师与技术专家参与。会上,SK海力士提议业界携手加速NAND存储产品创新。

SK海力士开发总括安贤(Ahn Hyun)社长表示:“通过本次OCP全球峰会和HBF之夜,我们展示了SK海力士作为‘全球AI内存解决方案提供商’在AI为中心的快速变革市场中的现状与未来。未来,我们将在下一代NAND存储领域继续与客户及各类合作伙伴携手,努力成为AI内存市场的核心玩家。”

据业界消息,SK海力士已向清州M15X工厂运入首批设备,该工厂将重点量产下一代HBM产品,并在三大存储厂中率先完成第六代HBM4的量产准备。HBM产能的扩张为HBF的未来部署奠定了基础——HBF可以位于HBM基础芯片中LPDDR的位置,补充HBM的容量限制,使大型AI模型能够直接存储在GPU上。

对于SK海力士而言,其作为HBM巨头,早已积累了诸多生态伙伴,在推进HBF上显得更为得心应手,而其此前在NAND市场中的弱势,更坚定了它投入这一市场的决心。

凭借着目前已有的HBM技术,SK海力士似乎有望成为最先量产HBF的NAND厂商。

闪迪:技术激进派的豪赌

今年8月,闪迪宣布了HBF的推进计划,其将于明年下半年向客户提供HBF样本,并于2027年初为推理AI提供正式产品,这一激进的时间表显示出其对技术前景的强烈信心。

据了解,最初,闪迪工程师曾设想在HBF封装中融合NAND与DRAM,以DRAM缓存需要频繁更新的关键数据(如AI推理中的键值缓存KV caches)。但DeepSeek AI研究人员提出的“多头潜在注意力”技术改变了这一思路——该技术可将KV缓存压缩为潜在向量存储,实现93%的缓存容量缩减。这一突破让HBF无需依赖DRAM即可承载超大模型:单块GPU搭载的HBF内存可达到4TB容量(由8颗512GB HBF芯片组成),足以容纳16位权重的GPT-4模型(1.8万亿参数,需3.6TB存储),彻底告别了传统场景中“模型数据跨设备调度”的效率损耗。

HBF的更大价值在于为混合专家模型(Mixture-of-Experts, MOE)及多模态大模型的端侧部署提供了可能。闪迪解释,MOE模型通过将超大模型拆解为多个专精不同任务的“专家子模型”,生成token时仅激活部分专家,大幅降低计算需求,但对存储容量的需求随之攀升;而下一代文本、音频、视频融合的多模态模型,同样属于典型的“内存受限型应用”,这些正是HBF的核心适配场景。

以智能手机场景为例,当前端侧AI体验薄弱的关键瓶颈在于设备的内存、功耗与空间限制——即使将模型缩减至数十亿参数,性能表现也难以满足用户需求。而HBF通过架构创新破解了这一困局:一颗512GB HBF芯片即可承载640亿参数的MOE模型(与Llama 3.1、DeepSeek 70B性能相当),且可将芯片拆分为8个64GB迷你阵列,为MOE的8个专家子模型分别提供专属存储与数据通道,实现“精准激活、高效响应”的端侧AI体验。闪迪将其形容为“让不可能成为可能,真正赋能边缘设备的卓越AI体验”。

值得注意的是,闪迪HBF负责人Ilkbahar曾担任英特尔Optane部门副总裁兼总经理。Optane技术虽然在技术上具有革命性,但最终未能成功商业化,其失败教训之一便是过于专有化的策略——仅限于英特尔及其制造合作伙伴美光使用。

这段经历显然影响了SanDisk的HBF策略。Ilkbahar强调:"我们正在带回SanDisk品牌。我们对此极为兴奋,迫不及待要颠覆内存行业。"但这次,SanDisk选择了完全不同的路径——与SK海力士合作推动标准化。

2025年8月,SK海力士与SanDisk签署了HBF标准化谅解备忘录,这种开放式生态策略,实际上是在技术激进与生态开放之间寻求平衡——既要保持技术领先,又要避免重蹈Optane“孤家寡人”的覆辙。

铠侠:多路径探索的务实派

与其他两家不同,铠侠在HBF赛道上展现出更加务实和多元化的技术探索路径。作为SanDisk的NAND制造合资企业伙伴,铠侠既在独立开发差异化技术方案,又能共享合作伙伴的技术积累,这种"多路径下注"的策略,使其在这场技术竞赛中占据了独特位置。

2025年8月,铠侠发布了一款面向边缘服务器的高速闪存驱动器原型,其技术架构与主流的垂直堆叠方案形成鲜明对比。这款原型采用串联连接的闪存“珠子”(beads),使用PCIe 6总线,实现了5TB容量和64 GBps的数据速率。

铠侠的创新在于采用菊花链连接方式,而非传统的总线连接。闪存珠子和控制器以菊花链方式连接到每个内存板上,而不是总线连接。铠侠强调,"即使增加闪存存储器(珠子)的数量,带宽也不会下降。"这一特性解决了传统架构中随着存储单元增加而导致的带宽瓶颈问题。

据了解,铠侠的HBF原型通过相同的PCIe Gen 6总线(但使用8通道)从5TB容量提供高达64 GBps的速度,总吞吐量约为美光9650 Pro的2.3倍,按每通道计算则高出约14%(8 GBps对比7 GBps)。

此外,铠侠通过在接口上应用低幅度信号和失真校正/抑制技术,实现了内存珠子与控制器之间4 Gbps的带宽。在顺序数据访问期间,控制器预取技术缩短了读取延迟。

而据日本《日经新闻》报道,铠侠 SSD应用技术部门首席工程师Koichi Fukuda在AI市场技术简报会上透露,应英伟达要求,铠侠正在开发一款1亿IOPS的SSD,预计2027年推出。

Fukuda表示:“我们将按照英伟达的提议和要求推进开发。”这款AI SSD将支持PCIe 7.0标准,两个SSD直接连接到英伟达GPU,可提供总计2亿IOPS的性能,部分替代HBM用于生成式AI工作负载。

目前,铠侠AI SSD已经有了三条可能技术路径:CXL连接的XL-Flash驱动器、菊花链连接的XL-Flash珠子,以及XL-Flash HBF实现方案。后者将是多层XL-Flash芯片堆栈,通过TSV连接到基础逻辑层——这正是闪迪与SK海力士合作开发的架构。

铠侠的多路径探索策略本质上是一种技术对冲。菊花链方案提供差异化竞争力,XL-Flash提供性能基础,与SanDisk的合作提供生态支持,与英伟达的绑定确保市场需求。这种全方位布局降低了单一技术路线失败的风险。

但多元化也意味着资源分散。相比SK海力士和闪迪在垂直堆叠HBF上的全力投入,铠侠需要同时维护多条技术线,这可能导致在关键时刻缺乏突破性进展。而且,如果行业最终在标准上形成共识,铠侠的多元化投入可能变成沉没成本。

尽管如此,铠侠的务实主义策略在当前技术路线尚未明朗的阶段,仍不失为一种理性选择。2027年与英伟达合作的超高速AI SSD正式推出时,或许就是检验这一策略成败的关键时刻。届时,我们将看到铠侠最终选择了哪条技术路径,以及这一选择如何影响整个HBF市场的竞争格局。

三星:沉默巨头的后发策略

三星在HBF上显得更为谨慎。

据韩国《金融新闻》报道,业内消息人士透露,三星已启动自有HBF产品的早期概念设计工作。利用过去类似技术和产品的研发经验,三星旨在开发满足数据中心日益增长需求的新HBF解决方案。然而,产品规格和量产时间表仍未知,因为开发尚处于早期阶段。

这一表述透露出三星当前的谨慎态度。相比闪迪已经明确2026年提供样品、2027年提供控制器的激进时间表,三星连“早期概念设计”都刻意保持低调,没有官方确认,仅通过行业消息人士透露。

作为全球NAND市场份额最大的厂商,三星在3D NAND堆叠技术、TSV(硅通孔)工艺、先进封装等领域都有深厚积累。更重要的是,三星同时是DRAM和NAND的双料冠军,这使其在开发HBF这种需要融合两种内存技术的产品时,具备天然的协同优势。

这种双重能力的价值在于:HBF本质上是将NAND以类似HBM的方式进行堆叠,这需要对DRAM堆叠技术(如TSV设计、热管理、信号完整性)有深刻理解。三星在HBM开发过程中积累的经验,理论上可以直接迁移到HBF领域。而且,三星的垂直整合能力使其可以在逻辑芯片、内存芯片、封装工艺等多个环节进行协同优化,这是纯NAND厂商难以企及的优势。

但三星在HBM市场的表现,或许正是其在HBF上保持谨慎的原因之一。尽管三星在DRAM市场长期占据领先地位,但在HBM这一细分领域却被SK海力士反超。SK海力士凭借与英伟达的深度绑定,成为AI服务器HBM的首选供应商,而三星的HBM产品则在良率、性能等方面遭遇质疑。

有分析认为,三星的HBM与SK海力士在质量上存在差异,可能源于TSV使用过于节省。TSV在电力供应和热管理中扮演关键角色,如果为了降低成本而减少TSV数量,可能导致产品稳定性和性能下降。这一教训对于HBF开发同样适用——HBF同样需要大量TSV来连接堆叠的NAND层,如何在成本和性能之间找到平衡,是技术成功的关键。

更深层的问题在于生态位的把控。SK海力士在HBM市场的成功,不仅源于技术,更源于其早期与英伟达建立的紧密合作关系。当SK海力士根据英伟达的需求定制HBM产品时,三星还在试图以标准化产品打入市场。这种生态位的差异,导致了后续竞争中的被动局面。

对于HBF,三星显然不想重蹈覆辙。与其仓促推出产品后发现市场定位不清,不如先观察竞争对手的技术路线和客户反馈,再以更成熟的方案进入市场。这种“后发制人”的策略,在技术标准尚未确定的阶段可能更为稳妥。

NAND的“第二春”

从廉价存储到高价值核心组件,NAND正在经历一场转型。这场转型与HBM的崛起惊人相似::都源于AI需求的爆发,都需要突破传统架构的限制,都依赖于生态的协同演进。

不同的是,HBM的故事已经写就,而HBF的故事才刚刚开始。SK海力士的生态联盟、闪迪的技术激进、铠侠的多元探索、三星的后发准备,四大阵营的博弈将决定这个新兴市场的格局。

HBM用五年时间从配角成为主角,NAND能否在HBF的加持下,复制这条“封神之路”?答案或许就在2026-2027这个关键窗口期。对于内存厂商而言,这不仅是技术竞赛,更是一场关于未来AI基础设施话语权的争夺战。

本文来自微信公众号“半导体行业观察”(ID:icbank),作者:邵逸琦,36氪经授权发布。