两个月前受供应不足影响,NV 服务器机架 DRAM 配置出现削减,如今 HBM 品类再次出现同类情况:客户要求将英伟达 Rubin Ultra GPU 的 12 层堆叠调整为 8 层,进而实现 HBM 硬件减配。
我的观点十分明确,如果这类减配方案成为行业主流,下一代产品的 token 处理效率将不及上一代产品,届时该产品将失去市场购买吸引力。
📊当前正处于明年 HBM 年度合约价格谈判的拉锯阶段,本次客户提出减配需求的时间节点具备很强的市场解读价值。
本次多家客户联合施压推出减配版本,背后主要存在两类核心原因:
📦当前 HBM 供货总量确实紧缺,将 12 层堆叠改为 8 层堆叠,能够有效提升整体可供应产品数量。
🤝以此向三家 HBM 供应公司施压,用于明年长期供货合约的价格谈判;若落地 12 层改 8 层的产品型号,三家供应公司股价会承压,属于谈判阶段主动打出的显性筹码。
⚖即便行业最终推出这类减配版本,也只会作为其中单一 SKU 型号存在,12 层堆叠规格的 SKU 型号不会被淘汰,依旧会是市场主力供货型号。
8 层堆叠规格产品用于大模型推理场景时,token 运行效率并不划算,仅能应用在算力消耗高、对 HBM 存储容量敏感度较低的场景,例如预填充运算环节;如若不然,采购上代 Rubin 产品会是更优选择。
每一代 GPU 单位功耗下的 token 吞吐量都需要实现指数级提升,理想状态下完成翻倍增长,产品才能实现大规模市场销售。
🧠Rubin Ultra 产品架构未发生重大改动,决定其 token 吞吐量表现的 HBM,必须在带宽或是存储容量维度实现指数级增长。
🤔我们可以持续观察本次市场走势,是否会和上次行情一致,将供货紧缺的市场现状错误解读为终端需求下行。
转发观点,仅供参考!!