英伟达GPU调研纪要:芯片供需情况,液冷及相关技术进展

2025年05月03日18:43:05 科技 1026

GPU 需求、供应与产品迭代

1.B200/GB200

需求旺盛,但产能爬坡缓慢: 主要瓶颈在于NVLink的安装环节,而非GPU封装或模组板/液冷技术。模组板已发给合作伙伴,但安装调试流程复杂,导致交付速度慢。

交付模式: 部分客户直接采购HGX B200八卡基板(确认收入周期较短,预计到2025年1月底发出约2万模组,相当于十几万张B200卡)。

定价差异: Nvidia原厂HGX整机约45万美元(含质保服务),合作伙伴(如戴尔)定制整机通常30万美元以上,差价约30%。

GB200 vs GB300 架构差异: GB200是焊接在基板上,GPU和Grace CPU无法独立替换。GB300采用模块化设计,类似OEM插槽板,CPU/GPU可独立替换。GB300升级为CX8的800G网络,采用22层高密度PCB替代GB200的复杂线缆设计。性能提升:FP4算力+50%,显存容量+50%,显存总带宽+约10%。

英伟达GPU调研纪要:芯片供需情况,液冷及相关技术进展 - 天天要闻

2.B300

封装: 使用CoWoS-S封装(不同于B200/GB200的L封装,与Hopper类似)。

量产时间: 预计最早8月底后才能逐渐上量,不会很快。原因在于B200遇到的问题(特别是NVLink安装)B300也会遇到,且CX8交换板的PCB设计非常复杂,调试需要时间。

产能预期(B系列): 基于CoWoS-L产能,预计B系列年产能可达300万张B卡(约600万die)。

定价: 预计比GB200整体模组上涨20%以上,主要因显存增加50%。

英伟达GPU调研纪要:芯片供需情况,液冷及相关技术进展 - 天天要闻

3.H100/H200/H20

产品切换: H100已全面停产,目前生产切换至H200。

H20:交付: Q1已确认大部分订单,交付周期12-16周,4月底后收入确认比例高。

中国市场: H20是针对中国市场的主力产品,不会停产。因应对MoE模型(pre-fill需要算力,decoding更依赖显存带宽),H20仍有需求。

国内采购: 2025年Q1国内市场确认订单超70万张,腾讯约35万,阿里约20万,字节跳动去年已大量采购。H20被认为是当前性价比高且最实用的选择。

定价: 举例,从96g HBM升级到141g HBM,单价从12,000美元涨至14,000-15,000美元。

H200/北美需求: B系列(NVL72)在北美CSP中缓慢上量,导致对H200需求犹豫不决。但NVL72被视为最具性价比方案,预计Q2后上量会加快,可能影响H200订单。

英伟达GPU调研纪要:芯片供需情况,液冷及相关技术进展 - 天天要闻

02

主要客户与部署情况

NVL72 最大客户: CoreWeave 和 微软

CoreWeave: 主要部署在美国东部麻省,3个数据中心总容量12万多卡(1500个机架),近期安装已加速,应已完成安装150个机架。供应商包括Dell纬创Vertiv安费诺等。

微软: 已安装至少120个机架,预计全年需求达15,000个机架。凤凰城数据中心规模最大(含1,500机架,对应11万多张卡)。加州项目约1,100-1,200机架(对应8.5万多张卡)。安装合作方包括富士康、Vertiv、安费诺、英伟达团队。

谷歌、AWSMeta (2025年计划):需求明确,但计划靠后一些。明确计划采购5,000台机架。

上半年主要以NVL36为主(亚马逊用广达,Meta用广达与纬创合作)。NVL36部分采用风冷,交换机用液冷,整体安装难度较低。

目前三家在实验室阶段已完成20-30个试验性机架部署,4-5月间逐步扩展到400-500台。

03

相关技术与生态

CoWoS 产能: 是B系列GPU供应的关键因素之一。

Dynamo 软件框架:Nvidia英伟达开源的推理框架,用于大规模分布式模型(特别是MoE)推理。

背景:应对DeepSeek等使用大量GPU(如320张卡、40台8卡服务器)并行推理的需求。

应用:适用于微信等日访问量千亿级的平台。单台H20机器做推理吞吐量低(支持32客户,每秒15 token/客户),但扩展到40台机器可支持2000用户并发,每秒20-25 token/客户。

部署估算:应对每天调用量达10亿次的业务场景,约需20万张H20。

网络技术 (Nvidia/Mellanox):现状: 通过收购Mellanox进入网络领域,产品涵盖网卡、交换机、光模块等,支持NVLink。业务增长迅速,但面临BroadcomMarvell等竞争,在以太网领域未形成绝对主导。

配置推荐: Nvidia推荐CX8作为GB300的标准配置,但非强制。客户(如AWS用自家网卡,Google/Meta选CX7)会根据自身需求选择ODM和网络配置。

服务器组网成本: Scale up(机架内互联,如NVL72用NVLink)成本占服务器总成本30%以上;Scale out(机架间互联)用IB(如Quantum)或以太网(如Spectrum-X)。

Quantum (IB): 144口800G产品8月预计量产,但主要上量在明年。全球单组网超4万张的大客户可能不超过5家。

CPO (Co-Packaged Optics):Nvidia 进展: 涉及11家关键供应商(如Coherent提供PIC中的MMA微透镜,Lumentum提供激光发射器,台积电/硅品负责封装等)。

竞争与挑战: Broadcom起步早,但Nvidia正追赶。早期稳定性问题(前液冷技术和封装良率)通过供应商技术提升和液冷应用推广得到改善。

量产预期: 明年是CPO上量的重要年份。Nvidia今年上半年仍在试产(仅3-4个客户),但明年预计会翻10倍以上,年预计千台起,明年至少1万多台。

04

总结

Nvidia在新一代GPU(B系列/GB系列)上面临旺盛需求和复杂的生产/安装瓶颈,特别是NVLink和先进封装。H20在中国市场需求强劲。客户部署规模巨大(CoreWeave, 微软),其他云巨头也在积极规划。网络技术(NVLink, IB, CPO)是关键配套,Nvidia在此领域持续投入并追赶竞争对手。Dynamo软件框架旨在配合硬件解决大模型推理挑战。整体看,AI硬件市场持续高速发展,但也伴随着供应链、技术和部署上的挑战。

科技分类资讯推荐

5月又一款新机官宣:5月8日,正式发布 - 天天要闻

5月又一款新机官宣:5月8日,正式发布

随着新机市场不断更新,今年所发布的新机大部分围绕着影像和游戏方面,并且涌现出不少核心技术,主要是提升定向性能。影像核心有影像系统、影像芯片、AI影像功能等,而游戏同样推出游戏芯片、性能引擎、独显芯片等,向着专业级别发展,提升新机竞争力。
守护袁昆:企业互联网营销推广有什么绝招? - 天天要闻

守护袁昆:企业互联网营销推广有什么绝招?

(文/守护袁昆)经常有朋友问到互联网营销推广有什么绝招,现在做互联网营销有什么新技巧和新渠道。每次遇到这样的问题,解释的太多最后得到一个反馈结果:有绝招不愿意公开。互联网营销推广有技巧和方法吗?这是肯定的。互联网营销推广有绝招吗?什么才算绝
假期 我选择在家当“赛博熊猫饲养员” - 天天要闻

假期 我选择在家当“赛博熊猫饲养员”

五一朋友圈摄影大赛已经开赛,本“前参赛选手”选择提前退赛。与其去景区表演“人类迁徙”,不如宅家干点别的。玩手机、打游戏、看电影?格局打开,我选择在家当“赛博熊猫饲养员”。宅家往沙发上一躺,身边还有只圆滚滚的电子熊猫24小时待命,治愈值直接拉
这个五一,用长虹熊猫AI TV rua熊猫可太香了! - 天天要闻

这个五一,用长虹熊猫AI TV rua熊猫可太香了!

五一正确的打开方式:在家沉浸式吸熊猫,这可太香了!长虹电视不久前发布了新品长虹熊猫AI TV,本熊猫爱好者正好想买新电视,美美下单。没想到,五一派上了大用场。不得不说,长虹真可以,我愿称它为“沉浸式熊猫周边”。
小米又一款顶配Ultra终于来了,有点刺激啊 - 天天要闻

小米又一款顶配Ultra终于来了,有点刺激啊

最近机哥经常聊到,下半年会出很多旗舰小平板。 9 英寸不到可以一手掌握的大小,对于游戏党来说,确实比常规大屏舒服太多。 但有的机友觉得,小平板看视频不得劲,问机哥有没有更大更猛的....
怀化电信:五一“不打烊”  服务“不断线” - 天天要闻

怀化电信:五一“不打烊” 服务“不断线”

(五一期间,中国电信怀化分公司做好值守工作,持续为广大客户服务,保障业务受理与云网通信正常运营。)怀化日报全媒体讯五一期间,中国电信怀化分公司秉持“用户至上,用心服务”理念,坚守在通信保障一线。