英伟达GPU调研纪要:芯片供需情况,液冷及相关技术进展

2025年05月03日18:43:05 科技 1026

GPU 需求、供应与产品迭代

1.B200/GB200

需求旺盛,但产能爬坡缓慢: 主要瓶颈在于NVLink的安装环节,而非GPU封装或模组板/液冷技术。模组板已发给合作伙伴,但安装调试流程复杂,导致交付速度慢。

交付模式: 部分客户直接采购HGX B200八卡基板(确认收入周期较短,预计到2025年1月底发出约2万模组,相当于十几万张B200卡)。

定价差异: Nvidia原厂HGX整机约45万美元(含质保服务),合作伙伴(如戴尔)定制整机通常30万美元以上,差价约30%。

GB200 vs GB300 架构差异: GB200是焊接在基板上,GPU和Grace CPU无法独立替换。GB300采用模块化设计,类似OEM插槽板,CPU/GPU可独立替换。GB300升级为CX8的800G网络,采用22层高密度PCB替代GB200的复杂线缆设计。性能提升:FP4算力+50%,显存容量+50%,显存总带宽+约10%。

英伟达GPU调研纪要:芯片供需情况,液冷及相关技术进展 - 天天要闻

2.B300

封装: 使用CoWoS-S封装(不同于B200/GB200的L封装,与Hopper类似)。

量产时间: 预计最早8月底后才能逐渐上量,不会很快。原因在于B200遇到的问题(特别是NVLink安装)B300也会遇到,且CX8交换板的PCB设计非常复杂,调试需要时间。

产能预期(B系列): 基于CoWoS-L产能,预计B系列年产能可达300万张B卡(约600万die)。

定价: 预计比GB200整体模组上涨20%以上,主要因显存增加50%。

英伟达GPU调研纪要:芯片供需情况,液冷及相关技术进展 - 天天要闻

3.H100/H200/H20

产品切换: H100已全面停产,目前生产切换至H200。

H20:交付: Q1已确认大部分订单,交付周期12-16周,4月底后收入确认比例高。

中国市场: H20是针对中国市场的主力产品,不会停产。因应对MoE模型(pre-fill需要算力,decoding更依赖显存带宽),H20仍有需求。

国内采购: 2025年Q1国内市场确认订单超70万张,腾讯约35万,阿里约20万,字节跳动去年已大量采购。H20被认为是当前性价比高且最实用的选择。

定价: 举例,从96g HBM升级到141g HBM,单价从12,000美元涨至14,000-15,000美元。

H200/北美需求: B系列(NVL72)在北美CSP中缓慢上量,导致对H200需求犹豫不决。但NVL72被视为最具性价比方案,预计Q2后上量会加快,可能影响H200订单。

英伟达GPU调研纪要:芯片供需情况,液冷及相关技术进展 - 天天要闻

02

主要客户与部署情况

NVL72 最大客户: CoreWeave 和 微软

CoreWeave: 主要部署在美国东部麻省,3个数据中心总容量12万多卡(1500个机架),近期安装已加速,应已完成安装150个机架。供应商包括Dell纬创Vertiv安费诺等。

微软: 已安装至少120个机架,预计全年需求达15,000个机架。凤凰城数据中心规模最大(含1,500机架,对应11万多张卡)。加州项目约1,100-1,200机架(对应8.5万多张卡)。安装合作方包括富士康、Vertiv、安费诺、英伟达团队。

谷歌、AWSMeta (2025年计划):需求明确,但计划靠后一些。明确计划采购5,000台机架。

上半年主要以NVL36为主(亚马逊用广达,Meta用广达与纬创合作)。NVL36部分采用风冷,交换机用液冷,整体安装难度较低。

目前三家在实验室阶段已完成20-30个试验性机架部署,4-5月间逐步扩展到400-500台。

03

相关技术与生态

CoWoS 产能: 是B系列GPU供应的关键因素之一。

Dynamo 软件框架:Nvidia英伟达开源的推理框架,用于大规模分布式模型(特别是MoE)推理。

背景:应对DeepSeek等使用大量GPU(如320张卡、40台8卡服务器)并行推理的需求。

应用:适用于微信等日访问量千亿级的平台。单台H20机器做推理吞吐量低(支持32客户,每秒15 token/客户),但扩展到40台机器可支持2000用户并发,每秒20-25 token/客户。

部署估算:应对每天调用量达10亿次的业务场景,约需20万张H20。

网络技术 (Nvidia/Mellanox):现状: 通过收购Mellanox进入网络领域,产品涵盖网卡、交换机、光模块等,支持NVLink。业务增长迅速,但面临BroadcomMarvell等竞争,在以太网领域未形成绝对主导。

配置推荐: Nvidia推荐CX8作为GB300的标准配置,但非强制。客户(如AWS用自家网卡,Google/Meta选CX7)会根据自身需求选择ODM和网络配置。

服务器组网成本: Scale up(机架内互联,如NVL72用NVLink)成本占服务器总成本30%以上;Scale out(机架间互联)用IB(如Quantum)或以太网(如Spectrum-X)。

Quantum (IB): 144口800G产品8月预计量产,但主要上量在明年。全球单组网超4万张的大客户可能不超过5家。

CPO (Co-Packaged Optics):Nvidia 进展: 涉及11家关键供应商(如Coherent提供PIC中的MMA微透镜,Lumentum提供激光发射器,台积电/矽品负责封装等)。

竞争与挑战: Broadcom起步早,但Nvidia正追赶。早期稳定性问题(前液冷技术和封装良率)通过供应商技术提升和液冷应用推广得到改善。

量产预期: 明年是CPO上量的重要年份。Nvidia今年上半年仍在试产(仅3-4个客户),但明年预计会翻10倍以上,年预计千台起,明年至少1万多台。

04

总结

Nvidia在新一代GPU(B系列/GB系列)上面临旺盛需求和复杂的生产/安装瓶颈,特别是NVLink和先进封装。H20在中国市场需求强劲。客户部署规模巨大(CoreWeave, 微软),其他云巨头也在积极规划。网络技术(NVLink, IB, CPO)是关键配套,Nvidia在此领域持续投入并追赶竞争对手。Dynamo软件框架旨在配合硬件解决大模型推理挑战。整体看,AI硬件市场持续高速发展,但也伴随着供应链、技术和部署上的挑战。

科技分类资讯推荐

华为Mate80双重升级曝光,双潜望+超声波指纹,麒麟9030也稳了 - 天天要闻

华为Mate80双重升级曝光,双潜望+超声波指纹,麒麟9030也稳了

华为Mate80系列的发布时间,悄悄地又往后挪了一步,但这次的“拖延”,看起来很可能是蓄谋已久的技术升级伏笔。作为年度压轴旗舰,Mate80并没有选择按部就班,而是打破了节奏,用两个技术大招提前把热度拉满。说白了,这不仅不是坏消息,反而预示
苹果官宣降价:市场策略与行业影响的双重奏 - 天天要闻

苹果官宣降价:市场策略与行业影响的双重奏

在消费电子领域,苹果公司的一举一动都备受瞩目。近日,苹果官宣降价的消息如同一颗石子投入平静的湖面,激起层层涟漪,在消费者、市场以及整个行业中引发了广泛的关注与热议。一、降价举措的背后逻辑苹果公司此次官宣降价,并非毫无征兆的突发奇想,而是多种
卷出天花板的电混旗舰?吉利银河星耀8试驾后,我有些话想说 - 天天要闻

卷出天花板的电混旗舰?吉利银河星耀8试驾后,我有些话想说

5月9日,吉利银河星耀8正式上市,仅几天时间,话题热度就迅速攀升。不夸张地说,不少车友群、朋友圈几乎被这台车“刷了屏”。身边很多朋友也跑来问我:这车真有说的那么牛吗?值得入手吗?带着这个疑问,我参加了在成都举行的区域上市品鉴会暨试驾活动。试完之后,我的第一反应
演绎科技浪漫 “手搓”搓出一个全宇宙 - 天天要闻

演绎科技浪漫 “手搓”搓出一个全宇宙

一个从小爱拆车、没考上大学的孩子,长大后在干什么?答案是在云南农村造车,把科幻片里的车变成现实。云南昆明山区的农家院里,抖音创作者@猪坚强 的“床车系列”正在刷新认知,能爬楼的履带车、水陆两栖的变形车、带 AI 语音控制的车。
洞察生意本质,开启财富密码 - 天天要闻

洞察生意本质,开启财富密码

在当今竞争激烈的商业世界中,人人都渴望抓住生意的本质,实现财富的增长。但究竟什么才是生意的本质?又该如何凭借它来赚钱呢?生意的本质,说白了就是满足需求。就像苹果公司,他们洞察到人们对于简洁、美观且功能强大的电子产品的需求,于是推出了一系列惊
小米高端机大跳水,16GB+512GB+60倍变焦,降幅高达2050元 - 天天要闻

小米高端机大跳水,16GB+512GB+60倍变焦,降幅高达2050元

如果你的预算在3000元左右,你会选择新款中端旗舰还是会选择某些大跳水的老款高端手机呢?相信不同的人会有不同的决定。如果你比较侧重的是游戏体验,对拍照的要求不是很高,相信不少网友都会选择新款中端旗舰....
一季度华为小米手机销量大增 苹果再下滑 - 天天要闻

一季度华为小米手机销量大增 苹果再下滑

时间来到了5月末,除了华为的影像旗舰Pura 80系列外,各家厂商都已经完成了这一轮的旗舰机型发布。就在近日,Counterpoint带来了2025年第一季度的手机销量统计。各家厂商表现如何?一起来看看。先来看全球市场方面的表现,据报告介绍,2025年Q1全球智能手机市场收入同比增长3%,主要由Apple、vivo及非排名前五的品牌推动。...