英伟达GPU调研纪要:芯片供需情况,液冷及相关技术进展

2025年05月03日18:43:05 科技 1026

GPU 需求、供应与产品迭代

1.B200/GB200

需求旺盛,但产能爬坡缓慢: 主要瓶颈在于NVLink的安装环节,而非GPU封装或模组板/液冷技术。模组板已发给合作伙伴,但安装调试流程复杂,导致交付速度慢。

交付模式: 部分客户直接采购HGX B200八卡基板(确认收入周期较短,预计到2025年1月底发出约2万模组,相当于十几万张B200卡)。

定价差异: Nvidia原厂HGX整机约45万美元(含质保服务),合作伙伴(如戴尔)定制整机通常30万美元以上,差价约30%。

GB200 vs GB300 架构差异: GB200是焊接在基板上,GPU和Grace CPU无法独立替换。GB300采用模块化设计,类似OEM插槽板,CPU/GPU可独立替换。GB300升级为CX8的800G网络,采用22层高密度PCB替代GB200的复杂线缆设计。性能提升:FP4算力+50%,显存容量+50%,显存总带宽+约10%。

英伟达GPU调研纪要:芯片供需情况,液冷及相关技术进展 - 天天要闻

2.B300

封装: 使用CoWoS-S封装(不同于B200/GB200的L封装,与Hopper类似)。

量产时间: 预计最早8月底后才能逐渐上量,不会很快。原因在于B200遇到的问题(特别是NVLink安装)B300也会遇到,且CX8交换板的PCB设计非常复杂,调试需要时间。

产能预期(B系列): 基于CoWoS-L产能,预计B系列年产能可达300万张B卡(约600万die)。

定价: 预计比GB200整体模组上涨20%以上,主要因显存增加50%。

英伟达GPU调研纪要:芯片供需情况,液冷及相关技术进展 - 天天要闻

3.H100/H200/H20

产品切换: H100已全面停产,目前生产切换至H200。

H20:交付: Q1已确认大部分订单,交付周期12-16周,4月底后收入确认比例高。

中国市场: H20是针对中国市场的主力产品,不会停产。因应对MoE模型(pre-fill需要算力,decoding更依赖显存带宽),H20仍有需求。

国内采购: 2025年Q1国内市场确认订单超70万张,腾讯约35万,阿里约20万,字节跳动去年已大量采购。H20被认为是当前性价比高且最实用的选择。

定价: 举例,从96g HBM升级到141g HBM,单价从12,000美元涨至14,000-15,000美元。

H200/北美需求: B系列(NVL72)在北美CSP中缓慢上量,导致对H200需求犹豫不决。但NVL72被视为最具性价比方案,预计Q2后上量会加快,可能影响H200订单。

英伟达GPU调研纪要:芯片供需情况,液冷及相关技术进展 - 天天要闻

02

主要客户与部署情况

NVL72 最大客户: CoreWeave 和 微软

CoreWeave: 主要部署在美国东部麻省,3个数据中心总容量12万多卡(1500个机架),近期安装已加速,应已完成安装150个机架。供应商包括Dell纬创Vertiv安费诺等。

微软: 已安装至少120个机架,预计全年需求达15,000个机架。凤凰城数据中心规模最大(含1,500机架,对应11万多张卡)。加州项目约1,100-1,200机架(对应8.5万多张卡)。安装合作方包括富士康、Vertiv、安费诺、英伟达团队。

谷歌、AWSMeta (2025年计划):需求明确,但计划靠后一些。明确计划采购5,000台机架。

上半年主要以NVL36为主(亚马逊用广达,Meta用广达与纬创合作)。NVL36部分采用风冷,交换机用液冷,整体安装难度较低。

目前三家在实验室阶段已完成20-30个试验性机架部署,4-5月间逐步扩展到400-500台。

03

相关技术与生态

CoWoS 产能: 是B系列GPU供应的关键因素之一。

Dynamo 软件框架:Nvidia英伟达开源的推理框架,用于大规模分布式模型(特别是MoE)推理。

背景:应对DeepSeek等使用大量GPU(如320张卡、40台8卡服务器)并行推理的需求。

应用:适用于微信等日访问量千亿级的平台。单台H20机器做推理吞吐量低(支持32客户,每秒15 token/客户),但扩展到40台机器可支持2000用户并发,每秒20-25 token/客户。

部署估算:应对每天调用量达10亿次的业务场景,约需20万张H20。

网络技术 (Nvidia/Mellanox):现状: 通过收购Mellanox进入网络领域,产品涵盖网卡、交换机、光模块等,支持NVLink。业务增长迅速,但面临BroadcomMarvell等竞争,在以太网领域未形成绝对主导。

配置推荐: Nvidia推荐CX8作为GB300的标准配置,但非强制。客户(如AWS用自家网卡,Google/Meta选CX7)会根据自身需求选择ODM和网络配置。

服务器组网成本: Scale up(机架内互联,如NVL72用NVLink)成本占服务器总成本30%以上;Scale out(机架间互联)用IB(如Quantum)或以太网(如Spectrum-X)。

Quantum (IB): 144口800G产品8月预计量产,但主要上量在明年。全球单组网超4万张的大客户可能不超过5家。

CPO (Co-Packaged Optics):Nvidia 进展: 涉及11家关键供应商(如Coherent提供PIC中的MMA微透镜,Lumentum提供激光发射器,台积电/矽品负责封装等)。

竞争与挑战: Broadcom起步早,但Nvidia正追赶。早期稳定性问题(前液冷技术和封装良率)通过供应商技术提升和液冷应用推广得到改善。

量产预期: 明年是CPO上量的重要年份。Nvidia今年上半年仍在试产(仅3-4个客户),但明年预计会翻10倍以上,年预计千台起,明年至少1万多台。

04

总结

Nvidia在新一代GPU(B系列/GB系列)上面临旺盛需求和复杂的生产/安装瓶颈,特别是NVLink和先进封装。H20在中国市场需求强劲。客户部署规模巨大(CoreWeave, 微软),其他云巨头也在积极规划。网络技术(NVLink, IB, CPO)是关键配套,Nvidia在此领域持续投入并追赶竞争对手。Dynamo软件框架旨在配合硬件解决大模型推理挑战。整体看,AI硬件市场持续高速发展,但也伴随着供应链、技术和部署上的挑战。

科技分类资讯推荐

台州学院“智方同源”团队:以数智科技赋能传统药食同源 - 天天要闻

台州学院“智方同源”团队:以数智科技赋能传统药食同源

在台州学院创业学院的鼎力支持与浙江省生态学保护重点实验室的科研支撑下,台州学院“智方同源”学生团队应运而生。该团队聚焦于药食同源领域,创新性地将大数据分析与人工智能技术深度融入功能食品配方设计,首创传统食疗配方图神经分析技术、食品配方成分-功效网络模块互作评价方法和口感预测卷积神经网络分析技术,致力...
S11芯片+5G加持!Apple Watch Ultra 3今年登场? - 天天要闻

S11芯片+5G加持!Apple Watch Ultra 3今年登场?

日前,分析师 Jeff Pu在一份关于苹果2025年的产品规划路线图里提到,除了新款 Apple Watch Series 11,今年苹果也将推出大家都十分关注的新款智能手表 Apple Watch Ultra 3。届时 Apple Watch Series 11以及 Apple Watch Ultra 3这两款新手将会和期待已久的 iPhone 17 系列
以伊冲突还在打,市场却已经翻篇了! - 天天要闻

以伊冲突还在打,市场却已经翻篇了!

本周一的交易数据讲述了一个令人震惊的故事。就在以色列和伊朗两国持续相互攻击之际,黄金价格下跌,美债收益率上升,股市波动率暴跌。股票相对于长期债券的表现达到了特朗普就职日以来的最强水平。这些都是典型的"风险开启"环境信号。以色列攻击伊朗核设施长期以来被视为可能严重恶化全球风险环境的"终极事件",然而,油价...
人民日报盛赞华为、C919以及DeepSeek - 天天要闻

人民日报盛赞华为、C919以及DeepSeek

【TechWeb】据今日《人民日报》报道,无论是中小型企业还是科技行业的领军巨头,都在不断的实践与探索中凝练出了一条共通的发展真理:持之以恒,沉得住气。面对外界的封锁与压力,华为公司逆境而上,推出了具有突破性的麒麟系列芯片,并自主研发了鸿蒙操作系统,这些新产品在全球市场上实现了重要突破。华为创始人任正非表...
Polyphony Digital于6月7日发布小米和Gran Turismo的合作 - 天天要闻

Polyphony Digital于6月7日发布小米和Gran Turismo的合作

总部在中国北京的小米,2021年宣布加入智能电动汽车行业,2024年发售自己的第一个量产电车SU7。旗舰车型SU7 Ultra,拥有1548匹马力惊人的性能。并且以挑战纽北北圈记录为目标开发的SU7 Ultra原型车,以6分46秒874打破了4门车在纽北的圈速记录,在世界上受到车迷的广泛关注。小米在接下来,将会与Gran Turismo 一起制作Visi..
网易云VIP突然宣布免费,还不领就来不及了 - 天天要闻

网易云VIP突然宣布免费,还不领就来不及了

听劝的风,再次吹到了网易云音乐身上。一直以来,网易云和QQ音乐上的平板端适配,都是平板用户们重点关注的话题。此前网易云在安卓平板上,已经完成了比较成熟的大屏适配。可在iPad端上,机哥从2024年等到今年年中,还是等不到它的出现。直到这两天
数据中心告别“烫手芯片” 曙光数创推出全生命周期液冷解决方案 - 天天要闻

数据中心告别“烫手芯片” 曙光数创推出全生命周期液冷解决方案

IT时报记者 郝俊慧面对越来越“热”的算力芯片,曙光数创正想让它快点“冷”下来。在刚刚结束的2025中国智算中心全栈技术大会上,曙光数创发布“新服务、新技术、新架构”三大新品,旨在通过一体化、全生命周期的服务新范式,解决当前液冷行业面临的诸多痛点。“液冷即服务,这个概念在行业里早就有需求了。”曙光数创副总...