英偉達GPU調研紀要:芯片供需情況,液冷及相關技術進展

2025年05月03日18:43:05 科技 1026

GPU 需求、供應與產品迭代

1.B200/GB200

需求旺盛,但產能爬坡緩慢: 主要瓶頸在於NVLink的安裝環節,而非GPU封裝或模組板/液冷技術。模組板已發給合作夥伴,但安裝調試流程複雜,導致交付速度慢。

交付模式: 部分客戶直接採購HGX B200八卡基板(確認收入周期較短,預計到2025年1月底發出約2萬模組,相當於十幾萬張B200卡)。

定價差異: Nvidia原廠HGX整機約45萬美元(含質保服務),合作夥伴(如戴爾)定製整機通常30萬美元以上,差價約30%。

GB200 vs GB300 架構差異: GB200是焊接在基板上,GPU和Grace CPU無法獨立替換。GB300採用模塊化設計,類似OEM插槽板,CPU/GPU可獨立替換。GB300升級為CX8的800G網絡,採用22層高密度PCB替代GB200的複雜線纜設計。性能提升:FP4算力+50%,顯存容量+50%,顯存總帶寬+約10%。

英偉達GPU調研紀要:芯片供需情況,液冷及相關技術進展 - 天天要聞

2.B300

封裝: 使用CoWoS-S封裝(不同於B200/GB200的L封裝,與Hopper類似)。

量產時間: 預計最早8月底後才能逐漸上量,不會很快。原因在於B200遇到的問題(特別是NVLink安裝)B300也會遇到,且CX8交換板的PCB設計非常複雜,調試需要時間。

產能預期(B系列): 基於CoWoS-L產能,預計B系列年產能可達300萬張B卡(約600萬die)。

定價: 預計比GB200整體模組上漲20%以上,主要因顯存增加50%。

英偉達GPU調研紀要:芯片供需情況,液冷及相關技術進展 - 天天要聞

3.H100/H200/H20

產品切換: H100已全面停產,目前生產切換至H200。

H20:交付: Q1已確認大部分訂單,交付周期12-16周,4月底後收入確認比例高。

中國市場: H20是針對中國市場的主力產品,不會停產。因應對MoE模型(pre-fill需要算力,decoding更依賴顯存帶寬),H20仍有需求。

國內採購: 2025年Q1國內市場確認訂單超70萬張,騰訊約35萬,阿里約20萬,位元組跳動去年已大量採購。H20被認為是當前性價比高且最實用的選擇。

定價: 舉例,從96g HBM升級到141g HBM,單價從12,000美元漲至14,000-15,000美元。

H200/北美需求: B系列(NVL72)在北美CSP中緩慢上量,導致對H200需求猶豫不決。但NVL72被視為最具性價比方案,預計Q2後上量會加快,可能影響H200訂單。

英偉達GPU調研紀要:芯片供需情況,液冷及相關技術進展 - 天天要聞

02

主要客戶與部署情況

NVL72 最大客戶: CoreWeave 和 微軟

CoreWeave: 主要部署在美國東部麻省,3個數據中心總容量12萬多卡(1500個機架),近期安裝已加速,應已完成安裝150個機架。供應商包括Dell緯創Vertiv安費諾等。

微軟: 已安裝至少120個機架,預計全年需求達15,000個機架。鳳凰城數據中心規模最大(含1,500機架,對應11萬多張卡)。加州項目約1,100-1,200機架(對應8.5萬多張卡)。安裝合作方包括富士康、Vertiv、安費諾、英偉達團隊。

谷歌、AWSMeta (2025年計劃):需求明確,但計劃靠後一些。明確計劃採購5,000台機架。

上半年主要以NVL36為主(亞馬遜用廣達,Meta用廣達與緯創合作)。NVL36部分採用風冷,交換機用液冷,整體安裝難度較低。

目前三家在實驗室階段已完成20-30個試驗性機架部署,4-5月間逐步擴展到400-500台。

03

相關技術與生態

CoWoS 產能: 是B系列GPU供應的關鍵因素之一。

Dynamo 軟件框架:Nvidia英偉達開源的推理框架,用於大規模分佈式模型(特別是MoE)推理。

背景:應對DeepSeek等使用大量GPU(如320張卡、40台8卡服務器)並行推理的需求。

應用:適用於微信等日訪問量千億級的平台。單台H20機器做推理吞吐量低(支持32客戶,每秒15 token/客戶),但擴展到40台機器可支持2000用戶並發,每秒20-25 token/客戶。

部署估算:應對每天調用量達10億次的業務場景,約需20萬張H20。

網絡技術 (Nvidia/Mellanox):現狀: 通過收購Mellanox進入網絡領域,產品涵蓋網卡、交換機、光模塊等,支持NVLink。業務增長迅速,但面臨BroadcomMarvell等競爭,在以太網領域未形成絕對主導。

配置推薦: Nvidia推薦CX8作為GB300的標準配置,但非強制。客戶(如AWS用自家網卡,Google/Meta選CX7)會根據自身需求選擇ODM和網絡配置。

服務器組網成本: Scale up(機架內互聯,如NVL72用NVLink)成本占服務器總成本30%以上;Scale out(機架間互聯)用IB(如Quantum)或以太網(如Spectrum-X)。

Quantum (IB): 144口800G產品8月預計量產,但主要上量在明年。全球單組網超4萬張的大客戶可能不超過5家。

CPO (Co-Packaged Optics):Nvidia 進展: 涉及11家關鍵供應商(如Coherent提供PIC中的MMA微透鏡,Lumentum提供激光發射器,台積電/矽品負責封裝等)。

競爭與挑戰: Broadcom起步早,但Nvidia正追趕。早期穩定性問題(前液冷技術和封裝良率)通過供應商技術提升和液冷應用推廣得到改善。

量產預期: 明年是CPO上量的重要年份。Nvidia今年上半年仍在試產(僅3-4個客戶),但明年預計會翻10倍以上,年預計千台起,明年至少1萬多台。

04

總結

Nvidia在新一代GPU(B系列/GB系列)上面臨旺盛需求和複雜的生產/安裝瓶頸,特別是NVLink和先進封裝。H20在中國市場需求強勁。客戶部署規模巨大(CoreWeave, 微軟),其他雲巨頭也在積極規劃。網絡技術(NVLink, IB, CPO)是關鍵配套,Nvidia在此領域持續投入並追趕競爭對手。Dynamo軟件框架旨在配合硬件解決大模型推理挑戰。整體看,AI硬件市場持續高速發展,但也伴隨着供應鏈、技術和部署上的挑戰。

科技分類資訊推薦

蘋果官宣降價:市場策略與行業影響的雙重奏 - 天天要聞

蘋果官宣降價:市場策略與行業影響的雙重奏

在消費電子領域,蘋果公司的一舉一動都備受矚目。近日,蘋果官宣降價的消息如同一顆石子投入平靜的湖面,激起層層漣漪,在消費者、市場以及整個行業中引發了廣泛的關注與熱議。一、降價舉措的背後邏輯蘋果公司此次官宣降價,並非毫無徵兆的突發奇想,而是多種
卷出天花板的電混旗艦?吉利銀河星耀8試駕後,我有些話想說 - 天天要聞

卷出天花板的電混旗艦?吉利銀河星耀8試駕後,我有些話想說

5月9日,吉利銀河星耀8正式上市,僅幾天時間,話題熱度就迅速攀升。不誇張地說,不少車友群、朋友圈幾乎被這台車「刷了屏」。身邊很多朋友也跑來問我:這車真有說的那麼牛嗎?值得入手嗎?帶着這個疑問,我參加了在成都舉行的區域上市品鑒會暨試駕活動。試完之後,我的第一反應
演繹科技浪漫 「手搓」搓出一個全宇宙 - 天天要聞

演繹科技浪漫 「手搓」搓出一個全宇宙

一個從小愛拆車、沒考上大學的孩子,長大後在幹什麼?答案是在雲南農村造車,把科幻片里的車變成現實。雲南昆明山區的農家院里,抖音創作者@豬堅強 的「床車系列」正在刷新認知,能爬樓的履帶車、水陸兩棲的變形車、帶 AI 語音控制的車。
洞察生意本質,開啟財富密碼 - 天天要聞

洞察生意本質,開啟財富密碼

在當今競爭激烈的商業世界中,人人都渴望抓住生意的本質,實現財富的增長。但究竟什麼才是生意的本質?又該如何憑藉它來賺錢呢?生意的本質,說白了就是滿足需求。就像蘋果公司,他們洞察到人們對於簡潔、美觀且功能強大的電子產品的需求,於是推出了一系列驚
小米高端機大跳水,16GB+512GB+60倍變焦,降幅高達2050元 - 天天要聞

小米高端機大跳水,16GB+512GB+60倍變焦,降幅高達2050元

如果你的預算在3000元左右,你會選擇新款中端旗艦還是會選擇某些大跳水的老款高端手機呢?相信不同的人會有不同的決定。如果你比較側重的是遊戲體驗,對拍照的要求不是很高,相信不少網友都會選擇新款中端旗艦....
一季度華為小米手機銷量大增 蘋果再下滑 - 天天要聞

一季度華為小米手機銷量大增 蘋果再下滑

時間來到了5月末,除了華為的影像旗艦Pura 80系列外,各家廠商都已經完成了這一輪的旗艦機型發佈。就在近日,Counterpoint帶來了2025年第一季度的手機銷量統計。各家廠商表現如何?一起來看看。先來看全球市場方面的表現,據報告介紹,2025年Q1全球智能手機市場收入同比增長3%,主要由Apple、vivo及非排名前五的品牌推動。...
蘋果更新過時產品列表,看看有沒有你在用的? - 天天要聞

蘋果更新過時產品列表,看看有沒有你在用的?

據了解,蘋果每隔一段時間就會更新一份「過時產品」名單,包含一些已經停止銷售多年且不再提供官方維修支持的設備。據悉,蘋果會在產品停售5年-7年後標記為過時產品,這意味着這些產品可能無法獲得蘋果官方的維修服務,但如果仍有零件可用,蘋果會提供最多兩年時間的維修服務。而在蘋果最新發佈的過時產品列表中,我們發現...
曝低軌衛星通信開始公測:華為Mate X6典藏版首發 - 天天要聞

曝低軌衛星通信開始公測:華為Mate X6典藏版首發

據博主@數碼閑聊站 最新透露,目前低軌衛星通信系統已經進入了公測階段,順利的話,下半年有望實現消費級衛星組網,在無網絡覆蓋的區域提供網絡連接。參考現有資料,按照衛星軌道高度的不同,通信衛星可以分為低軌通衛星、中軌衛星和高軌衛星。相比於北斗、天通等中高軌道衛星,低軌衛星由於距離地球表面更近,擁有獨特優勢...
兩款真我新機下周發,有一款為限定版機型 - 天天要聞

兩款真我新機下周發,有一款為限定版機型

據悉,真我Neo7 Turbo將於5月29日14:00正式發佈,目前新機的兩款外觀已經公布。真我官方表示。真我Neo7 Turbo擁有透明灰和透明黑兩種配色,手機背面配備閃能DART標、NFC靈透線圈、背板晶刻紋理,弧形線圈清晰可見,紋理隱隱若現,科技感拉滿。真我 realme 副總裁、全球營銷總裁、中國區總裁徐起透露,「在透明後蓋之下,是...