英偉達GPU調研紀要:芯片供需情況,液冷及相關技術進展

2025年05月03日18:43:05 科技 1026

GPU 需求、供應與產品迭代

1.B200/GB200

需求旺盛,但產能爬坡緩慢: 主要瓶頸在於NVLink的安裝環節,而非GPU封裝或模組板/液冷技術。模組板已發給合作夥伴,但安裝調試流程複雜,導致交付速度慢。

交付模式: 部分客戶直接採購HGX B200八卡基板(確認收入周期較短,預計到2025年1月底發出約2萬模組,相當於十幾萬張B200卡)。

定價差異: Nvidia原廠HGX整機約45萬美元(含質保服務),合作夥伴(如戴爾)定製整機通常30萬美元以上,差價約30%。

GB200 vs GB300 架構差異: GB200是焊接在基板上,GPU和Grace CPU無法獨立替換。GB300採用模塊化設計,類似OEM插槽板,CPU/GPU可獨立替換。GB300升級為CX8的800G網絡,採用22層高密度PCB替代GB200的複雜線纜設計。性能提升:FP4算力+50%,顯存容量+50%,顯存總帶寬+約10%。

英偉達GPU調研紀要:芯片供需情況,液冷及相關技術進展 - 天天要聞

2.B300

封裝: 使用CoWoS-S封裝(不同於B200/GB200的L封裝,與Hopper類似)。

量產時間: 預計最早8月底後才能逐漸上量,不會很快。原因在於B200遇到的問題(特別是NVLink安裝)B300也會遇到,且CX8交換板的PCB設計非常複雜,調試需要時間。

產能預期(B系列): 基於CoWoS-L產能,預計B系列年產能可達300萬張B卡(約600萬die)。

定價: 預計比GB200整體模組上漲20%以上,主要因顯存增加50%。

英偉達GPU調研紀要:芯片供需情況,液冷及相關技術進展 - 天天要聞

3.H100/H200/H20

產品切換: H100已全面停產,目前生產切換至H200。

H20:交付: Q1已確認大部分訂單,交付周期12-16周,4月底後收入確認比例高。

中國市場: H20是針對中國市場的主力產品,不會停產。因應對MoE模型(pre-fill需要算力,decoding更依賴顯存帶寬),H20仍有需求。

國內採購: 2025年Q1國內市場確認訂單超70萬張,騰訊約35萬,阿里約20萬,位元組跳動去年已大量採購。H20被認為是當前性價比高且最實用的選擇。

定價: 舉例,從96g HBM升級到141g HBM,單價從12,000美元漲至14,000-15,000美元。

H200/北美需求: B系列(NVL72)在北美CSP中緩慢上量,導致對H200需求猶豫不決。但NVL72被視為最具性價比方案,預計Q2後上量會加快,可能影響H200訂單。

英偉達GPU調研紀要:芯片供需情況,液冷及相關技術進展 - 天天要聞

02

主要客戶與部署情況

NVL72 最大客戶: CoreWeave 和 微軟

CoreWeave: 主要部署在美國東部麻省,3個數據中心總容量12萬多卡(1500個機架),近期安裝已加速,應已完成安裝150個機架。供應商包括Dell緯創Vertiv安費諾等。

微軟: 已安裝至少120個機架,預計全年需求達15,000個機架。鳳凰城數據中心規模最大(含1,500機架,對應11萬多張卡)。加州項目約1,100-1,200機架(對應8.5萬多張卡)。安裝合作方包括富士康、Vertiv、安費諾、英偉達團隊。

谷歌、AWSMeta (2025年計劃):需求明確,但計劃靠後一些。明確計劃採購5,000台機架。

上半年主要以NVL36為主(亞馬遜用廣達,Meta用廣達與緯創合作)。NVL36部分採用風冷,交換機用液冷,整體安裝難度較低。

目前三家在實驗室階段已完成20-30個試驗性機架部署,4-5月間逐步擴展到400-500台。

03

相關技術與生態

CoWoS 產能: 是B系列GPU供應的關鍵因素之一。

Dynamo 軟件框架:Nvidia英偉達開源的推理框架,用於大規模分佈式模型(特別是MoE)推理。

背景:應對DeepSeek等使用大量GPU(如320張卡、40台8卡服務器)並行推理的需求。

應用:適用於微信等日訪問量千億級的平台。單台H20機器做推理吞吐量低(支持32客戶,每秒15 token/客戶),但擴展到40台機器可支持2000用戶並發,每秒20-25 token/客戶。

部署估算:應對每天調用量達10億次的業務場景,約需20萬張H20。

網絡技術 (Nvidia/Mellanox):現狀: 通過收購Mellanox進入網絡領域,產品涵蓋網卡、交換機、光模塊等,支持NVLink。業務增長迅速,但面臨BroadcomMarvell等競爭,在以太網領域未形成絕對主導。

配置推薦: Nvidia推薦CX8作為GB300的標準配置,但非強制。客戶(如AWS用自家網卡,Google/Meta選CX7)會根據自身需求選擇ODM和網絡配置。

服務器組網成本: Scale up(機架內互聯,如NVL72用NVLink)成本占服務器總成本30%以上;Scale out(機架間互聯)用IB(如Quantum)或以太網(如Spectrum-X)。

Quantum (IB): 144口800G產品8月預計量產,但主要上量在明年。全球單組網超4萬張的大客戶可能不超過5家。

CPO (Co-Packaged Optics):Nvidia 進展: 涉及11家關鍵供應商(如Coherent提供PIC中的MMA微透鏡,Lumentum提供激光發射器,台積電/矽品負責封裝等)。

競爭與挑戰: Broadcom起步早,但Nvidia正追趕。早期穩定性問題(前液冷技術和封裝良率)通過供應商技術提升和液冷應用推廣得到改善。

量產預期: 明年是CPO上量的重要年份。Nvidia今年上半年仍在試產(僅3-4個客戶),但明年預計會翻10倍以上,年預計千台起,明年至少1萬多台。

04

總結

Nvidia在新一代GPU(B系列/GB系列)上面臨旺盛需求和複雜的生產/安裝瓶頸,特別是NVLink和先進封裝。H20在中國市場需求強勁。客戶部署規模巨大(CoreWeave, 微軟),其他雲巨頭也在積極規劃。網絡技術(NVLink, IB, CPO)是關鍵配套,Nvidia在此領域持續投入並追趕競爭對手。Dynamo軟件框架旨在配合硬件解決大模型推理挑戰。整體看,AI硬件市場持續高速發展,但也伴隨着供應鏈、技術和部署上的挑戰。

科技分類資訊推薦

圓通在上海成立無人機科技公司 - 天天要聞

圓通在上海成立無人機科技公司

天眼查App顯示,近日,上海圓航無人機科技有限公司成立,法定代表人為李恆貴,註冊資本100萬人民幣,經營範圍包括智能無人飛行器銷售、智能機械人的研發、智能物料搬運裝備銷售等。股東信息顯示,該公司由圓通速遞有限公司全資持股。...
飛行汽車量產「提速」  多家企業公布新進展 - 天天要聞

飛行汽車量產「提速」 多家企業公布新進展

日前,廣汽、長安、一汽、小鵬、沃飛長空等多家企業陸續公布在「飛行汽車」領域的新進展。有觀點認為,飛行汽車正從實驗室邁向市場商業化的起點,相比自動駕駛在複雜路況中的掙扎,飛行汽車在相對可控的低空環境中,反而可能率先實現從概念到現實應用的關鍵一躍。多企業公布新進展多家企業集體發力,無疑為飛行汽車的量產按...
已有18款小米機型獲澎湃OS年中升級 系統/相機體驗優化 - 天天要聞

已有18款小米機型獲澎湃OS年中升級 系統/相機體驗優化

【CNMO科技消息】近日,CNMO注意到,根據第三方統計,目前已經有至少17款小米手機/平板等設備或推澎湃OS 2年中升級。 據了解,目前已有15款機型進入全量推送或灰度轉全量階段,包括Xiaomi 15系列(含15/15 Pro/15 Ultra)、14系列(14/14 Pro/14 Ultra)、13系列(13/13 Pro/13 Ultra),以及MI
台州學院「智方同源」團隊:以數智科技賦能傳統葯食同源 - 天天要聞

台州學院「智方同源」團隊:以數智科技賦能傳統葯食同源

在台州學院創業學院的鼎力支持與浙江省生態學保護重點實驗室的科研支撐下,台州學院「智方同源」學生團隊應運而生。該團隊聚焦於葯食同源領域,創新性地將大數據分析與人工智能技術深度融入功能食品配方設計,首創傳統食療配方圖神經分析技術、食品配方成分-功效網絡模塊互作評價方法和口感預測卷積神經網絡分析技術,致力...
S11芯片+5G加持!Apple Watch Ultra 3今年登場? - 天天要聞

S11芯片+5G加持!Apple Watch Ultra 3今年登場?

日前,分析師 Jeff Pu在一份關於蘋果2025年的產品規劃路線圖裡提到,除了新款 Apple Watch Series 11,今年蘋果也將推出大家都十分關注的新款智能手錶 Apple Watch Ultra 3。屆時 Apple Watch Series 11以及 Apple Watch Ultra 3這兩款新手將會和期待已久的 iPhone 17 系列
以伊衝突還在打,市場卻已經翻篇了! - 天天要聞

以伊衝突還在打,市場卻已經翻篇了!

本周一的交易數據講述了一個令人震驚的故事。就在以色列和伊朗兩國持續相互攻擊之際,黃金價格下跌,美債收益率上升,股市波動率暴跌。股票相對於長期債券的表現達到了特朗普就職日以來的最強水平。這些都是典型的"風險開啟"環境信號。以色列攻擊伊朗核設施長期以來被視為可能嚴重惡化全球風險環境的"終極事件",然而,油價...
人民日報盛讚華為、C919以及DeepSeek - 天天要聞

人民日報盛讚華為、C919以及DeepSeek

【TechWeb】據今日《人民日報》報道,無論是中小型企業還是科技行業的領軍巨頭,都在不斷的實踐與探索中凝練出了一條共通的發展真理:持之以恆,沉得住氣。面對外界的封鎖與壓力,華為公司逆境而上,推出了具有突破性的麒麟系列芯片,並自主研發了鴻蒙操作系統,這些新產品在全球市場上實現了重要突破。華為創始人任正非表...