英偉達GPU調研紀要:芯片供需情況,液冷及相關技術進展

2025年05月03日18:43:05 科技 1026

GPU 需求、供應與產品迭代

1.B200/GB200

需求旺盛,但產能爬坡緩慢: 主要瓶頸在於NVLink的安裝環節,而非GPU封裝或模組板/液冷技術。模組板已發給合作夥伴,但安裝調試流程複雜,導致交付速度慢。

交付模式: 部分客戶直接採購HGX B200八卡基板(確認收入周期較短,預計到2025年1月底發出約2萬模組,相當於十幾萬張B200卡)。

定價差異: Nvidia原廠HGX整機約45萬美元(含質保服務),合作夥伴(如戴爾)定製整機通常30萬美元以上,差價約30%。

GB200 vs GB300 架構差異: GB200是焊接在基板上,GPU和Grace CPU無法獨立替換。GB300採用模塊化設計,類似OEM插槽板,CPU/GPU可獨立替換。GB300升級為CX8的800G網絡,採用22層高密度PCB替代GB200的複雜線纜設計。性能提升:FP4算力+50%,顯存容量+50%,顯存總帶寬+約10%。

英偉達GPU調研紀要:芯片供需情況,液冷及相關技術進展 - 天天要聞

2.B300

封裝: 使用CoWoS-S封裝(不同於B200/GB200的L封裝,與Hopper類似)。

量產時間: 預計最早8月底後才能逐漸上量,不會很快。原因在於B200遇到的問題(特別是NVLink安裝)B300也會遇到,且CX8交換板的PCB設計非常複雜,調試需要時間。

產能預期(B系列): 基於CoWoS-L產能,預計B系列年產能可達300萬張B卡(約600萬die)。

定價: 預計比GB200整體模組上漲20%以上,主要因顯存增加50%。

英偉達GPU調研紀要:芯片供需情況,液冷及相關技術進展 - 天天要聞

3.H100/H200/H20

產品切換: H100已全面停產,目前生產切換至H200。

H20:交付: Q1已確認大部分訂單,交付周期12-16周,4月底後收入確認比例高。

中國市場: H20是針對中國市場的主力產品,不會停產。因應對MoE模型(pre-fill需要算力,decoding更依賴顯存帶寬),H20仍有需求。

國內採購: 2025年Q1國內市場確認訂單超70萬張,騰訊約35萬,阿里約20萬,字節跳動去年已大量採購。H20被認為是當前性價比高且最實用的選擇。

定價: 舉例,從96g HBM升級到141g HBM,單價從12,000美元漲至14,000-15,000美元。

H200/北美需求: B系列(NVL72)在北美CSP中緩慢上量,導致對H200需求猶豫不決。但NVL72被視為最具性價比方案,預計Q2後上量會加快,可能影響H200訂單。

英偉達GPU調研紀要:芯片供需情況,液冷及相關技術進展 - 天天要聞

02

主要客戶與部署情況

NVL72 最大客戶: CoreWeave 和 微軟

CoreWeave: 主要部署在美國東部麻省,3個數據中心總容量12萬多卡(1500個機架),近期安裝已加速,應已完成安裝150個機架。供應商包括Dell緯創Vertiv安費諾等。

微軟: 已安裝至少120個機架,預計全年需求達15,000個機架。鳳凰城數據中心規模最大(含1,500機架,對應11萬多張卡)。加州項目約1,100-1,200機架(對應8.5萬多張卡)。安裝合作方包括富士康、Vertiv、安費諾、英偉達團隊。

谷歌、AWSMeta (2025年計劃):需求明確,但計劃靠後一些。明確計劃採購5,000台機架。

上半年主要以NVL36為主(亞馬遜用廣達,Meta用廣達與緯創合作)。NVL36部分採用風冷,交換機用液冷,整體安裝難度較低。

目前三家在實驗室階段已完成20-30個試驗性機架部署,4-5月間逐步擴展到400-500台。

03

相關技術與生態

CoWoS 產能: 是B系列GPU供應的關鍵因素之一。

Dynamo 軟件框架:Nvidia英偉達開源的推理框架,用於大規模分布式模型(特別是MoE)推理。

背景:應對DeepSeek等使用大量GPU(如320張卡、40台8卡服務器)並行推理的需求。

應用:適用於微信等日訪問量千億級的平台。單台H20機器做推理吞吐量低(支持32客戶,每秒15 token/客戶),但擴展到40台機器可支持2000用戶並發,每秒20-25 token/客戶。

部署估算:應對每天調用量達10億次的業務場景,約需20萬張H20。

網絡技術 (Nvidia/Mellanox):現狀: 通過收購Mellanox進入網絡領域,產品涵蓋網卡、交換機、光模塊等,支持NVLink。業務增長迅速,但面臨BroadcomMarvell等競爭,在以太網領域未形成絕對主導。

配置推薦: Nvidia推薦CX8作為GB300的標準配置,但非強制。客戶(如AWS用自家網卡,Google/Meta選CX7)會根據自身需求選擇ODM和網絡配置。

服務器組網成本: Scale up(機架內互聯,如NVL72用NVLink)成本占服務器總成本30%以上;Scale out(機架間互聯)用IB(如Quantum)或以太網(如Spectrum-X)。

Quantum (IB): 144口800G產品8月預計量產,但主要上量在明年。全球單組網超4萬張的大客戶可能不超過5家。

CPO (Co-Packaged Optics):Nvidia 進展: 涉及11家關鍵供應商(如Coherent提供PIC中的MMA微透鏡,Lumentum提供激光發射器,台積電/矽品負責封裝等)。

競爭與挑戰: Broadcom起步早,但Nvidia正追趕。早期穩定性問題(前液冷技術和封裝良率)通過供應商技術提升和液冷應用推廣得到改善。

量產預期: 明年是CPO上量的重要年份。Nvidia今年上半年仍在試產(僅3-4個客戶),但明年預計會翻10倍以上,年預計千台起,明年至少1萬多台。

04

總結

Nvidia在新一代GPU(B系列/GB系列)上面臨旺盛需求和複雜的生產/安裝瓶頸,特別是NVLink和先進封裝。H20在中國市場需求強勁。客戶部署規模巨大(CoreWeave, 微軟),其他雲巨頭也在積極規劃。網絡技術(NVLink, IB, CPO)是關鍵配套,Nvidia在此領域持續投入並追趕競爭對手。Dynamo軟件框架旨在配合硬件解決大模型推理挑戰。整體看,AI硬件市場持續高速發展,但也伴隨着供應鏈、技術和部署上的挑戰。

科技分類資訊推薦

蘋果 macOS 26 開發者預覽版 Beta 3 發布 - 天天要聞

蘋果 macOS 26 開發者預覽版 Beta 3 發布

IT之家 7 月 8 日消息,蘋果今日向 Mac 電腦用戶推送了 macOS 26 開發者預覽版 Beta 3 更新(內部版本號:25A5306g),本次更新距離上次發布 Beta/RC 間隔 14 天。 本文由機器人發布,IT之家稍後將為大家帶來具體更新內容。 附 macOS 26 發布歷史: IT之家小夥伴如果找到更多新內容,可以在投稿或評論區中提出你的
蘋果 watchOS 26 開發者預覽版 Beta 3 發布 - 天天要聞

蘋果 watchOS 26 開發者預覽版 Beta 3 發布

IT之家 7 月 8 日消息,蘋果今日向 Apple Watch 用戶推送了 watchOS 26 開發者預覽版 Beta 3 更新(內部版本號:23R5307g),本次更新距離上次發布 Beta/RC 間隔 14 天。 本文由機器人發布,IT之家稍後將為大家帶來具體更新內容。 附 watchOS 26 發布歷史: IT之家小夥伴如果找到更多新內容,可以在投
蘋果 iOS/iPadOS 26 開發者預覽版 Beta 3 發布 - 天天要聞

蘋果 iOS/iPadOS 26 開發者預覽版 Beta 3 發布

IT之家 7 月 8 日消息,蘋果今日向 iPhone 和 iPad 用戶推送了 iOS/iPadOS 26 開發者預覽版 Beta 3 更新(內部版本號:23A5287g),本次更新距離上次發布 Beta/RC 間隔 14 天。 本文由機器人發布,IT之家稍後將為大家帶來具體更新內容。 附 iOS/iPadOS 26 發布歷史: IT之家小夥伴如果找到更多
2025年亞馬遜Prime日音響特惠直播 - 天天要聞

2025年亞馬遜Prime日音響特惠直播

#迎瑞午粽香納福#快速導讀Grado SR325x 耳機是市場上備受推崇的有線耳機,以其卓越音質和復古設計獲得多項獎項,價格為247美元,折扣幅度顯著。
互聯網係數字銀行搶灘港險分銷,能否重塑香港保險生態? - 天天要聞

互聯網係數字銀行搶灘港險分銷,能否重塑香港保險生態?

在低利率環境下,香港保險產品的高回報率吸引着越來越多的投資者。近期,螞蟻銀行、PAO Bank等持牌數字銀行紛紛進軍保險市場,分銷險企的儲蓄險、人壽險等高收益產品。 雖然銀保合作在香港保險市場並非新鮮事物,但市場份額長期受限。部分市場觀察人士期待,擁有內地互聯網背景的數字銀行能夠憑藉其技術優勢和數字化運營經...
啟動招募!面向全球AI創業者—— - 天天要聞

啟動招募!面向全球AI創業者——

在中關村科學城北部核心區一座瞄準全球人工智能頂峰的生態地標正在崛起“中關村AI北緯社區”正式啟動全球招募“中關村AI北緯社區”以“從這裡,定義AI的千萬種可能”為核心理念定位於建設“全球頂級人工智能生態圈”致力成為AI創業者的首選地和風向標
“婉約派”流行人聲塞——淺談達音科Vulkan2 - 天天要聞

“婉約派”流行人聲塞——淺談達音科Vulkan2

一個品牌的發展,既要考慮自身的奮鬥,也要考慮歷史的進程......達音科就是那個在國產便攜HIFI圈子裡必能史上留名的牌子,也是主流的一線品牌里最早開始卷硬件配置的那個,但是放在2025年,當年那套數單元數量再對比價格去衡量“性價比”的路線
清華大學校巴接入高德地圖:可規劃最優路徑、查看車輛實時位置 - 天天要聞

清華大學校巴接入高德地圖:可規劃最優路徑、查看車輛實時位置

IT之家 7 月 7 日消息,根據清華大學校園交通管理服務官方公眾號“行在清華”今晚的推文,經該校學生部、保衛部、信息辦及接待中心等部門協同推進,清華校園巴士線路信息正式接入高德地圖導航系統。用戶可通過高德地圖便捷查詢校園巴士路線、獲取導航服務,實現校內外出行路線的無縫銜接。校方表示,升級後的導航功能支持智...