硅基昇騰,中國突圍

2025年05月16日21:20:21 國際 3667
硅基昇騰,中國突圍 - 天天要聞
硅基昇騰,中國突圍 - 天天要聞

用空間換算力;用帶寬換算力;用能源換算力……用一切換算力。


作 者熊劍輝
華商韜略出品id:hstl8888
硅基昇騰,中國突圍 - 天天要聞


硅基昇騰,中國突圍 - 天天要聞

2025年1月15日,中國ai大模型deepseek r1剛一問世,便震動全球。

針對deepseek,全世界展開了一場龍爭虎鬥。

硅基昇騰,中國突圍 - 天天要聞

可僅僅2周之後,2月1日(大年初四),華為雲就聯合硅基流動基於昇騰雲推出deepseek r1/v3,引爆全網。

從模型到算力,從引擎到框架,全面實現國產化。

這其中,deepseek和華為自不用說。硅基流動作為一家ai infra(ai基礎設施)企業,則是清華博士袁進輝2023年剛創立的創業公司。

創業公司往往嗅覺極度靈敏。

其實,早在deepseek v3發布前一個月,deepseek創始人梁文鋒就找到袁進輝,問他要不要部署?

袁進輝算了一筆賬:動用80台英偉達h800服務器,單月花費五六百萬,風險很大。

但眼見着deepseek越來越火爆,全世界的ai團隊都爭分奪秒,連英偉達也親自下場。

時間不等人,硅基流動火速找到華為雲。雙方一拍即合,決心大幹一場,希望能用國產算力率先搞定部署難題。

華為雲的方案,正是昇騰雲。

硅基昇騰,中國突圍 - 天天要聞

於是,雙方經過徹夜不息的努力,終於在2月推出基於昇騰雲與硅基流動推理加速引擎的deepseek,成為國內第一個成功部署deepseek服務的企業。

僅2月,硅基流動網站訪問量暴增40倍,衝上中國ai網站排行榜第6、全球ai網站增長榜第2。

狂暴的流量,讓人又驚又喜。

據華為雲技術負責人王磊回憶,硅基流動deepseek剛上線,第一波流量超乎想象。他不得不四處騰挪,緊急調撥2000多張昇騰910b卡馳援,才勉強扛住。

但第一波“洪峰”之後,更大的流量爆發了。

這一次,不得不每次1000卡地往上加,不計上限地調配算力,才勉強扛住。

但這一波之後呢?未來的流量,還會爆發到怎樣的程度?

沒有人知道。

於是,華為雲找到袁進輝,亮出當時還秘不示人的“大殺器”——cloudmatrix 384超節點。

對於超節點,袁進輝早有耳聞。

2024年3月,英偉達首發nvl72超節點,一度震驚世界。

傳統ai服務器里,一張計算卡僅能容納8塊gpu;但nvl72超節點,能將72塊gpu組成一台超級ai服務器,令ai算力和通訊速度實現飆升。

所以,超節點是一種將gpu高度集成的ai服務器“黑科技”。

誰也沒想到,華為雲這麼快就搞出了cloudmatrix 384超節點。

而且,華為雲超節點的昇騰卡互聯數量飆升到384張,遠超英偉達nvl72的72卡。

這是中國ai的算力之巔,更是前所未有的應用挑戰。

當時,袁進輝坦承對cloudmatrix 384懷有疑慮:

第一,deepseek所需的大規模專家並行,要求多卡之間實現低延遲、高協同,並使用all-to-all通信。

但即便是英偉達,對all-to-all的支持也相當乏力。

cloudmatrix 384行不行?沒有人知道。

第二,英偉達nvl72超節點,採用銅連接;cloudmatrix 384卻採用光模塊。區別在哪呢?

光模塊通信具備更高帶寬和更低時延,適合大容量、長距離傳輸;此外光網絡架構簡化,空間和功耗節省顯著,且擴展性更強。但光模塊最大的問題就在於故障率高。

硅基昇騰,中國突圍 - 天天要聞

這個超高難度的連接方式,到底行不行?沒有人知道。

儘管充滿疑慮,但袁進輝選擇“信華為”:

“華為不僅是打過硬仗的團隊,更創造了很多很多的奇蹟。”

實際上,袁進輝的疑慮,也正是騰建軍所擔心的。

硅基昇騰,中國突圍 - 天天要聞


2023年2月,一場驟然爆發的電源浪涌,席捲新加坡數據中心,多家雲廠商和數據中心客戶受影響。

騰建軍,正是這場危機的親歷者。

當時,新加坡華為雲和微軟雲恰好在同一數據中心。唯一不同的是,電源浪涌爆發後,華為雲的ai for dc(data center),迅速“感知”到電源浪涌引發的高溫,自動觸發應急預警。

作為資深專家,騰建軍和團隊迅速判斷出,這將是一場全局危機。

這也是一場爭分奪秒的戰鬥。

1分鐘發現故障,3分鐘建立作戰室進行統一指揮,1小時內啟動乾冰應急計劃……

騰建軍率領團隊頭戴防毒面罩、手挑乾冰,衝進現場給服務器物理降溫,生生扛住這波突襲,確保了華為雲穩定運行。

江湖傳言,這一天,新加坡的乾冰被華為雲直接搬空。

微軟雲在內部溫度驟升、短暫抵抗之後,關閉了服務器,中斷了雲服務。

微軟雲客戶甚至是在twitter上,才得知自家業務猛然宕機,被打了個措手不及。

一邊迅速趴窩,一邊穩如泰山。

僅此一招,足見華為雲的功力。

但智算超節點時代,對數據中心的要求更加苛刻。

在騰建軍眼中,cloudmatrix 384超節點要在物理上真正落地,數據中心要解決的是一連串實打實的難題。

因為數據中心,是“智算超節點產品”不可分割的一部分。

比如供電。

傳統數據中心,供電只做到8-10千瓦/機櫃;但為了驅動cloudmatrix 384,僅供電就要飆升到50千瓦甚至更高,怎麼辦?

那就突破標準,超前技術準備、超前建設。

散熱上,一套cloudmatrix 384橫跨16個機櫃,熱量密度飆升,必須構建一套精密的液冷散熱系統。

這其中,僅鏟齒散熱器的縫隙,就堪比髮絲般精細。一旦散熱液潔凈度出現些許問題,或是不可避免滋生細菌微生物,就很可能將鏟齒散熱器堵死,不可避免導致大規模宕機。

這時候,又怎麼辦?

一方面,用ai for dc提前預警;另一方面,通過物理+化學的新方法長效殺菌,實現數學、物理到生物、化學的跨界研究,引領一場液冷革命。

而這些技術,早在幾年前就在華為雲得到規模應用,展現出技術超前投入的前瞻價值。

光模塊,差點成了騰建軍“過不去的坎”。

實際上,華為在光通信領域早已世界領先。

2020年,華為全球首發800g超高速光模塊,獨步全球;2025年,華為再發1.6t硅光模塊,在800g基礎上再翻一倍。

至此,業界已無人得見華為光通信的“車尾燈”。

強大的技術積澱,讓華為雲用光模塊構建超節點,而非採用銅連接,成為一種必然。

可真槍實彈幹起來才發現,困難比預想的大得多。

實測中,騰建軍發現:光鏈路的閃斷太頻繁了,結果就是——完全不能用!

“咯噔”一下子。問題嚴重了!

當時,cloudmatrix 384赫然被列入華為重點密級項目,是必須強渡的“大渡河”。加上單卡性能不如人,被逼得只能闖光模塊這“華山一條路”。真被卡死,滿盤皆輸。

但那段時間,騰建軍對團隊說的最多的話卻是:

不要談困難,想盡辦法去突破。

於是,一邊內部想辦法,一邊外界請高人,同時,只能用最笨的辦法把難題列出來,一條條去攻克。

終於,騰建軍團隊發現:八成以上問題,出在光模塊幾乎肉眼不可見的臟污上,嚴重影響了通訊質量;而臟污的產生,就在數據中心現場超節點內網互連的安裝環節。

找准了關鍵就好辦。

於是,團隊打造出針對光模塊故障的定位和修復系統,通過數字化平台上的專家經驗庫和現場光模塊的故障現象進行對接,實現了問題快速定位、故障迅速處置。

這一次,cloudmatrix 384再上線,速率、穩定性大幅提高。

作為全球首次大規模動用光模塊部署超節點的探索,華為雲創造了“奇蹟”。

這一切,都成為硅基流動基於cloudmatrix 384再次爆發的堅實根基。

硅基昇騰,中國突圍 - 天天要聞


2月底,當強大的cloudmatrix 384呈現在硅基流動團隊面前時,所有人面對的,卻是一場新的長征。

王磊清楚記得:

3月初,硅基流動deepseek服務在超節點上剛跑通,吞吐量只有320 tokens/秒,低到令人難以置信。

一台算力怪獸,表現如此拉胯,問題出在哪?沒有人知道。

實際上,普通人很難想象,大模型內星辰般的宏大:

它的參數,高達數千億級;它的神經網絡層級,成百上千;每個算子(神經網絡中具備特定功能的算法節點)背後,連接着不計其數的分布式系統;它的結果,則由成百上千張gpu協同計算輸出,充滿概率偶然。

要在這其中找出問題,彷彿是在一座亞馬遜雨林中通緝一隻細菌。

這幾乎是一個不可能完成的任務。

但華為雲,必須上。

很快,王磊發動“超能力”,開始全公司“搖人”。

從底層做芯片的、做存儲的、做計算的,到上層做算子的、做推理的、做平台的……王磊竭盡所能,幾乎把技術棧上的所有團隊拉到現場,跟硅基流動團隊協同辦公、攻堅克難。

協議有問題,馬上改協議;算子有問題,馬上改算子……圍繞硅基流動deepseek服務上的超節點大計,華為上百人的團隊,晝夜攻關不息。

而對華為雲團隊來說,冗長的測試,更是一個永不停歇的“西西弗神話”。

通信有瓶頸,優化通信;但接着,計算問題又冒出來了;於是,優化計算後,gpu、npu太快,cpu不匹配……

當整個技術棧全部優化一遍後,王磊猛然發現,問題又從最初的源頭,再次冒了出來。

總之,按下葫蘆浮起瓢。

但就是在這種重複、重複、再重複的優化過程中,cloudmatrix 384,終於被托舉到一個不可思議的新高度。

4月10日,華為雲生態大會,硅基流動創始人袁進輝鄭重宣布:

基於cloudmatrix 384的deepseek-r1在保證單用戶 20 tps 水平前提下,單卡 decode 吞吐量突破 1920 tokens/秒。

硅基昇騰,中國突圍 - 天天要聞

這什麼概念?

相較英偉達h100,性能追平;相較3月初的cloudmatrix 384,性能提升6倍;相較昇騰910b單卡,性能飆升10倍。

這背後,cloudmatrix 384還實現了性能倍增(訓推提升20%)、以存強算(吞吐量提升100%)、moe親和(千億moe提升3x)、長穩可靠(長穩運行40天不中斷)、朝推夜訓(算力利用率提升30%)、即開即用六大特性。

以moe親和為例。

硅基昇騰,中國突圍 - 天天要聞

所謂moe,即deepseek中的“混合專家模型”。deepseek之所以功能超強,在於其會內置多個“專家”處理問題。而在硬件層面,通常1枚芯片對應1個“專家”,於是芯片越多,效率越高、性能越強。

而超節點集成了384張昇騰卡,極大優化了moe能力。

這不僅令deepseek性能大爆發,更展現出華為雲在ai技術上的前瞻布局。

今天,在華為雲三大雲核心樞紐(貴州貴安、內蒙古烏蘭察布、安徽蕪湖),cloudmatrix 384實現全面布局,成為國內唯一正式商用的大規模超節點。

強大的算力網,令萬卡級服務,分分鐘即可開啟。

這不僅是華為雲的自我超越,也不僅是部分指標上對英偉達的超越,更大的意義,在於中國ai正呈現出體系化的突破式創新。

用袁進輝的話說:美國試圖像“三體人”一樣,用芯片鎖死中國科技。

但6年抗爭過去,向死而生的華為,卻越挫越勇。

當歷經了鴻蒙蟄伏、海思攻堅、昇騰崛起……憑藉華為雲cloudmatrix 384超節點,一道堅不可摧的國產算力防線正在構建。

ai長跑沒有終點,突破,也不會有終點。但中國ai,一定會迎來自己的“奇點”時刻。

(應受訪者要求,文中王磊、騰建軍為化名)



硅基昇騰,中國突圍 - 天天要聞

the  end

尊敬的讀者朋友們,衷心感謝您訂閱《華商韜略》,為了便於您及時收到我們的最新推送,敬請星標華商韜略公眾號,感謝支持,期待長久伴您同行。

華商韜略出品

主編:畢亞軍  責編周怡

美編:殷姍姍

國際分類資訊推薦

大連天氣:別著急,後面會有雨的… - 天天要聞

大連天氣:別著急,後面會有雨的…

春風吹夏淺,人間五月天,風暖花香綠漸深。今天濱城又是晴暖的好天氣,偏南風風力不大,市區白天最高氣溫基本維持在17℃附近,人體感覺十分舒適。預計今天夜間天空雲量將逐漸增多,局部還會有霧氣縈繞,氣溫在12~15℃之間。晚上還是有絲絲涼意,提醒大家適當增加衣物。
感謝中國vs拉攏美國:巴基斯坦的左右逢源術 - 天天要聞

感謝中國vs拉攏美國:巴基斯坦的左右逢源術

聲明:本文內容均引用網絡資料結合個人觀點進行撰寫,請悉知。2025年5月10日,印巴停火協議出爐,巴基斯坦總理夏巴茲·謝里夫站上講台,鄭重其事地說:“感謝中國,這是一場兄弟般的援助。”熱度還沒散,第二天他又加了一句:“當然美國也在停火過程中
全球第二大鋁土礦生產國強勢出手,一口氣收回51個礦權 - 天天要聞

全球第二大鋁土礦生產國強勢出手,一口氣收回51個礦權

財聯社5月17日訊(編輯 趙昊)據媒體報道,幾內亞政府宣布已經收回了51份礦業許可。一些分析師認為,此舉是全球第二大鋁土礦生產國對大型運營商發出的警告。報道稱,當地時間周四(5月15日)深夜,幾內亞信息和新聞部長法納·蘇馬(Fana Soumah)在電視講話中宣布,幾內亞總統馬馬迪·敦布亞(Mamadi Doumbouya)已簽署收回...
市黨政領導班子開展深入貫徹中央八項規定精神學習教育專題研討(專題二)暨市委理論學習中心組2025年第2次專題學習會 - 天天要聞

市黨政領導班子開展深入貫徹中央八項規定精神學習教育專題研討(專題二)暨市委理論學習中心組2025年第2次專題學習會

原標題:市黨政領導班子開展深入貫徹中央八項規定精神學習教育專題研討(專題二)暨市委理論學習中心組2025年第2次專題學習會蔣連生主持並講話5月16日,市黨政領導班子開展深入貫徹中央八項規定精神學習教育專題研討(專題二)暨市委理論學習中心組2025年第2次專題學習會,深入學習貫徹習近平總書記關於加強黨的作風建設的...
四部門啟動“劍網2025”專項行動 - 天天要聞

四部門啟動“劍網2025”專項行動

新華社北京5月16日電(記者 史競男)國家版權局、工業和信息化部、公安部、國家互聯網信息辦公室四部門近日聯合啟動打擊網絡侵權盜版“劍網2025”專項行動,這是全國持續開展的第21次打擊網絡侵權盜版專項行動。
俄烏在伊斯坦布爾重啟直接談判 - 天天要聞

俄烏在伊斯坦布爾重啟直接談判

俄羅斯和烏克蘭兩國代表團5月16日在土耳其伊斯坦布爾重啟關於和平解決俄烏衝突的直接談判,這是雙方3年來舉行的首次直接談判,談判持續近2個小時。
綠園區退役軍人事務局開展健康體檢活動 - 天天要聞

綠園區退役軍人事務局開展健康體檢活動

活動期間,工作人員科學組織退役軍人預約分流,分批次、錯峰體檢,確保體檢流程高效順暢。醫院精心定製體檢套餐,全面評估退役軍人健康狀況,開闢綠色通道,安排經驗豐富的醫護人員全程引導,並建立專屬健康檔案,耐心解答健康疑問,後續開展健康回訪,持續關注退役軍人健康動態。
河南今年培訓500名化學中毒與核輻射急救人員 - 天天要聞

河南今年培訓500名化學中毒與核輻射急救人員

近期,河南連續舉辦兩期化學中毒與核輻射急救隊伍能力提升培訓班,來自全省各地的500名化學中毒與核輻射急救人員接受了應急反應能力與實戰水平培訓,進一步提升了全省化學中毒與核輻射隊伍急救能力。