
文 | 錢錢
編輯 | 阿景
現在咱們刷短視頻、逛電商、搶火車票,背後都靠數據中心網路撐著。
大廠的DCN(數據中心網路)就像行業的技術樣板間,他們怎麼搭架構、選設備,小公司基本就跟著學。

今天就聊聊大廠DCN的架構、協議和運維這三件事,看看這些技術風向標到底有啥不一樣。
DCN架構的十年變身
早期數據中心的伺服器擺得跟村裡散養雞似的,一台台隔開,留著寬過道,方便人工檢修。
那會兒金融機構的ServerFarm就是典型,伺服器密度低得可憐,畢竟金融業務求穩,出點故障可不是鬧著玩的。

互聯網公司就不一樣了。
用戶量爆炸式增長,伺服器不夠用,機房空間又金貴,只能往"密"里整。
現在大廠的DCN,伺服器堆得跟鋼鐵森林似的,密度比早期金融數據中心高了20倍不止。
這可不是瞎堆,得看業務屬性。

在線業務比如直播、支付,講究"快",伺服器得挨近點,數據傳輸時延才能壓到最低。
離線業務比如數據備份、AI訓練,對時延不敏感,但數據量大,就得優先考慮成本,伺服器可以分區域放,甚至用便宜點的硬體。
阿里張北數據中心的離線業務集群就很典型。
他們把伺服器分組部署,每組之間留著"防火牆",一組出問題,另一組能立馬頂上。

這種設計既省了錢,又扛住了風險,算是把"集約化"玩明白了。
協議和硬體的攻守戰
架構搭好了,數據在裡面跑還得靠協議指揮,就像修好了高速公路,得有交通規則才行。
大廠DCN里,協議的江湖也挺熱鬧。

以前企業網最愛用OSPF協議,簡單好上手。
但到了大廠DCN,OSPF基本銷聲匿跡了,現在當家的是BGP。
為啥?BGP就像個萬能插頭,能接各種網路,擴展性強;規則靈活,想讓數據走哪條路就走哪條;最重要的是,用的人多,生態成熟,出問題了好找解決方案。
舉個例子,早期DCN用ECMP協議分流量,就像幾條路一起開車,但總有條路車多、條路車少,效率低。

後來大廠搞出UCMP,能根據每條路的實時狀態分配流量,某電商大促時,一條鏈路突然擁堵,系統自動把流量分到其他路,用戶都沒感覺卡頓。
硬體這邊,機框式交換機以前是香餑餑,一個大機箱插十幾個線卡,埠多。
但現在大廠基本改用盒式交換機了。
機框式有個致命問題:一個線卡壞了,整個機箱都可能受影響,故障範圍太大,就像一棟樓的水管爆了,整棟樓停水。

盒式交換機小巧靈活,一個壞了換一個,故障範圍可控,成本還低,三年周期算下來,TCO能省不少。
某大廠早年吃過機框式的虧。
一次跨廠商排障,機框內部模塊兼容性出問題,查了48小時才找到原因,業務停了小半天。
從那以後,他們就慢慢換成盒式設備了。

光模塊是連接伺服器和交換機的"數據線",別看小,學問大。
高速信號傳輸時,速率、距離、功耗、可靠性得平衡。
以前大廠買現成的貨架產品,現在都跟廠商聯合研發,比如從SR4到DR4的升級,就是根據自己機房的距離和速率需求定製的,既能滿足性能,又能壓成本。
日常運維才是真考驗。

大廠的DCN一天要處理幾億次請求,出點小故障都可能影響幾千萬用戶,所以他們的運維團隊練就了"秒級響應"的本事。
他們在網路里到處插"探針",就像遍布全城的監控攝像頭,哪條鏈路堵了、哪個設備卡了,立馬能發現。
配合ARP/ND轉主機路由技術,故障設備能被快速隔離,不會連累其他區域。
自動化運維也是標配。

BGP團體字策略就像給路由貼標籤,哪條路由從哪來、要去哪,一看標籤就知道,管理起來清清楚楚。
故障發生時,系統能自動觸發修複流程,從告警到業務恢復,全程不用人工插手。
數據驅動決策也用得溜。
比如統計不同廠商設備的故障率,談判時直接甩數據:"你家設備半年壞了5次,別家才1次,價格得再降降。"廠商也沒法反駁。

說到底,大廠DCN的技術路線,其實就一個邏輯:業務需要什麼,就做什麼優化。
不追時髦技術,只解決真問題。
未來雲網融合,DCN還得跟著業務變,但核心邏輯估計跑不了簡單、可靠、成本可控,這才是技術該有的樣子。