文 / 騰訊科技特約作者 某廠後端產品pmo總監 morris.zhang
前段時間，知名硬件網站tomshardware援引知情人士的消息稱，英偉達為了確保今年的gh200、h200的供應，開出13億美元的預算，向美光和sk海力士預定了部分hbm3e內存產能。
不過由於這組數據沒有合理的計算，13億的預算的可信度有待確認，但可以肯定的是，這筆預算不可能買空2024年全球hbm的產能。
它的價值在於，可以幫助英偉達搶到2024年上半年「壟斷算力」的機會窗口——產品先市場化，就能先搶到市場份額。
2024，約5600萬顆hbm出貨
2024年，sk海力士、美光和三星三家代工產能總計會擴大到75萬片晶圓，按目前業內的數據，hbm3e的良率大概90%左右，每片晶圓約可以切出750顆，全球2024年的hbm總產能大致為5600萬顆（12層 + 8層），但是大規模產能集中在下半年開出，上半年比例略小。
倘若基於2024年cowos封裝產能推算：
而在gpu-hbm垂直封裝的產能方面，截至2024年第4季度，全球cowos的封裝總產能推算大約30萬片晶圓，其中包括台積電約27萬片，amkor約4萬片，而由於這些晶圓流片的工藝節點集中在5nm和3nm，當期良率約為38%，保守設定單片晶圓可以切30顆gpu芯片，即2024年全年，全球經由cowos封裝的gpu產品，產能約為900萬顆。按照單顆gpu邏輯芯片搭配6顆hbm內存顆粒的標準計算（amd mi300搭配8顆hbm），全球2024年的gpu，對hbm內存的需求就在5400萬顆以上（12層為主）。
小注釋：cowos俗稱2.5d封裝，全稱是chip on wafer on substrate，用於在相對理想的電氣規則下滿足多顆計算芯片的互連以及存儲芯片的堆疊實現。
目前，12層hbm顆粒的渠道單價約為每顆250美元+，倘若13億預算的說法屬實，英偉達僅能預訂520萬顆，僅佔hbm全年總產能的1/10。
實際上，根據封裝數據的推算，英偉達2024年預定了超過14萬片晶圓的cowos產能，其中台積電作為「主要供應商」分到12萬片，amkor作為「次級供應商」分到2-3萬片，對應gpu總體的產能接近450萬顆。
按照每顆gpu邏輯芯片和存儲顆粒1：6的比例測算，即英偉達全年需要約2700萬顆hbm，基於單顆250美元的成本測算，意味着英偉達全年採購hbm芯片的費用可以預測到68億美元，遠超此前媒體披露的13億美元預算。
注意：諸如英偉達rtx系列使用gddr6顆粒的消費級顯卡，自然不會計入cowos產能；上述的英偉達產能是特指hopper系列和blackwell架構的b200，由此估算2024年英偉達的hbm顆粒訂單需求是2700萬顆。
hbm產能吃緊的背後
截至2024年第4季度，各家gpu超算產品對應hbm顆粒封裝的預定產能大約900萬顆，結合2025年海力士/三星/鎂光三家內存廠的擴產計劃總計近6000萬顆hbm（12層為主，8層略少），這兩份供應數據就是吻合的，同時也說明2024-2025年的cowos和hbm產能是充足的。
不過雖然產能不缺，但是上述數據畢竟是「年度計」，事實上很多產能直到第4季度才會開出，而各家預定的產能當然是越早越好，時效性是關鍵條件，上半年初的機會窗口更重要，倘若下半年才開始投產，那麼產品進入渠道就要等到次年。
另外關於cowos產能的擴充，目前主要依賴台積電和amkor的產能，諸如台聯電、格芯等產線，雖然也能做前道65nm的中介層，但由於缺乏先進制程覆蓋的能力，即無法代工前道的先進工藝邏輯芯片和中介層，也無法實現一條龍的cowos全棧，目前看最有機會的追趕者是三星。
三星計劃導入全棧cowos封裝，產品化命名為i-cube/h-cube，與台積電爭奪訂單；但是三星在2024年尚且不能開出產能，2025年可能對三星更有利，作為同時供應hbm和cowos的idm廠商，其工藝特點和價格優勢是顯見的。（未來，三星還會推出x-cube 3d封裝，統稱為saint，即三星先進封裝技術。）
另外，倘若2025年英特爾的晶圓代工業務順利實現獨立運營，其intel foveros封裝方案也值得觀望。
當前我們看到hbm全球庫存和渠道周轉十分緊張，實際原因是當期hbm3e供應商僅有sk海力士一家，恰逢大模型高速發展的趨勢帶來的hbm需求高峰，進而出現供需失衡，但這種失衡會隨着產能擴大而減緩。
不過，有一點需要關注，存儲顆粒是一種標準品sku，無需針對顆粒本身做客戶化定製，於是這個品類就產生了所謂現貨市場。標準現貨是可以通過渠道或分銷平台正常流通的，即倘若2024年sk海力士、美光和三星三家內存廠規劃的產能全部順利開出，則全球各區域的代理商庫存都會充足，無數的次級渠道/次級代理商都可以無限轉售。
因此，只要現貨庫存充足、價格趨勢向好，現貨市場便永遠可以拿貨，演變成dram現貨渠道的業態，這是內存顆粒的產業特性。
這就引發了一個很有意思的話題，倘若出於特殊原因，某個企業無法通過向上述三家訂貨怎麼辦？
現貨市場就是一個通路——特定企業可以從現貨市場採購hbm顆粒，進而再適配控制器、適配i/o和邏輯封裝。
倘若現貨市場仍然買不到hbm內存，也可以從現貨市場採購2d-dram顆粒，再通過tsv垂直方向通孔、tcb熱壓鍵合（未來更多層堆疊則需要hybrid bonding鍵合）的封裝工藝可以堆疊出一個規格不算高的hbm器件。
當然，終極目標就是自研內存顆粒，實現hbm自主產業化。
cowos的門檻：產業鏈和良率
參考當下的gpu芯片構型，倘若缺少cowos封裝結構，hbm甚至無處擺放。
目前全球可選的cowos產能供應商有幾個類別：
其一是台積電 cowos；
其二是由台積電完成晶圓和前道中介層的製造（即cowos的「cow」部分，堆疊+互連），隨後交由自家封裝廠（例如空閑的info產能）或是合作第三方osat封裝廠，俗稱外包封裝廠，完成「on substrate」部分，即封裝在基板上；
其三是，可委託由聯電、格芯生產中介層，隨後再送交amkor或日月光等osat產線，委託完成「wos」部分。但如前文提到，這兩家工藝節點基本在65nm左右，不能代工先進前道的先進工藝邏輯芯片和中介層，也不能完成一條龍的cowos全棧；
其四是samsung i-cube/h-cube和intel foveros，兩家都可以完成全棧cowos交付，但目前都還沒有開出產能；
其五是國內也有一部分cowos的能力，但幾乎全部是cow+wos的工藝對接，也就是聯電、格芯+amkor、日月光的模式。
相比其它製造工序而言，cowos並沒有極度前沿的技術門檻，唯一的關鍵是它要保證在高微縮製程下的高良率。
因為在封裝層面，倘若出品有較高的不良/失效，那麼上面堆疊連接的hbm等器件就變成無可挽回的損耗了，能夠兼顧較高工藝節點和良率的廠商，目前唯有台積電可以滿足。
單就cow+wos產能而言，全球可以開出很多產能（尤其wos廠商），但是能夠適用於先進計算芯片的工藝/良率的產能則並不多。
導致上述良率門檻的原因是工藝：
以wos良率為例，難點主要在於其封裝的中介層尺寸應當有嚴格限制，即硅中介層面積需要大於其上面2個甚至多個裸晶的尺寸之和。然而，隨着這個尺寸越來越大，第五代cowos甚至支持通過一種"2-way lithography stitching approach技術"使得中介層尺寸可以擴到2500mm²，隨之帶來的工藝風險就是——on wafer，也就是硅晶圓上堆疊時出現邊緣扭曲、接角垂直凸等變問題，導致封測後不良，而台積電 cowos工藝磨合了10幾年，積累大量knowhow，才獲得如今可靠的高良率。
對於osat專業封裝廠（包括amkor/日月光等），工藝良率拉升緩慢也與前段中介層的分開製造有關，雖然cow+wos是合理的產業鏈分工，但是拉升兩者共同出品的良率需要兩家工藝同步發展。
目前，大陸的先進邏輯芯片和中介層基本是由smic製造，再將其委託給osat專業封裝廠完成wos封測；而倘若拿不到smic的產能，也可以委託聯電和格芯代工。
未來可能全球大部分2.5d封裝都會是前道+後道合作的模式；前道晶圓廠提供中介層做cow，後道有載板的做wos。另外，cowos也會更多下沉適用到其它場景，涉及ai-hpc的未來大部分產品都會依賴cowos封裝，2.5d/3d封裝目前來看，晶圓廠還是相比osat更具優勢。
結語
隨着ai-hpc產業對於hbm內存的高度需求，該器件的產品受眾、貨值和市場空間都是水漲船高，如今hbm單位售價是傳統dram的數倍，是ddr5的約5倍。
如前文所述，當期12層hbm顆粒的渠道單價已然250美元/顆，價格相比2023年略有上浮。
換一個測算角度：目前在ai-hpc計算芯片上，通常6顆容量16gb的hbm3顆粒的合計成本約1500美元，相當於15.6美元/gb；換算到h100 sxm5板卡，6顆hbm3 80gb，相當於18.75美元/gb，約佔整顆芯片物料成本的50%+。
有一組數據是來自yole：未來5年先進封裝整體複合增速是40%，其中3d封裝是超過100%的增速；以及五年後接近40%的hbm都要基於混合鍵合封裝了。
因此，無論海外或是大陸廠商，上述談到的幾個產業方向「hbm、cow、tsv/hybrid bonding」的潛在市場空間是廣闊的，期待國產廠商有成熟的良率和進軍海外市場的可能。同時隨着ai-hpc市場的繁榮，受此驅動，預計將大幅提高hbm在泛dram市場的份額，hbm在dram市場總容量中的份額預計將從2023年的2%上升到2024年的5%，到2025年將超過10%。
