財聯社3月5日訊（編輯 史正丞）隨著韓國股市近3天坐上「過山車」，一些揣測也在股價巨震期間敲打著股民們緊繃的神經。
作為背景，上周五美股收盤後有爆料稱，英偉達將在當地時間3月15日舉行的gtc大會上發布一款專門用於推理計算的新系統，這個新平台將採用初創公司groq設計的晶元。
隨著上周末中東戰火重燃，韓國股市周一休市後，周二、周三均遭遇大跌，三星電子、sk海力士均累計跌近20%。除了中東戰火外，市場里似乎也有一些聲音將內存巨頭的大跌歸因於「groq搶了hbm的飯碗」。
（三星電子、sk海力士周四均強勁反彈，來源：tradingview）
何來憂慮？
作為背景，英偉達去年底豪擲200億美元，獲得晶元初創公司groq的人才團隊和非獨佔專利授權。這也是英偉達在核心算力晶元產品上首次大規模引入外部架構。
引發部分三星、海力士股東焦慮的點，正是groq自研的lpu（語言處理單元）晶元。該晶元的核心特點是在片上集成數百兆sram（訪問速度比hbm快約20倍），通過減少或者完全不調用外部存儲，實現超低延遲的token輸出。
隨著英偉達發布會臨近，「groq是否利空hbm」又被拿來討論：如果推理晶元路線從hbm堆料轉向片上sram，存儲公司的生意不是被搶走了么？
作為這一猜想的佐證，openai上周五在宣布獲得英偉達300億美元融資時，就專門強調將從該公司購買大量「專用推理算力」，暗示了這款新型處理器的存在。
黃仁勛也曾表示，將在gtc上發布「世界前所未見」的全新晶元。市場猜測，如果不是rubin cpx或下一代feynman架構的gpu旗艦產品，確有可能是以sram為核心的lpu。
兩者真的是替代關係么？
對於這種說法，韓國科技分析師jukan周四開盤前引用獨立分析機構kis的分析稱，認為sram推理晶元的出現將減少hbm使用的想法，反映出對存儲器的理解不足。
分析稱，與dram相比，sram的單元面積大、密度低。相同容量的sram需要dram 5到10倍的晶元面積，因此也限制了容量的擴展。正因如此，sram歷來被用於對延遲要求極低的緩存或片上緩衝區應用，而不是作為存儲大量數據的主存儲器。
因此，與其說取代gpu，這類晶元更多會成為針對特定推理工作的額外選擇，例如需要極低延遲的物理ai邊緣應用（機器人和自動駕駛），而不是取代hbm或dram。
事實上，英偉達ceo黃仁勛也在1月ces的分析師問答活動上詳細解釋過這件事。
黃仁勛表示，如果把所有東西都放在sram里，那麼當然就不需要hbm內存了。但問題是：能夠放進這些sram里的模型規模會小大約100倍。工作負載的形態一直在變化，有時候會遇到moe模型，還有多模態模型等，因此英偉達需要提供普適性的解決方案。
黃仁勛也指出，對於某些特定工作負載來說，sram可能會「快得驚人」，因此在預填充階段和解碼階段可以看到一些好處。
