《科創板日報》3月21日訊(編輯 鄭遠方)chatgpt洶湧的浪潮打得競爭對手人心惶惶。極度焦慮之下,高算力gpu需求迅速攀升,英偉達gpu已陷入嚴重短缺,多家公司已開始尋求amd等其他品牌的替代品。而為了攬客,英特爾已率先掀起了gpu價格戰。
據台灣電子時報今日報道,微軟等客戶對英偉達a100/h100晶元需求強勁,後者訂單能見度已至2024年,更緊急向代工廠台積電追單。
另據fierce electronics消息,由於需求激增,博通與英偉達的gpu網路設備供應嚴重短缺,即便兩家公司正全力擴產,但供需鴻溝依然極大。
semianalysis分析師dylan patel指出,目前微軟與openai正在消耗大量gpu用於ai推理。而此前的gpt-3訓練便已花費了10000個英偉達gpu,有人猜測推理環節是否需要雙倍甚至更多的gpu,畢竟從剛剛面試不久的gpt-4來看,其推理功能顯然更加先進。
還有人以2021-2022年席捲全球的缺芯潮類比眼下的gpu短缺——如同當年車企因缺少關鍵晶元導致汽車無法出廠一般,成千上萬的ai初創公司、甚至是大型雲服務商或許也將因為缺少gpu而面臨相似困境。
chatgpt帶來的gpu需求的強勁程度,可能已超出了三個多月前所有人的預期,不同的公司也給出了不同的解法。
微軟為了給新版必應聊天機器人與新款office365留下足夠資源,內部已陷入ai伺服器短缺,甚至必須對gpu採取「配額供給」機制。分析師dylan patel指出,微軟為新office copilot部署的gpu並不能支撐一年,公司會在模型大小與質量上作出「重大妥協」。
另有一些客戶沒有選擇「弔死在英偉達一棵樹上」,他們將目光投向了英偉達的競爭對手,例如amd的gpu、cerebras的wse,後者表示自家wse-2是「地球上最快的ai處理器」。
為了招攬客戶,gpu廠商之間的價格戰已經爆發,沖在最前面的便是英特爾。
j. gold associates分析師jack gold表示,英特爾的gpu定價「相當激進,尤其是一些低端產品」;一些超大規模的廠商很有可能會向自家客戶提供英特爾的高端gpu。