對標英偉達H100,算力提升50%,英特爾新一代Ai芯片Gaudi 3發佈

2024年04月13日23:45:13 科技 1418

對標英偉達H100,算力提升50%,英特爾新一代Ai芯片Gaudi 3發佈 - 天天要聞

同時劍指英偉達台積電英特爾坐不住了。

文丨智駕網 王欣

編輯丨浪浪山與明知山

美國當地時間4月9日,英特爾舉辦了面向客戶和合作夥伴的英特爾on產業創新大會。英特爾CEO帕特·基辛格亮出了最新AI芯片——Gaudi 3

對標英偉達H100,算力提升50%,英特爾新一代Ai芯片Gaudi 3發佈 - 天天要聞

Gaudi系列是英特爾面向AI應用場景專門推出的芯片品牌,而Gaudi 3的AI計算性能是上一代產品Gaudi 2的2至4倍。

儘管數日前,英偉達在GTC上發佈了最新的Blackwell架構的GPU B100和B200芯片,但英特爾的Gaudi 3在具體參數上,仍選擇了英偉達更早之前的主力產品H100作為競爭對象。

此次Gaudi 3最直接的升級體現在性能和成本方面。

性能上:據官方介紹,相比較英偉達H100,英特爾Gaudi 3 AI芯片的模型訓練速度、推理速度分別可提升40%和50%。這顆芯片還能夠支持多種的大模型,包括Llama、文生圖的Stable Diffusion、語音識別的Whisper等等。

網絡連接在GPU中也是一項關鍵點。

英特爾宣稱,Gaudi 3 AI加速器可通過以太網的通用標準連接多達數萬個加速器。與上一代產品相比,英特爾Gaudi 3將帶來4倍的BF16 AI計算能力提升,以及1.5倍的內存帶寬提升,其中FP8吞吐量翻了一番達到1835 TFLOPS

不同於英偉達Blackwell採用最新的台積電3nm工藝,Gaudi 3採用的是台積電的5nm工藝製造。同時張量核心從24格升級到了32個。

此外,英特爾還宣布Naver韓國互聯網巨頭)、博世IBM、Ola等一大批公司成為英特爾Gaudi加速器的客戶和合作夥伴。而在今年第二季度,Gaudi 3則會面向OEM廠商出貨,包括戴爾惠普聯想和超微電腦在內的公司,第三季度正式上市

成本上的升級體現在英特爾的一句話中——「Gaudi 3 的成本僅為英偉達H100的一小部分。」

英特爾副總裁Das Kamhout在會上直言表示,相比於英偉達H100,英特爾Gaudi 3在70億和130億參數Llama2模型,以及1750億參數GPT-3模型上,大模型的訓練時間預計縮短50%,同時能耗、成本表現更好。

帕特·基辛格也補充道:「Gaudi 3的性能將與英偉達H200相當,甚至在某些領域的性能甚至更好。」不過,此言並沒有對比數據做支撐,他也並未展開說明。

去年年底,帕特·基辛格就炮轟過英偉達的CUDA生態「既淺又窄」,並聲稱對於人工智能來說推理技術將比訓練更加重要。

種種跡象表明,英特爾想證明推理市場才是競爭的重點,而Gaudi 3正是英特爾用來打入AI推理市場的產品。

除了Gaudi 3芯片,英特爾還在Vision 大會上發佈了六代至強處理器。

對標英偉達H100,算力提升50%,英特爾新一代Ai芯片Gaudi 3發佈 - 天天要聞

當天,英特爾分享了企業AI各細分領域的下一代產品和服務的最新信息。英特爾為面向數據中心、雲和邊緣發佈了下一代處理器英特爾至強6。配備能效核(E-cores)的英特爾至強6處理器將於2024年第二季度推出,配備性能核(P-cores)的英特爾至強6處理器將緊隨其後推出。

現在,英特爾想要打造一個廣泛的AI生態聯盟,推動企業在AI領域的創新。

英特爾概述了面向開放的、可擴展的AI系統的戰略,其中包括硬件、軟件、框架和工具。當天,英特爾聯合多家公司宣布,將創建一個開放平台助力企業推動AI創新。這一計劃旨在開發開放的、多供應商的生成式AI系統,通過RAG(檢索增強生成)技術,提供部署便利性、性能和價值。RAG可使企業在標準雲基礎設施上運行的大量現存專有數據源得到開放大語言模型(LLM)功能的增強,加速生成式AI在企業中的應用。

同時,英特爾也在AI芯片設計和代工上全面發力,劍指英偉達和台積電兩個巨頭。

今年2月,英特爾首次推出面向AI時代的系統級代工,願意為包括英偉達、高通谷歌微軟以及AMD在內的所有客戶代工芯片。

英特爾的目標是到2030年成為全球第二大代工廠,希望十年內全球50%的半導體在美國和歐洲生產。但目前這一比例僅為20%,全球大部分生產集中在亞洲

作為堅守IDM模式的老牌巨頭,英特爾在各個細分領域正在遭遇不同對手的瘋狂進攻。

據TrendForce集邦諮詢數據,英特爾於2023年第三季度躋身全球前十大晶圓廠之列,但第四季度又跌出了全球前十。第四季度,台積電在晶圓代工市場上的份額較上季度進一步增長,已突破60%。

2023年,英特爾整體收入為542億美元,同比下降14%。英特爾數據中心和人工智能事業部(DCAI)營收155億美元,同比下滑20%;芯片代工業務營運虧損達70億美元,虧損較2022年擴大約18億美元。英特爾預計代工業務到2027年左右將實現收支平衡。

進入4月以來,英特爾股價累計跌幅超過13%。外媒指出,新的人工智能芯片能否幫助英特爾找到股價上漲的動能值得關注,在4月9日盤中,英特爾一度下跌1.7%。但在發佈新的芯片後,英特爾股價開始上漲。截至9日美股收盤,英特爾收漲0.92%,市值1632億美元。

Gaudi 3會是英特爾掙扎的解藥嗎?

畢竟,AMD也在2023年12月初推出了MI300系列AI芯片產品,其稱MI300X芯片的內存密度是英偉達H100的2.4倍,內存帶寬是其1.6倍,擁有更好的推理性能。

在此次英特爾Gaudi 3發佈後,目前AI芯片市場開始呈現出三足鼎立的局面——英偉達B200、AMD MI300系列和英特爾Gaudi 3。

另外,會上還透露,下一代英偉達Gaudi芯片的代號將是Falcon Shores。

可見,芯片市場的裂變開始加劇分化。

科技分類資訊推薦

長安與東風重組新進展:朱華榮稱不會改變長安既定戰略 - 天天要聞

長安與東風重組新進展:朱華榮稱不會改變長安既定戰略

2月9日,長安汽車和東風集團股份(00489.HK)同步發佈了控股股東「正在與其他國資央企集團籌劃重組事項」的信息。長安汽車的控股股東是兵裝集團,而東風集團股份的控股股東是東風公司。隨即,長安汽車和東風集團這兩家汽車央企將合併重組,成為業內關注的焦點。
公安部出手了!年齡限制放寬10年、送考下鄉,2025年考駕照不難了 - 天天要聞

公安部出手了!年齡限制放寬10年、送考下鄉,2025年考駕照不難了

電動車加強管理以後,要求機動車類型的車輛需要持證上路,但是老年人考駕照卻受阻,一方面有年齡的限制,另一方面偏遠山區考駕照不方便,所以在2025年公安部出手了,年齡限制放寬10年,同時推出送考下鄉服務,還進一步的降低考駕照的費用,2025年起考摩托車駕照不難了。
從「星靈安全守護體系」到昊鉑HL,看懂廣汽科技日 - 天天要聞

從「星靈安全守護體系」到昊鉑HL,看懂廣汽科技日

發佈會以技術切入,並全程圍繞安全展開。廣汽集團董事長、總經理馮興亞率先登場,宣布2025年四季度將正式上市支持L3級智能駕駛的車型,他同時強調面向自動駕駛時代對智能駕駛技術、整車安全架構以及突發風險處理能力的要求更高。如何才能滿足更高的要求?馮興亞提到了「廣汽
關稅大棒下,最受傷的車企出現了 - 天天要聞

關稅大棒下,最受傷的車企出現了

特朗普的關稅大棒剛揮出,尚未嚇退「外敵」,卻先刺痛了自己。近日,擁有瑪莎拉蒂、Jeep等14個品牌的全球第四大車企斯泰蘭蒂斯突然宣布裁撤900名美國工人,關閉加拿大和墨西哥兩家工廠,北美生產線陷入癱瘓。幾乎同一時間,積架路虎宣布暫停對美出口一個月,奧迪更是直接