對標英偉達H100,算力提升50%,英特爾新一代Ai芯片Gaudi 3發布

2024年04月13日23:45:13 科技 1418

對標英偉達H100,算力提升50%,英特爾新一代Ai芯片Gaudi 3發布 - 天天要聞

同時劍指英偉達台積電英特爾坐不住了。

文丨智駕網 王欣

編輯丨浪浪山與明知山

美國當地時間4月9日,英特爾舉辦了面向客戶和合作夥伴的英特爾on產業創新大會。英特爾CEO帕特·基辛格亮出了最新AI芯片——Gaudi 3

對標英偉達H100,算力提升50%,英特爾新一代Ai芯片Gaudi 3發布 - 天天要聞

Gaudi系列是英特爾面向AI應用場景專門推出的芯片品牌,而Gaudi 3的AI計算性能是上一代產品Gaudi 2的2至4倍。

儘管數日前,英偉達在GTC上發布了最新的Blackwell架構的GPU B100和B200芯片,但英特爾的Gaudi 3在具體參數上,仍選擇了英偉達更早之前的主力產品H100作為競爭對象。

此次Gaudi 3最直接的升級體現在性能和成本方面。

性能上:據官方介紹,相比較英偉達H100,英特爾Gaudi 3 AI芯片的模型訓練速度、推理速度分別可提升40%和50%。這顆芯片還能夠支持多種的大模型,包括Llama、文生圖的Stable Diffusion、語音識別的Whisper等等。

網絡連接在GPU中也是一項關鍵點。

英特爾宣稱,Gaudi 3 AI加速器可通過以太網的通用標準連接多達數萬個加速器。與上一代產品相比,英特爾Gaudi 3將帶來4倍的BF16 AI計算能力提升,以及1.5倍的內存帶寬提升,其中FP8吞吐量翻了一番達到1835 TFLOPS

不同於英偉達Blackwell採用最新的台積電3nm工藝,Gaudi 3採用的是台積電的5nm工藝製造。同時張量核心從24格升級到了32個。

此外,英特爾還宣布Naver韓國互聯網巨頭)、博世IBM、Ola等一大批公司成為英特爾Gaudi加速器的客戶和合作夥伴。而在今年第二季度,Gaudi 3則會面向OEM廠商出貨,包括戴爾惠普聯想和超微電腦在內的公司,第三季度正式上市

成本上的升級體現在英特爾的一句話中——“Gaudi 3 的成本僅為英偉達H100的一小部分。”

英特爾副總裁Das Kamhout在會上直言表示,相比於英偉達H100,英特爾Gaudi 3在70億和130億參數Llama2模型,以及1750億參數GPT-3模型上,大模型的訓練時間預計縮短50%,同時能耗、成本表現更好。

帕特·基辛格也補充道:“Gaudi 3的性能將與英偉達H200相當,甚至在某些領域的性能甚至更好。”不過,此言並沒有對比數據做支撐,他也並未展開說明。

去年年底,帕特·基辛格就炮轟過英偉達的CUDA生態“既淺又窄”,並聲稱對於人工智能來說推理技術將比訓練更加重要。

種種跡象表明,英特爾想證明推理市場才是競爭的重點,而Gaudi 3正是英特爾用來打入AI推理市場的產品。

除了Gaudi 3芯片,英特爾還在Vision 大會上發布了六代至強處理器。

對標英偉達H100,算力提升50%,英特爾新一代Ai芯片Gaudi 3發布 - 天天要聞

當天,英特爾分享了企業AI各細分領域的下一代產品和服務的最新信息。英特爾為面向數據中心、雲和邊緣發布了下一代處理器英特爾至強6。配備能效核(E-cores)的英特爾至強6處理器將於2024年第二季度推出,配備性能核(P-cores)的英特爾至強6處理器將緊隨其後推出。

現在,英特爾想要打造一個廣泛的AI生態聯盟,推動企業在AI領域的創新。

英特爾概述了面向開放的、可擴展的AI系統的戰略,其中包括硬件、軟件、框架和工具。當天,英特爾聯合多家公司宣布,將創建一個開放平台助力企業推動AI創新。這一計劃旨在開發開放的、多供應商的生成式AI系統,通過RAG(檢索增強生成)技術,提供部署便利性、性能和價值。RAG可使企業在標準雲基礎設施上運行的大量現存專有數據源得到開放大語言模型(LLM)功能的增強,加速生成式AI在企業中的應用。

同時,英特爾也在AI芯片設計和代工上全面發力,劍指英偉達和台積電兩個巨頭。

今年2月,英特爾首次推出面向AI時代的系統級代工,願意為包括英偉達、高通谷歌微軟以及AMD在內的所有客戶代工芯片。

英特爾的目標是到2030年成為全球第二大代工廠,希望十年內全球50%的半導體在美國和歐洲生產。但目前這一比例僅為20%,全球大部分生產集中在亞洲

作為堅守IDM模式的老牌巨頭,英特爾在各個細分領域正在遭遇不同對手的瘋狂進攻。

據TrendForce集邦諮詢數據,英特爾於2023年第三季度躋身全球前十大晶圓廠之列,但第四季度又跌出了全球前十。第四季度,台積電在晶圓代工市場上的份額較上季度進一步增長,已突破60%。

2023年,英特爾整體收入為542億美元,同比下降14%。英特爾數據中心和人工智能事業部(DCAI)營收155億美元,同比下滑20%;芯片代工業務營運虧損達70億美元,虧損較2022年擴大約18億美元。英特爾預計代工業務到2027年左右將實現收支平衡。

進入4月以來,英特爾股價累計跌幅超過13%。外媒指出,新的人工智能芯片能否幫助英特爾找到股價上漲的動能值得關注,在4月9日盤中,英特爾一度下跌1.7%。但在發布新的芯片後,英特爾股價開始上漲。截至9日美股收盤,英特爾收漲0.92%,市值1632億美元。

Gaudi 3會是英特爾掙扎的解藥嗎?

畢竟,AMD也在2023年12月初推出了MI300系列AI芯片產品,其稱MI300X芯片的內存密度是英偉達H100的2.4倍,內存帶寬是其1.6倍,擁有更好的推理性能。

在此次英特爾Gaudi 3發布後,目前AI芯片市場開始呈現出三足鼎立的局面——英偉達B200、AMD MI300系列和英特爾Gaudi 3。

另外,會上還透露,下一代英偉達Gaudi芯片的代號將是Falcon Shores。

可見,芯片市場的裂變開始加劇分化。

科技分類資訊推薦

便宜買奇瑞,個性買阿維塔,檔次上問界,最保值的不是雷克薩斯 - 天天要聞

便宜買奇瑞,個性買阿維塔,檔次上問界,最保值的不是雷克薩斯

出了便宜,奇瑞的安全性也不錯。目前奇瑞車系共有26個車系在售,奇瑞新能源有5個車系在售,而奇瑞高端品牌星途有8個車系在售。奇瑞汽車的品系越來越多,產品也越來越豐富。正所謂“樹大招風”,這麼多的車型安全性是否有保障呢?以瑞虎7的碰撞車試為例,該車正面100%碰撞
康邁輪端主掛一體:安全、經濟、高效 - 天天要聞

康邁輪端主掛一體:安全、經濟、高效

在運輸運營中車輛出勤率和維保成本至關重要當主車配備康邁免維護輪端而挂車輪端卻仍需頻繁進站保養時則會嚴重影響整車高效運營康邁開發了與主車輪端相同技術標準的挂車免維護輪端產品實現康邁輪端主掛一體化軸承游隙預調整技術賦能挂車康邁作為行業技術引領者將北美先進輪端油潤滑
極狐汽車 3 月衝進前六,靠的是什麼? - 天天要聞

極狐汽車 3 月衝進前六,靠的是什麼?

在當下風雲變幻的新能源汽車市場,每月的銷量榜單都是各方關注的焦點。剛剛過去的 3 月,極狐汽車宛如一匹黑馬,強勢躋身銷量排行榜前六,這一傲人成績瞬間吸引了整個行業的目光。今天,就讓我們一同深入探尋極狐汽車此次突破背後的制勝法寶。
一季度狂賣70萬輛,吉利交出“滿分答卷” - 天天要聞

一季度狂賣70萬輛,吉利交出“滿分答卷”

4月1日,吉利汽車集團公布了最新銷量數據,2025年第一季度,吉利汽車累計銷量達703,824輛,同比增長48%,超額完成全年銷量目標的四分之一。其中,新能源車型(含吉利、領克、極氪)銷量達339,200輛,同比增長135%,新能源佔比提升至48%,展現出強勁
開啟 “雷鳳軍” 時代,硬派新玩家的技術狂飆,鄭州日產Z9開啟預售 - 天天要聞

開啟 “雷鳳軍” 時代,硬派新玩家的技術狂飆,鄭州日產Z9開啟預售

像雷軍雷布斯那樣用互聯網思維造車,以生態圈模式賣車;像小鵬王鳳英那樣管理公司,激發團隊;對標長城魏建軍;開創鄭州日產自己的“雷鳳軍”時代。在3月31日舉辦的鄭州日產 Z9 預售發布會上,鄭州日產執行副總經理毛力民這句話一出,不僅瞬間點燃了現場,更讓我們看到了鄭