對標英偉達H100,算力提升50%,英特爾新一代Ai晶元Gaudi 3發布

2024年04月13日23:45:13 科技 1418

對標英偉達H100,算力提升50%,英特爾新一代Ai晶元Gaudi 3發布 - 天天要聞

同時劍指英偉達台積電英特爾坐不住了。

文丨智駕網 王欣

編輯丨浪浪山與明知山

美國當地時間4月9日,英特爾舉辦了面向客戶和合作夥伴的英特爾on產業創新大會。英特爾CEO帕特·基辛格亮出了最新AI晶元——Gaudi 3

對標英偉達H100,算力提升50%,英特爾新一代Ai晶元Gaudi 3發布 - 天天要聞

Gaudi系列是英特爾面向AI應用場景專門推出的晶元品牌,而Gaudi 3的AI計算性能是上一代產品Gaudi 2的2至4倍。

儘管數日前,英偉達在GTC上發布了最新的Blackwell架構的GPU B100和B200晶元,但英特爾的Gaudi 3在具體參數上,仍選擇了英偉達更早之前的主力產品H100作為競爭對象。

此次Gaudi 3最直接的升級體現在性能和成本方面。

性能上:據官方介紹,相比較英偉達H100,英特爾Gaudi 3 AI晶元的模型訓練速度、推理速度分別可提升40%和50%。這顆晶元還能夠支持多種的大模型,包括Llama、文生圖的Stable Diffusion、語音識別的Whisper等等。

網路連接在GPU中也是一項關鍵點。

英特爾宣稱,Gaudi 3 AI加速器可通過乙太網的通用標準連接多達數萬個加速器。與上一代產品相比,英特爾Gaudi 3將帶來4倍的BF16 AI計算能力提升,以及1.5倍的內存帶寬提升,其中FP8吞吐量翻了一番達到1835 TFLOPS

不同於英偉達Blackwell採用最新的台積電3nm工藝,Gaudi 3採用的是台積電的5nm工藝製造。同時張量核心從24格升級到了32個。

此外,英特爾還宣布Naver韓國互聯網巨頭)、博世IBM、Ola等一大批公司成為英特爾Gaudi加速器的客戶和合作夥伴。而在今年第二季度,Gaudi 3則會面向OEM廠商出貨,包括戴爾惠普聯想和超微電腦在內的公司,第三季度正式上市

成本上的升級體現在英特爾的一句話中——「Gaudi 3 的成本僅為英偉達H100的一小部分。」

英特爾副總裁Das Kamhout在會上直言表示,相比於英偉達H100,英特爾Gaudi 3在70億和130億參數Llama2模型,以及1750億參數GPT-3模型上,大模型的訓練時間預計縮短50%,同時能耗、成本表現更好。

帕特·基辛格也補充道:「Gaudi 3的性能將與英偉達H200相當,甚至在某些領域的性能甚至更好。」不過,此言並沒有對比數據做支撐,他也並未展開說明。

去年年底,帕特·基辛格就炮轟過英偉達的CUDA生態「既淺又窄」,並聲稱對於人工智慧來說推理技術將比訓練更加重要。

種種跡象表明,英特爾想證明推理市場才是競爭的重點,而Gaudi 3正是英特爾用來打入AI推理市場的產品。

除了Gaudi 3晶元,英特爾還在Vision 大會上發布了六代至強處理器。

對標英偉達H100,算力提升50%,英特爾新一代Ai晶元Gaudi 3發布 - 天天要聞

當天,英特爾分享了企業AI各細分領域的下一代產品和服務的最新信息。英特爾為面向數據中心、雲和邊緣發布了下一代處理器英特爾至強6。配備能效核(E-cores)的英特爾至強6處理器將於2024年第二季度推出,配備性能核(P-cores)的英特爾至強6處理器將緊隨其後推出。

現在,英特爾想要打造一個廣泛的AI生態聯盟,推動企業在AI領域的創新。

英特爾概述了面向開放的、可擴展的AI系統的戰略,其中包括硬體、軟體、框架和工具。當天,英特爾聯合多家公司宣布,將創建一個開放平台助力企業推動AI創新。這一計劃旨在開發開放的、多供應商的生成式AI系統,通過RAG(檢索增強生成)技術,提供部署便利性、性能和價值。RAG可使企業在標準雲基礎設施上運行的大量現存專有數據源得到開放大語言模型(LLM)功能的增強,加速生成式AI在企業中的應用。

同時,英特爾也在AI晶元設計和代工上全面發力,劍指英偉達和台積電兩個巨頭。

今年2月,英特爾首次推出面向AI時代的系統級代工,願意為包括英偉達、高通谷歌微軟以及AMD在內的所有客戶代工晶元。

英特爾的目標是到2030年成為全球第二大代工廠,希望十年內全球50%的半導體在美國和歐洲生產。但目前這一比例僅為20%,全球大部分生產集中在亞洲

作為堅守IDM模式的老牌巨頭,英特爾在各個細分領域正在遭遇不同對手的瘋狂進攻。

據TrendForce集邦諮詢數據,英特爾於2023年第三季度躋身全球前十大晶圓廠之列,但第四季度又跌出了全球前十。第四季度,台積電在晶圓代工市場上的份額較上季度進一步增長,已突破60%。

2023年,英特爾整體收入為542億美元,同比下降14%。英特爾數據中心和人工智慧事業部(DCAI)營收155億美元,同比下滑20%;晶元代工業務營運虧損達70億美元,虧損較2022年擴大約18億美元。英特爾預計代工業務到2027年左右將實現收支平衡。

進入4月以來,英特爾股價累計跌幅超過13%。外媒指出,新的人工智慧晶元能否幫助英特爾找到股價上漲的動能值得關注,在4月9日盤中,英特爾一度下跌1.7%。但在發布新的晶元後,英特爾股價開始上漲。截至9日美股收盤,英特爾收漲0.92%,市值1632億美元。

Gaudi 3會是英特爾掙扎的解藥嗎?

畢竟,AMD也在2023年12月初推出了MI300系列AI晶元產品,其稱MI300X晶元的內存密度是英偉達H100的2.4倍,內存帶寬是其1.6倍,擁有更好的推理性能。

在此次英特爾Gaudi 3發布後,目前AI晶元市場開始呈現出三足鼎立的局面——英偉達B200、AMD MI300系列和英特爾Gaudi 3。

另外,會上還透露,下一代英偉達Gaudi晶元的代號將是Falcon Shores。

可見,晶元市場的裂變開始加劇分化。

科技分類資訊推薦

小米SU7一戰成名,雷軍為啥還感到「絕望」? - 天天要聞

小米SU7一戰成名,雷軍為啥還感到「絕望」?

自從宣布造車以來,毫不誇張的說雷軍和他的小米汽車最近一段時間,成為了國內車圈的流量密碼。 不得不說,作為一個成功的企業家和營銷高手,雷軍這個「局外人」對於汽車市場的把握非常的精準到位,也更....
小米SU7智能泊車完成率95%:後續將OTA實現機械庫泊入能力 - 天天要聞

小米SU7智能泊車完成率95%:後續將OTA實現機械庫泊入能力

快科技5月6日消息,在今天的小米汽車問答中,官方解答了關於智能泊車功能的疑問。小米表示,SU7小米智能泊車輔助目前支持涵蓋側方位、空間車位、極窄車位等200餘種類型車位泊入,完成率超過95%。同時,也具備機械庫位泊入能力,後續將通過OTA進行推送。據了解,小米SU7代客泊車功能支持創建最長2km的停車場路線,無論跨越幾...
三星或將放棄與AMD合作 Exynos 2600將搭載自研GPU - 天天要聞

三星或將放棄與AMD合作 Exynos 2600將搭載自研GPU

【CNMO科技消息】自從2022年三星推出S22系列以來,三星與AMD一直緊密合作,為移動遊戲帶來了基於RDNA架構GPU的光線追蹤技術。今年的Exynos 2400驅動的S24和S24 Plus智能手機則採用了基於AMD RDNA 3架構的Xclips 940 GPU,進一步提升了圖形性能。不僅如此,RDNA架構的GPU也擴展到了中端市場,如Exynos
增加電池體檢要求!京粵等七地將聯手制定充換電設施統一團標 - 天天要聞

增加電池體檢要求!京粵等七地將聯手制定充換電設施統一團標

北京、廣東、廣西、安徽等地電動自行車公共充換電設施將有統一團體標準。5月6日,南都灣財社記者獲悉,由工信部鋰離子電池及類似產品標準工作組牽頭組織技術研討,北京、廣東等七地電動自行車協會開展電動自行車公共充換電設施統一團體標準的制定工作。有行業協會負責人對南都灣財社記者表示,統一團標的制定將降低企業研發...
綠色版圖UP 中國成為全球「增綠」主力軍 - 天天要聞

綠色版圖UP 中國成為全球「增綠」主力軍

習近平總書記指出,我們要像保護自己的眼睛一樣保護生態環境,像對待生命一樣對待生態環境,同築生態文明之基,同走綠色發展之路。黨的十八大以來,我國堅定不移走生態優先、綠色發展之路,美麗中國建設不斷邁出新的步伐。 人間好時節,花重錦官城。2024年成都世園會已正式開園。在這個佔地3633畝的超級大花園裡,六大主體...
iPhone 17系列或將迎來重大變化 引入Slim代替Plus - 天天要聞

iPhone 17系列或將迎來重大變化 引入Slim代替Plus

【太平洋科技資訊】據媒體近日發布的報告,蘋果公司明年的iPhone 17系列將迎來重大設計變化,號稱系列機型將採用「煥然一新的設計」,同時改進前置攝像頭,引入更小的靈動島等。此外,他還表示,蘋果將推出一款新的「iPhone 17 Slim」機型,以取代陣容中的「Plus」機型。報告中,新的iPhone 17系列將包括以下機型:iPhone ...
馬斯克:特斯拉機器人有望在明年年底前登陸市場銷售 - 天天要聞

馬斯克:特斯拉機器人有望在明年年底前登陸市場銷售

【太平洋科技資訊】近日,特斯拉公司展示了其最新的全自動機器人,這些機器人通過神經網路全面訓練的軟體執行工廠勞動任務。這一創新性的技術展示,預示著未來工廠勞動力的新模式。據展示的視頻顯示,大約有12個特斯拉機器人在接受訓練,並已能夠執行簡單的電池分類任務。雖然這些機器人目前還處在初級階段,其勞動能力尚無...
首發M4晶元 新款iPad Air/Pro將開啟iPad新時代? - 天天要聞

首發M4晶元 新款iPad Air/Pro將開啟iPad新時代?

【太平洋科技資訊】據彭博社記者馬克・古爾曼最新一期 Power On 時事通訊報道,蘋果將在周二舉辦的「放飛吧」特別活動中重點展示新款 iPad,有望開啟 iPad 的新時代。預計時長35分鐘的活動將為 iPad 系列產品指明新的發展道路,同時解決目前令人困惑的產品線混亂問題。首先,改善 iPad 產品線的第一步是使高端 iPad 系列更...
Meta開放操作系統 引發前CTO約翰·卡馬克擔憂 - 天天要聞

Meta開放操作系統 引發前CTO約翰·卡馬克擔憂

【太平洋科技資訊】據外媒報道,近期,Meta宣布向第三方硬體製造商開放其MR操作系統,這一舉措在行業內引發了廣泛關注。對於這一變化,Meta前首席技術官(CTO)約翰·卡馬克近日表達了擔憂。據此前報道,Meta的Meta Horizon OS將進一步開放,未來將允許第三方硬體製造商設計和生產他們自己的VR頭顯。然而,卡馬克認為,與硬體...
徵集城市領域人工智慧創新產品 綿陽科技城新區發出共建應用場景邀請 - 天天要聞

徵集城市領域人工智慧創新產品 綿陽科技城新區發出共建應用場景邀請

戴旖 孫麗 封面新聞記者 周洪攀5月6日,綿陽科技城新區(以下簡稱「新區」)召開發布會,面向全國徵集城市領域人工智慧創新產品,發出共建應用場景的「未來邀約」。本次發布會以「共建應用場景 共贏數智未來」為主題,旨在面向全國徵集具有創新性、實用性和市場前景的城市領域人工智慧創新產品,共建應用場景,從而顯著提升...