對標英偉達H100,算力提升50%,英特爾新一代Ai晶元Gaudi 3發布

2024年04月13日23:45:13 科技 1418

對標英偉達H100,算力提升50%,英特爾新一代Ai晶元Gaudi 3發布 - 天天要聞

同時劍指英偉達台積電英特爾坐不住了。

文丨智駕網 王欣

編輯丨浪浪山與明知山

美國當地時間4月9日,英特爾舉辦了面向客戶和合作夥伴的英特爾on產業創新大會。英特爾CEO帕特·基辛格亮出了最新AI晶元——Gaudi 3

對標英偉達H100,算力提升50%,英特爾新一代Ai晶元Gaudi 3發布 - 天天要聞

Gaudi系列是英特爾面向AI應用場景專門推出的晶元品牌,而Gaudi 3的AI計算性能是上一代產品Gaudi 2的2至4倍。

儘管數日前,英偉達在GTC上發布了最新的Blackwell架構的GPU B100和B200晶元,但英特爾的Gaudi 3在具體參數上,仍選擇了英偉達更早之前的主力產品H100作為競爭對象。

此次Gaudi 3最直接的升級體現在性能和成本方面。

性能上:據官方介紹,相比較英偉達H100,英特爾Gaudi 3 AI晶元的模型訓練速度、推理速度分別可提升40%和50%。這顆晶元還能夠支持多種的大模型,包括Llama、文生圖的Stable Diffusion、語音識別的Whisper等等。

網路連接在GPU中也是一項關鍵點。

英特爾宣稱,Gaudi 3 AI加速器可通過乙太網的通用標準連接多達數萬個加速器。與上一代產品相比,英特爾Gaudi 3將帶來4倍的BF16 AI計算能力提升,以及1.5倍的內存帶寬提升,其中FP8吞吐量翻了一番達到1835 TFLOPS

不同於英偉達Blackwell採用最新的台積電3nm工藝,Gaudi 3採用的是台積電的5nm工藝製造。同時張量核心從24格升級到了32個。

此外,英特爾還宣布Naver韓國互聯網巨頭)、博世IBM、Ola等一大批公司成為英特爾Gaudi加速器的客戶和合作夥伴。而在今年第二季度,Gaudi 3則會面向OEM廠商出貨,包括戴爾惠普聯想和超微電腦在內的公司,第三季度正式上市

成本上的升級體現在英特爾的一句話中——「Gaudi 3 的成本僅為英偉達H100的一小部分。」

英特爾副總裁Das Kamhout在會上直言表示,相比於英偉達H100,英特爾Gaudi 3在70億和130億參數Llama2模型,以及1750億參數GPT-3模型上,大模型的訓練時間預計縮短50%,同時能耗、成本表現更好。

帕特·基辛格也補充道:「Gaudi 3的性能將與英偉達H200相當,甚至在某些領域的性能甚至更好。」不過,此言並沒有對比數據做支撐,他也並未展開說明。

去年年底,帕特·基辛格就炮轟過英偉達的CUDA生態「既淺又窄」,並聲稱對於人工智慧來說推理技術將比訓練更加重要。

種種跡象表明,英特爾想證明推理市場才是競爭的重點,而Gaudi 3正是英特爾用來打入AI推理市場的產品。

除了Gaudi 3晶元,英特爾還在Vision 大會上發布了六代至強處理器。

對標英偉達H100,算力提升50%,英特爾新一代Ai晶元Gaudi 3發布 - 天天要聞

當天,英特爾分享了企業AI各細分領域的下一代產品和服務的最新信息。英特爾為面向數據中心、雲和邊緣發布了下一代處理器英特爾至強6。配備能效核(E-cores)的英特爾至強6處理器將於2024年第二季度推出,配備性能核(P-cores)的英特爾至強6處理器將緊隨其後推出。

現在,英特爾想要打造一個廣泛的AI生態聯盟,推動企業在AI領域的創新。

英特爾概述了面向開放的、可擴展的AI系統的戰略,其中包括硬體、軟體、框架和工具。當天,英特爾聯合多家公司宣布,將創建一個開放平台助力企業推動AI創新。這一計劃旨在開發開放的、多供應商的生成式AI系統,通過RAG(檢索增強生成)技術,提供部署便利性、性能和價值。RAG可使企業在標準雲基礎設施上運行的大量現存專有數據源得到開放大語言模型(LLM)功能的增強,加速生成式AI在企業中的應用。

同時,英特爾也在AI晶元設計和代工上全面發力,劍指英偉達和台積電兩個巨頭。

今年2月,英特爾首次推出面向AI時代的系統級代工,願意為包括英偉達、高通谷歌微軟以及AMD在內的所有客戶代工晶元。

英特爾的目標是到2030年成為全球第二大代工廠,希望十年內全球50%的半導體在美國和歐洲生產。但目前這一比例僅為20%,全球大部分生產集中在亞洲

作為堅守IDM模式的老牌巨頭,英特爾在各個細分領域正在遭遇不同對手的瘋狂進攻。

據TrendForce集邦諮詢數據,英特爾於2023年第三季度躋身全球前十大晶圓廠之列,但第四季度又跌出了全球前十。第四季度,台積電在晶圓代工市場上的份額較上季度進一步增長,已突破60%。

2023年,英特爾整體收入為542億美元,同比下降14%。英特爾數據中心和人工智慧事業部(DCAI)營收155億美元,同比下滑20%;晶元代工業務營運虧損達70億美元,虧損較2022年擴大約18億美元。英特爾預計代工業務到2027年左右將實現收支平衡。

進入4月以來,英特爾股價累計跌幅超過13%。外媒指出,新的人工智慧晶元能否幫助英特爾找到股價上漲的動能值得關注,在4月9日盤中,英特爾一度下跌1.7%。但在發布新的晶元後,英特爾股價開始上漲。截至9日美股收盤,英特爾收漲0.92%,市值1632億美元。

Gaudi 3會是英特爾掙扎的解藥嗎?

畢竟,AMD也在2023年12月初推出了MI300系列AI晶元產品,其稱MI300X晶元的內存密度是英偉達H100的2.4倍,內存帶寬是其1.6倍,擁有更好的推理性能。

在此次英特爾Gaudi 3發布後,目前AI晶元市場開始呈現出三足鼎立的局面——英偉達B200、AMD MI300系列和英特爾Gaudi 3。

另外,會上還透露,下一代英偉達Gaudi晶元的代號將是Falcon Shores。

可見,晶元市場的裂變開始加劇分化。

科技分類資訊推薦

vivo X Fold5開啟預售!三防長續航輕辦公,雙機黨效率神器 - 天天要聞

vivo X Fold5開啟預售!三防長續航輕辦公,雙機黨效率神器

在摺疊屏的演進路徑上,vivo始終處於行業領先。全新的vivo X Fold5,作為vivo史上最強摺疊旗艦,不僅兼顧輕薄設計與性能配置,更在辦公協同、生態互通等方面帶來前所未有的體驗。對注重生產力的用戶而言,它不只是手機,更是口袋裡的輕辦
馬斯克:特斯拉 Optimus V3 人形機器人將集成 Grok 語音助手 - 天天要聞

馬斯克:特斯拉 Optimus V3 人形機器人將集成 Grok 語音助手

IT之家 6 月 26 日消息,特斯拉 CEO 馬斯克昨日於 X 平台發文,表示 Optimus V3 人形機器人將整合 Grok 語音助手,利用 AI 大模型進行語音交互。馬斯克首先表示,Optimus V3 人形機器人將會變得「」(該表情符號有對美食讚賞的意味),同時還稱讚了特斯拉 Optimus 團隊。後續,有網友評論道「Optimus 會運行 Gro
「禁帶無3C標及被召回充電寶乘機」新規出台,天山機場上百個不合規充電寶被攔截 - 天天要聞

「禁帶無3C標及被召回充電寶乘機」新規出台,天山機場上百個不合規充電寶被攔截

近日,羅馬仕三個型號超49.1萬個、安克七個型號超71萬個充電寶被召回一事,引發關注。同一型號的充電寶中,符合特定批次的才需召回,但多地出現「快遞拒收召回產品、飛機拒載非召回產品」的現象。6月26日上午,有網友發帖稱,在烏魯木齊天山國際機場,沒有國家3C認證的充電寶無法帶上飛機。截至發稿前,26日凌晨、上午在天...
南美摩配領軍者組團來訪,愛騎仕EJEAS開啟拉美市場新征程 - 天天要聞

南美摩配領軍者組團來訪,愛騎仕EJEAS開啟拉美市場新征程

近日,愛騎仕EJEAS迎來了一群遠道而來的尊貴客人——哥斯大黎加、烏拉圭、厄瓜多等拉丁美洲國家的摩配行業領軍企業代表。這些客戶不僅是南美洲摩配市場的領軍者,更是全球知名頭盔品牌LS2的合作夥伴。他們的到訪,不僅是對愛騎仕EJEAS產品實力
京東回應「外賣試點騎手幫扔垃圾」:自願參加,平台每單補貼0.5元,用戶可打賞 - 天天要聞

京東回應「外賣試點騎手幫扔垃圾」:自願參加,平台每單補貼0.5元,用戶可打賞

近日,有網傳消息稱,京東外賣試點騎手幫扔垃圾,引發關注。對此,京東一名工作人員告訴九派新聞,全職騎手「幫扔垃圾」當前僅停留在方案和小範圍測試階段,並未正式上線,平台將根據反饋對該服務進行評估和優化。據網傳截圖,在外賣群中,有人發布信息稱,從6月19日起,在北京、宿遷首批試點外賣員幫用戶扔垃圾,後續又加...
即將實施!節卡機器人主導制定新國家標準 - 天天要聞

即將實施!節卡機器人主導制定新國家標準

近期,由節卡機器人作為牽頭起草單位,主導制定的國家標準GB/T 45579-2025《機器人智能化視覺評價方法及等級劃分》正式獲批發布。該國標填補了全球範圍內機器人智能化標準領域的空白,為智能機器人質量提升和建設提供了有力指導,將推動中國機器人產業從「功能實現」向「智能分級」躍遷。 國家標準是我國標準體系中最高層級...
民航局出台充電寶乘機新規:多地機場已開始對充電寶進行安全檢查,國際航班暫無限制 - 天天要聞

民航局出台充電寶乘機新規:多地機場已開始對充電寶進行安全檢查,國際航班暫無限制

6月26日,中國民航局發布緊急通知,自6月28日起禁止旅客攜帶沒有3C標識、3C標識不清晰、被召回型號或批次的充電寶乘坐境內航班。 民航局發布充電寶攜帶緊急通知。圖/中國民用航空局官網截圖 該通知發布後,有網友發帖稱,已經有機場開始對充電寶進行嚴格檢查,沒有3C標識的充電寶會被機場直接扣留,無法通過安檢帶上飛機。...
食光築夢 工創未來 - 天天要聞

食光築夢 工創未來

編者按:智能時代,建造何為?在數字化浪潮席捲全球的今天,建築業正經歷從「鋼筋水泥」到「數字孿生」的深刻變革。武漢輕工大學土木工程與建築學院應勢而為,開設智能建造專業,以「智」為擎、以「建」為基,培養引領行業未來的複合型人才。
中國電信雲總機(S版)定製招生通話「破局」方案,「絲滑」應對海量諮詢! - 天天要聞

中國電信雲總機(S版)定製招生通話「破局」方案,「絲滑」應對海量諮詢!

招生季的電話鈴聲此起彼伏,熱線被打爆、諮詢如潮湧——家長焦急詢問學區劃分、入學政策;考生急切查詢分數線、專業詳情;中小學忙於新生登記、政策解讀;考試中心更是被報名諮詢、考場安排等電話淹沒……傳統人工接聽模式捉襟見肘,效率欠佳、錯漏頻發、體驗打折,不僅消耗寶貴人力,更可能錯失優質生源。 如何讓每一次來電都成為...