對標英偉達H100,算力提升50%,英特爾新一代Ai晶元Gaudi 3發布

2024年04月13日23:45:13 科技 1418

對標英偉達H100,算力提升50%,英特爾新一代Ai晶元Gaudi 3發布 - 天天要聞

同時劍指英偉達台積電英特爾坐不住了。

文丨智駕網 王欣

編輯丨浪浪山與明知山

美國當地時間4月9日,英特爾舉辦了面向客戶和合作夥伴的英特爾on產業創新大會。英特爾CEO帕特·基辛格亮出了最新AI晶元——Gaudi 3

對標英偉達H100,算力提升50%,英特爾新一代Ai晶元Gaudi 3發布 - 天天要聞

Gaudi系列是英特爾面向AI應用場景專門推出的晶元品牌,而Gaudi 3的AI計算性能是上一代產品Gaudi 2的2至4倍。

儘管數日前,英偉達在GTC上發布了最新的Blackwell架構的GPU B100和B200晶元,但英特爾的Gaudi 3在具體參數上,仍選擇了英偉達更早之前的主力產品H100作為競爭對象。

此次Gaudi 3最直接的升級體現在性能和成本方面。

性能上:據官方介紹,相比較英偉達H100,英特爾Gaudi 3 AI晶元的模型訓練速度、推理速度分別可提升40%和50%。這顆晶元還能夠支持多種的大模型,包括Llama、文生圖的Stable Diffusion、語音識別的Whisper等等。

網路連接在GPU中也是一項關鍵點。

英特爾宣稱,Gaudi 3 AI加速器可通過乙太網的通用標準連接多達數萬個加速器。與上一代產品相比,英特爾Gaudi 3將帶來4倍的BF16 AI計算能力提升,以及1.5倍的內存帶寬提升,其中FP8吞吐量翻了一番達到1835 TFLOPS

不同於英偉達Blackwell採用最新的台積電3nm工藝,Gaudi 3採用的是台積電的5nm工藝製造。同時張量核心從24格升級到了32個。

此外,英特爾還宣布Naver韓國互聯網巨頭)、博世IBM、Ola等一大批公司成為英特爾Gaudi加速器的客戶和合作夥伴。而在今年第二季度,Gaudi 3則會面向OEM廠商出貨,包括戴爾惠普聯想和超微電腦在內的公司,第三季度正式上市

成本上的升級體現在英特爾的一句話中——「Gaudi 3 的成本僅為英偉達H100的一小部分。」

英特爾副總裁Das Kamhout在會上直言表示,相比於英偉達H100,英特爾Gaudi 3在70億和130億參數Llama2模型,以及1750億參數GPT-3模型上,大模型的訓練時間預計縮短50%,同時能耗、成本表現更好。

帕特·基辛格也補充道:「Gaudi 3的性能將與英偉達H200相當,甚至在某些領域的性能甚至更好。」不過,此言並沒有對比數據做支撐,他也並未展開說明。

去年年底,帕特·基辛格就炮轟過英偉達的CUDA生態「既淺又窄」,並聲稱對於人工智慧來說推理技術將比訓練更加重要。

種種跡象表明,英特爾想證明推理市場才是競爭的重點,而Gaudi 3正是英特爾用來打入AI推理市場的產品。

除了Gaudi 3晶元,英特爾還在Vision 大會上發布了六代至強處理器。

對標英偉達H100,算力提升50%,英特爾新一代Ai晶元Gaudi 3發布 - 天天要聞

當天,英特爾分享了企業AI各細分領域的下一代產品和服務的最新信息。英特爾為面向數據中心、雲和邊緣發布了下一代處理器英特爾至強6。配備能效核(E-cores)的英特爾至強6處理器將於2024年第二季度推出,配備性能核(P-cores)的英特爾至強6處理器將緊隨其後推出。

現在,英特爾想要打造一個廣泛的AI生態聯盟,推動企業在AI領域的創新。

英特爾概述了面向開放的、可擴展的AI系統的戰略,其中包括硬體、軟體、框架和工具。當天,英特爾聯合多家公司宣布,將創建一個開放平台助力企業推動AI創新。這一計劃旨在開發開放的、多供應商的生成式AI系統,通過RAG(檢索增強生成)技術,提供部署便利性、性能和價值。RAG可使企業在標準雲基礎設施上運行的大量現存專有數據源得到開放大語言模型(LLM)功能的增強,加速生成式AI在企業中的應用。

同時,英特爾也在AI晶元設計和代工上全面發力,劍指英偉達和台積電兩個巨頭。

今年2月,英特爾首次推出面向AI時代的系統級代工,願意為包括英偉達、高通谷歌微軟以及AMD在內的所有客戶代工晶元。

英特爾的目標是到2030年成為全球第二大代工廠,希望十年內全球50%的半導體在美國和歐洲生產。但目前這一比例僅為20%,全球大部分生產集中在亞洲

作為堅守IDM模式的老牌巨頭,英特爾在各個細分領域正在遭遇不同對手的瘋狂進攻。

據TrendForce集邦諮詢數據,英特爾於2023年第三季度躋身全球前十大晶圓廠之列,但第四季度又跌出了全球前十。第四季度,台積電在晶圓代工市場上的份額較上季度進一步增長,已突破60%。

2023年,英特爾整體收入為542億美元,同比下降14%。英特爾數據中心和人工智慧事業部(DCAI)營收155億美元,同比下滑20%;晶元代工業務營運虧損達70億美元,虧損較2022年擴大約18億美元。英特爾預計代工業務到2027年左右將實現收支平衡。

進入4月以來,英特爾股價累計跌幅超過13%。外媒指出,新的人工智慧晶元能否幫助英特爾找到股價上漲的動能值得關注,在4月9日盤中,英特爾一度下跌1.7%。但在發布新的晶元後,英特爾股價開始上漲。截至9日美股收盤,英特爾收漲0.92%,市值1632億美元。

Gaudi 3會是英特爾掙扎的解藥嗎?

畢竟,AMD也在2023年12月初推出了MI300系列AI晶元產品,其稱MI300X晶元的內存密度是英偉達H100的2.4倍,內存帶寬是其1.6倍,擁有更好的推理性能。

在此次英特爾Gaudi 3發布後,目前AI晶元市場開始呈現出三足鼎立的局面——英偉達B200、AMD MI300系列和英特爾Gaudi 3。

另外,會上還透露,下一代英偉達Gaudi晶元的代號將是Falcon Shores。

可見,晶元市場的裂變開始加劇分化。

科技分類資訊推薦

買賣二手手機,如何更安心 - 天天要聞

買賣二手手機,如何更安心

數據來源:商務部等製圖:蔡華偉山東濟南歷下區的一家手機店裡,市民黃育珍將舊手機交給店員。數據遷移、隱私清除……經過一系列操作,這部手機最終折抵800元。「我新換了台大屏手機,算上換新補貼和折舊費用,價格很合適。」黃育珍說。今年,消費品以舊換
從1U到整櫃,成都電信託管價格影響因素大揭秘 - 天天要聞

從1U到整櫃,成都電信託管價格影響因素大揭秘

成都電信伺服器託管價格從1U到整櫃的變化,主要受到以下因素的綜合影響:1. 伺服器規格機櫃空間:伺服器佔用的機櫃空間越大,託管費用越高。1U伺服器佔用空間最小,成本相對較低;而4U伺服器佔用空間大,成本更高。
外賣大戰揭秘!美團和京東,到底在爭什麼? - 天天要聞

外賣大戰揭秘!美團和京東,到底在爭什麼?

外賣只是幌子,真正的戰場還在後面。1外賣大戰過去幾個月,外賣行業的大戰搞得沸沸揚揚。我梳理了一個時間線,方便大家回憶一下這場商戰。第一階段:2月11日,京東宣布正式啟動京東外賣。2月19日,京東外賣宣布自2025年3月1日起,將逐步為京東外
倍思將推出全新 Nomos 67W 磁吸插線板:六合一設計,支持 Qi2 - 天天要聞

倍思將推出全新 Nomos 67W 磁吸插線板:六合一設計,支持 Qi2

IT之家 6 月 4 日消息,歐洲亞馬遜今日提前上架了全新倍思 Nomos 67W 磁吸插線板,該插線板採用六合一設計,USB-C 單口最大輸出功率可達 67W。根據商品頁介紹,該插線板採用六合一設計,融合了電源插座、USB-A 介面、USB-C 介面以及 Qi2 無線充電。各個介面數量、詳細參數如下:電源插座:2 個,兼容歐盟插座標準。USB-C 接...
ToB話聊室:小鵬和華為預告戰略合作;日本計劃藉助AI加強知識產權競爭力 - 天天要聞

ToB話聊室:小鵬和華為預告戰略合作;日本計劃藉助AI加強知識產權競爭力

【ZOL中關村在線原創新聞】6月4日,歡迎收看《ToB話聊室》。在這裡,小編將跟你嘮一嘮科技領域的新鮮事兒。小鵬和華為預告戰略合作小鵬汽車和華為乾崑智能汽車解決方案分別在微博預告,將於6月5日的發布會官宣戰略合作。今年2月,小鵬汽車董事長、CEO何小鵬就曾拜訪華為創始人任正非。ZOL有話說:華為在激光雷達、高精度地...
大公司日報|谷歌「黑天鵝」預警!若Chrome被法院強拆,股價恐跌四分之一 - 天天要聞

大公司日報|谷歌「黑天鵝」預警!若Chrome被法院強拆,股價恐跌四分之一

為投資者提供專業資訊服務 資訊傳遞價值,專業伴隨成長!——騰訊官方證券投資平台 為投資者提供專業資訊服務 資訊傳遞價值,專業伴隨成長!——騰訊官方證券投資平台1、谷歌「黑天鵝」預警!若Chrome被法院強拆,股價恐跌四分之一2、萬泰生物九價HPV疫苗獲批上市,鍾睒睒或成最大贏家3、小鵬汽車牽手華為!新車將搭載華為...
利好利空晚報|工信部發聲!著力培育人工智慧優勢企業;能源局推動新型電力系統建設 - 天天要聞

利好利空晚報|工信部發聲!著力培育人工智慧優勢企業;能源局推動新型電力系統建設

為投資者提供專業資訊服務 資訊傳遞價值,專業伴隨成長!——騰訊官方證券投資平台周三晚間,市場聚焦哪些新聞?一起來和自選哥看看吧:工信部發聲!著力培育人工智慧優勢企業;能源局推動新型電力系統建設。首先,一起來和自選哥看看關於人工智慧,工信部有哪些部署。6月4日,據工業和信息化部,工業和信息化部黨組書記、...
曝華為新款手錶將首發搭載全新5G麒麟晶元 - 天天要聞

曝華為新款手錶將首發搭載全新5G麒麟晶元

6月4日消息,近日華為官方官宣其首款鴻蒙AI智能手錶——華為WATCH 5即將於6月11日正式上市。而就在今晚,知名抖音博主@楊長順維修家對這款即將發布的智能手錶進行了拆機分析。據博主透露,華為WATCH 5不僅將搭載全新的麒麟晶元,還將成