對標英偉達H100,算力提升50%,英特爾新一代Ai晶元Gaudi 3發布

2024年04月13日23:45:13 科技 1418

對標英偉達H100,算力提升50%,英特爾新一代Ai晶元Gaudi 3發布 - 天天要聞

同時劍指英偉達台積電英特爾坐不住了。

文丨智駕網 王欣

編輯丨浪浪山與明知山

美國當地時間4月9日,英特爾舉辦了面向客戶和合作夥伴的英特爾on產業創新大會。英特爾CEO帕特·基辛格亮出了最新AI晶元——Gaudi 3

對標英偉達H100,算力提升50%,英特爾新一代Ai晶元Gaudi 3發布 - 天天要聞

Gaudi系列是英特爾面向AI應用場景專門推出的晶元品牌,而Gaudi 3的AI計算性能是上一代產品Gaudi 2的2至4倍。

儘管數日前,英偉達在GTC上發布了最新的Blackwell架構的GPU B100和B200晶元,但英特爾的Gaudi 3在具體參數上,仍選擇了英偉達更早之前的主力產品H100作為競爭對象。

此次Gaudi 3最直接的升級體現在性能和成本方面。

性能上:據官方介紹,相比較英偉達H100,英特爾Gaudi 3 AI晶元的模型訓練速度、推理速度分別可提升40%和50%。這顆晶元還能夠支持多種的大模型,包括Llama、文生圖的Stable Diffusion、語音識別的Whisper等等。

網路連接在GPU中也是一項關鍵點。

英特爾宣稱,Gaudi 3 AI加速器可通過乙太網的通用標準連接多達數萬個加速器。與上一代產品相比,英特爾Gaudi 3將帶來4倍的BF16 AI計算能力提升,以及1.5倍的內存帶寬提升,其中FP8吞吐量翻了一番達到1835 TFLOPS

不同於英偉達Blackwell採用最新的台積電3nm工藝,Gaudi 3採用的是台積電的5nm工藝製造。同時張量核心從24格升級到了32個。

此外,英特爾還宣布Naver韓國互聯網巨頭)、博世IBM、Ola等一大批公司成為英特爾Gaudi加速器的客戶和合作夥伴。而在今年第二季度,Gaudi 3則會面向OEM廠商出貨,包括戴爾惠普聯想和超微電腦在內的公司,第三季度正式上市

成本上的升級體現在英特爾的一句話中——「Gaudi 3 的成本僅為英偉達H100的一小部分。」

英特爾副總裁Das Kamhout在會上直言表示,相比於英偉達H100,英特爾Gaudi 3在70億和130億參數Llama2模型,以及1750億參數GPT-3模型上,大模型的訓練時間預計縮短50%,同時能耗、成本表現更好。

帕特·基辛格也補充道:「Gaudi 3的性能將與英偉達H200相當,甚至在某些領域的性能甚至更好。」不過,此言並沒有對比數據做支撐,他也並未展開說明。

去年年底,帕特·基辛格就炮轟過英偉達的CUDA生態「既淺又窄」,並聲稱對於人工智慧來說推理技術將比訓練更加重要。

種種跡象表明,英特爾想證明推理市場才是競爭的重點,而Gaudi 3正是英特爾用來打入AI推理市場的產品。

除了Gaudi 3晶元,英特爾還在Vision 大會上發布了六代至強處理器。

對標英偉達H100,算力提升50%,英特爾新一代Ai晶元Gaudi 3發布 - 天天要聞

當天,英特爾分享了企業AI各細分領域的下一代產品和服務的最新信息。英特爾為面向數據中心、雲和邊緣發布了下一代處理器英特爾至強6。配備能效核(E-cores)的英特爾至強6處理器將於2024年第二季度推出,配備性能核(P-cores)的英特爾至強6處理器將緊隨其後推出。

現在,英特爾想要打造一個廣泛的AI生態聯盟,推動企業在AI領域的創新。

英特爾概述了面向開放的、可擴展的AI系統的戰略,其中包括硬體、軟體、框架和工具。當天,英特爾聯合多家公司宣布,將創建一個開放平台助力企業推動AI創新。這一計劃旨在開發開放的、多供應商的生成式AI系統,通過RAG(檢索增強生成)技術,提供部署便利性、性能和價值。RAG可使企業在標準雲基礎設施上運行的大量現存專有數據源得到開放大語言模型(LLM)功能的增強,加速生成式AI在企業中的應用。

同時,英特爾也在AI晶元設計和代工上全面發力,劍指英偉達和台積電兩個巨頭。

今年2月,英特爾首次推出面向AI時代的系統級代工,願意為包括英偉達、高通谷歌微軟以及AMD在內的所有客戶代工晶元。

英特爾的目標是到2030年成為全球第二大代工廠,希望十年內全球50%的半導體在美國和歐洲生產。但目前這一比例僅為20%,全球大部分生產集中在亞洲

作為堅守IDM模式的老牌巨頭,英特爾在各個細分領域正在遭遇不同對手的瘋狂進攻。

據TrendForce集邦諮詢數據,英特爾於2023年第三季度躋身全球前十大晶圓廠之列,但第四季度又跌出了全球前十。第四季度,台積電在晶圓代工市場上的份額較上季度進一步增長,已突破60%。

2023年,英特爾整體收入為542億美元,同比下降14%。英特爾數據中心和人工智慧事業部(DCAI)營收155億美元,同比下滑20%;晶元代工業務營運虧損達70億美元,虧損較2022年擴大約18億美元。英特爾預計代工業務到2027年左右將實現收支平衡。

進入4月以來,英特爾股價累計跌幅超過13%。外媒指出,新的人工智慧晶元能否幫助英特爾找到股價上漲的動能值得關注,在4月9日盤中,英特爾一度下跌1.7%。但在發布新的晶元後,英特爾股價開始上漲。截至9日美股收盤,英特爾收漲0.92%,市值1632億美元。

Gaudi 3會是英特爾掙扎的解藥嗎?

畢竟,AMD也在2023年12月初推出了MI300系列AI晶元產品,其稱MI300X晶元的內存密度是英偉達H100的2.4倍,內存帶寬是其1.6倍,擁有更好的推理性能。

在此次英特爾Gaudi 3發布後,目前AI晶元市場開始呈現出三足鼎立的局面——英偉達B200、AMD MI300系列和英特爾Gaudi 3。

另外,會上還透露,下一代英偉達Gaudi晶元的代號將是Falcon Shores。

可見,晶元市場的裂變開始加劇分化。

科技分類資訊推薦

科技助力垃圾分類化廢為寶 | 「五小」創新成果 - 天天要聞

科技助力垃圾分類化廢為寶 | 「五小」創新成果

你知道上海一天的垃圾量是多少嗎?這麼多垃圾怎麼做才能提高有效處置量最好還能化廢為寶呢?讓我們來看看上海黎明資源再利用有限公司怎麼做得吧~黎明資源承擔了上海生活垃圾處置10%的任務,主要負責浦東新區北片區的生活垃圾資源化處置工作。整個園區主要包括一個2000噸規模干垃圾焚燒發電項目以及一個1000噸規模濕垃圾厭氧...
蘋果拋出1100億美元史上最大回購;前員工稱特斯拉經常處於混亂狀態;ChatGPT 新增臨時聊天功能|極客早知道 - 天天要聞

蘋果拋出1100億美元史上最大回購;前員工稱特斯拉經常處於混亂狀態;ChatGPT 新增臨時聊天功能|極客早知道

蘋果公司發布了第 2 財季財報 盤後漲 7%5 月 3 日消息,蘋果公司今天發布了 2024 財年第 2 財季(2024 年第 1 季度)財報,營收 908 億美元,而去年同期營收為 948 億美元,同比下降 4%;大中華區營收 163.7 億美元,同比下降 8.1%。蘋果公司在今年第 1 季度的凈利潤為 236 億美元,相比較去年同期(241 億美元)下降
湖北首座液冷超級充電站投運:1秒可充1公里! - 天天要聞

湖北首座液冷超級充電站投運:1秒可充1公里!

快科技5月3日消息,近日,位於武漢經開區江城大道旁的南太子湖超級充換電五福中心正式投入運營,成為湖北省首座液冷超級充電設備和「光儲充換放」一體的超級充電站。這座位於江城大道旁南太子湖的先進充電站,由國網湖北電力投資建設,覆蓋約6200平方米面積。充電站裝配了4套華為製造的超快充設備。這些設備具備為多達97輛...
每年20億度電「打捆」送出 「超級充電寶」來了 - 天天要聞

每年20億度電「打捆」送出 「超級充電寶」來了

什麼是綠色?在唐詩里,它是「碧玉妝成一樹高,萬條垂下綠絲絛」;在宋詞里,它是「紅了櫻桃,綠了芭蕉」。當下說到綠色,是零碳工廠里的排放指標,是沙漠光伏之海泛起的波濤。近1.2萬面大鏡子戈壁灘上的「向日葵」追太陽北緯40度的河西走廊,平均每天有9個小時能享受充足的陽光,這是中國太陽能資源最為豐富的地區之一。追...
汽車「以舊換新補貼」來了,內蒙超過國家基本標準,可領12000元 - 天天要聞

汽車「以舊換新補貼」來了,內蒙超過國家基本標準,可領12000元

前幾天,國家商務部和財政部聯合發布了《汽車以舊換新補貼實施細則》,只要滿足兩個條件的汽車採取以舊換新的方式,可以領取國家補貼,我們也給大家做過詳細的介紹,不過今天再告訴大家一個好消息,第1個超過國家補貼標準的城市出現了,內蒙古車主可以在國家補貼的基礎上再多領2
2024年4月安卓手機好評榜前十名 - 天天要聞

2024年4月安卓手機好評榜前十名

根據安兔兔公布的一份2024年4月份Android手機好評榜TOP10數據來看,有十款手機榜上有名。在我看來,這10款手機憑藉著自身的性能實力和用戶認可度,拿下了其他機型達不到的位置,也給準備換新機的用戶提供了可靠的參考依據。4月安卓手機好評榜前十名依次如下:1. vivo X Fold 3 Pro:以95.65%的好評率位居榜首。2. 三星 Gal...
剛剛!千架無人機點亮竹山夜空!朋友圈刷爆了 - 天天要聞

剛剛!千架無人機點亮竹山夜空!朋友圈刷爆了

廣告合作:0719—4228215新聞熱線:0719—42243515月2日20:00大型無人機表演在竹山桃花源街區震撼上演以天為幕,光影為筆展現了一場美輪美奐的科技光影秀隨著編隊工程師的下令上千架無人機騰空而起有序地變換著陣型時而如螢火蟲般組成一個發光的卡通圖案時而匯聚成各種文字呈現多種3D立體效果……△無人機起飛第一幕...
福特四月份美國總銷量下降2.4%;蘋果CEO庫克據悉下周將預告新的AI功能;特斯拉電動汽車充電團隊被裁!約500人受影響|Do早報 - 天天要聞

福特四月份美國總銷量下降2.4%;蘋果CEO庫克據悉下周將預告新的AI功能;特斯拉電動汽車充電團隊被裁!約500人受影響|Do早報

大家早上好,又是元氣滿滿的一天,一起來瀏覽今天的早報吧~【福特四月份美國總銷量下降2.4%】福特四月份美國總銷量為179588輛,下降2.4%;四月份電動汽車銷量8019輛,去年同期3499輛。【蘋果CEO庫克據悉下周將預告新的AI功能】為重振消費者熱情,蘋果CEO庫克預計下周預告新的人工智慧功能,並於6月的全球開發者大會上公布...
新能源越野標準定義者,車展現場感受方程豹5可城可野的新解答! - 天天要聞

新能源越野標準定義者,車展現場感受方程豹5可城可野的新解答!

這個五一大家準備去哪裡玩?這幾天不斷刷出各大景區客流量爆棚的新聞,甚至出現了「五一假期是捅了人窩吧」這樣的話題衝上首位。不想人擠人?這裡筆者給大家推薦一個好玩又好逛,而且客流量相比傳統景區可能要友好很多的場景!那就是各大城市的車展!五一期間看到很多城市都在舉辦
對話楊曉明:五年50%業務增長,安波福定義「中國速度」 - 天天要聞

對話楊曉明:五年50%業務增長,安波福定義「中國速度」

4月的北京車展讓中國汽車市場再次站在了全球聚光燈下,一邊是遠超其他市場的智能化、電動化轉型速度,另一邊則是不斷加劇的價格戰和降本增效壓力。對中國汽車市場來說,這是最好的年代,也是最殘酷的年代。面對中國市場,跨國公司紛紛喊出了「在中國、為中國」的口號,但是如何落到實處,並不簡單。這一點上,已在中國市場...