矽谷AI晶元爭霸戰:CPU、GPU和NPU的新時代角逐

2024年06月14日09:33:11 科技 1944

文/陳思進

當前,一場激烈的「AI(人工智慧)大戰」已經在矽谷徹底打響。服務諮詢機構Dealroom和Flow Partners最新公布的報告顯示,全球科技行業正進入以AI為代表的新創新周期。單美股中微軟英偉達蘋果谷歌特斯拉等「七姐妹」,每年在AI和雲基礎設施上投資就高達4000多億美元(約合3萬億元人民幣),覆蓋了從AI晶元、大模型,到人形機器人、自動駕駛、AI醫療等領域。

矽谷AI晶元爭霸戰:CPU、GPU和NPU的新時代角逐 - 天天要聞

6月2日,英偉達創始人兼CEO黃仁勛宣布,英偉達Blackwell晶元現已開始投產。演講中,黃仁勛宣布,英偉達將在2025年推出Blackwell Ultra AI晶元。下一代AI平台名稱為Rubin,該平台將採用HBM4內存。Rubin下一代平台正在開發之中,將於2026年發布,Rubin AI平台將採用HBM4記憶晶元。

據悉,英偉達的第一款Blackwell晶元名為GB200,宣稱是目前「全球最強大的晶元」。目前,供應鏈對GB200寄予厚望,預估2025年出貨量有機會突破百萬顆,將佔英偉達高端GPU出貨量的近40%—50%。

我曾在三年多前的《AI(人工智慧)的三大基石:數據、算力和演算法——漫談人工智慧(番外篇)》(《科普時報》2021年04月23日第3版首發)一文提到,AI的三大基石:數據、演算法和算力,缺一不可,而算力的基礎就是晶元。

那這篇就介紹一次三大主流晶元:CPUIntel)、GPU(英偉達)、以及NPU(AMD)。

一、CPU(中央處理器Central Processing Unit)是計算機系統的核心組件,負責執行計算和控制任務。它的主要功能包括從內存中獲取並執行指令,進行算術和邏輯運算,以及協調計算機各部分的操作。

主要組成部分

算術邏輯單元ALU):執行所有的算術和邏輯運算。

控制單元(CU):解釋指令並指導其他部分完成工作。

寄存器:高速存儲單元,用於暫時存儲數據和指令。

性能指標

CPU性能通常由以下幾個指標衡量:

時鐘速度:以GHz(千兆赫茲)為單位,表示CPU每秒可以執行的周期數。

核心數量:現代CPU通常有多個核心,每個核心可以獨立處理任務,從而提高多任務處理能力。

緩存:臨時存儲器,用於加快數據訪問速度,通常包括L1、L2和L3緩存。

多線程和多核技術

多線程技術:如超線程技術(Hyper-Threading),允許每個物理核心處理多個線程,提高CPU的利用率和性能。

多核技術:在一個CPU晶元上集成多個處理核心,以提高並行處理能力。

通過這些基本信息,可以了解CPU作為計算機系統核心組件的重要性及其工作原理。

Intel:全球最大的CPU製造商之一,以其Core、Xeon等系列著稱。

之前著名的Wintel,就是指由微軟操作系統Windows與Intel CPU所組成的個人計算機

二、那GPU是什麼?

CPU雖然很厲害,但在AI領域,已被GPU所取代。

GPU,全稱為圖形處理單元,最初設計用於處理圖形渲染任務,特別是3D圖形渲染。由於圖形渲染需要大量的矩陣和矢量運算,GPU被設計成能夠高效處理這些並行計算任務。因此,GPU具有大規模並行計算能力,可以同時處理成千上萬個小型計算任務。

隨著深度學習技術的興起,研究人員發現GPU的並行計算能力非常適合用於加速深度學習中的訓練過程。由於深度學習中的大量計算也可以分解為並行任務,GPU迅速成為深度學習訓練的主要計算引擎。

隨著人工智慧和深度學習技術的飛速發展,計算機處理器的種類和功能也在不斷擴展和創新。近年來,NPU(Neural Processing Unit,神經處理單元)逐漸成為計算領域的新熱點。本文將介紹什麼是NPU,並分析其與GPU(Graphics Processing Unit,圖形處理單元)的區別。

三、NPU又是什麼?

NPU,全稱為神經處理單元,是專門為加速神經網路計算而設計的一種處理器。它們主要用於執行深度學習演算法中的矩陣運算和矢量操作。這些運算通常包括卷積神經網路(CNN)、循環神經網路RNN)和其他形式的神經網路中的基本操作,如矩陣乘法、加權求和和激活函數計算等。

NPU的設計目標是優化和加速人工智慧應用的執行效率。與傳統的CPU和GPU相比,NPU具有以下幾個特點:

專用性強:NPU專為神經網路計算優化,能夠高效處理深度學習中的特定任務。

高並行性:NPU通常包含大量並行處理單元,可以同時執行大量的計算任務。

低功耗:由於其專用性,NPU的功耗通常比GPU更低,適用於移動設備和嵌入式系統。

四、NPU和GPU的區別

儘管NPU和GPU都能用於加速神經網路的計算,但它們在設計理念和應用場景上存在顯著差異。

設計初衷:

GPU:最初為圖形渲染設計,後來由於其強大的並行計算能力被廣泛應用於深度學習。

NPU:專為神經網路計算設計,目標是優化深度學習的推理和訓練過程。

架構:

GPU:包含大量通用的並行計算核心,能夠處理多種類型的並行任務,不僅限於神經網路計算。

NPU:通常包含專用的加速模塊,如張量處理單元(TPU),並且針對特定神經網路操作進行了優化。

性能:

GPU:由於其通用性,雖然在神經網路計算上性能不如NPU,但在靈活性和通用計算能力上具有優勢。

NPU:在執行特定的神經網路計算任務時,效率通常比GPU更高,尤其是在推理階段。

功耗:

GPU:功耗較高,適合用於數據中心和桌面計算環境中的深度學習訓練。

NPU:由於其專用性設計,通常在執行神經網路任務時功耗較低,更適合嵌入式和移動設備。

四、總結

GPU和NPU都是當前人工智慧計算的重要工具,各自有著獨特的優勢和適用場景。NPU通過專用設計提供高效的神經網路計算能力,適合用於推理階段和低功耗設備。GPU憑藉其強大的並行計算能力和靈活性,仍然是深度學習訓練的重要計算引擎。隨著技術的不斷發展,我們可以期待NPU和GPU在各自領域中繼續發揮重要作用,為人工智慧的發展提供更強大的計算支持。

簡寫版:矽谷搶灘人工智慧處理器

□ 陳思進

美國矽谷目前正經歷著一場激烈的「人工智慧大戰」。服務諮詢機構的最新報告披露,全球科技行業正進入一個以人工智慧為代表的新創新周期。微軟、英偉達、蘋果、谷歌、特斯拉等科技巨頭每年在人工智慧和雲基礎設施上的投資高達4000多億美元,覆蓋了從處理器、大模型到人形機器人、自動駕駛、人工智慧醫療等眾多領域。

6月2日,英偉達宣布,Blackwell處理器已正式投產,並計劃在2025年推出Blackwell Ultra AI處理器,預計年出貨量有望突破百萬件,佔英偉達高端圖形處理器出貨量的40%至50%。這一消息引起廣泛關注。

人工智慧的發展離不開數據、演算法和算力,而算力的基礎就是處理器。當前,中央處理器、圖形處理器和神經網路處理器是三大主流處理器,各有其獨特的功能和應用領域。

中央處理器是計算機系統的核心組件,負責執行計算和控制任務。它從內存中獲取並執行指令,進行算術和邏輯運算,並協調計算機各部分操作。中央處理器的性能通常由時鐘速度、核心數量和緩存等指標來衡量。現代中央處理器通常有多個核心,每個核心可以獨立處理任務,從而提高了多任務處理能力。作為全球最大的中央處理器製造商之一,Intel的Core和Xeon系列尤為著名。

然而,在人工智慧領域,圖形處理器已逐漸取代了中央處理器。圖形處理器最初設計用於處理圖形渲染任務,尤其是3D圖形渲染。由於圖形渲染需要大量的矩陣和矢量運算,圖形處理器被設計成能高效處理這些並行計算任務的能力。隨著深度學習技術的興起,研究人員發現圖形處理器的並行計算能力,非常適用於加速深度學習中的訓練過程,成為主要計算引擎。

近年來,神經網路處理器逐漸成為計算領域的新熱點。神經網路處理器專門為加速神經網路計算而設計,主要用於執行深度學習演算法中的矩陣運算和矢量操作。與傳統的中央處理器和圖形處理器相比,神經網路處理器具有專用性強、高並行性和低功耗的特點。神經網路處理器專為神經網路計算優化,能高效處理深度學習中的特定任務,其設計目標是優化和加速人工智慧應用的執行效率。

儘管神經網路處理器和圖形處理器都能用於加速神經網路的計算,但它們在設計理念和應用場景上存在顯著差異。

圖形處理器最初為圖形渲染設計,後來由於強大的並行計算能力被廣泛應用於深度學習,而神經網路處理器專為神經網路計算設計,目標是優化深度學習的推理和訓練過程。

圖形處理器包含大量通用的並行計算核心,不僅限於神經網路計算,還能處理多種類型的並行任務。而神經網路處理器通常包含專用的加速模塊,並針對特定神經網路操作進行了優化。

在性能上,圖形處理器雖然在神經網路計算上不如神經網路處理器,但在靈活性和通用計算能力上具有優勢。神經網路處理器在執行特定的神經網路計算任務時,尤其在推理階段,效率通常比圖形處理器更高。

圖形處理器的功耗較高,適用於數據中心和桌面計算環境中的深度學習訓練,而神經網路處理器功耗較低,更適合嵌入式和移動設備。

總的來說,圖形處理器和神經網路處理器都是當前人工智慧計算的重要工具,各自有著獨特的優勢和適用場景。神經網路處理器通過專用設計提供高效的神經網路計算能力,適用於推理階段和低功耗設備。而圖形處理器憑藉其強大的並行計算能力和靈活性,仍然是深度學習訓練的重要計算引擎。隨著技術的不斷發展,我們可以期待神經網路處理器和圖形處理器在各自領域中繼續發揮重要作用,為人工智慧發展提供更強大的計算支持。

2024年06月09日寫於多倫多安大略湖畔

(思進註:除註明作者之外,所有文章皆為思進原創。原創文章,謝絕未保留作者相關信息的任何形式的轉載。【免責聲明】本文僅代表原作者個人的論述和觀點,敬請讀者自行判斷。內容或者數據僅供參考,不構成任何具體投資建議、不作任何商業用途、更不對其真實性負責。投資者據此操作,風險自擔。)

PS. 1、(幾乎)我所有的書都將漸漸地轉為音頻(長篇小說均改編為廣播劇),(獨家)上線喜馬拉雅,已上線了25部。其中,多部專輯已進入了各類收聽排行榜TOP50:如《歸·去·來》廣播劇最佳,曾經進入新專輯TOP10(目前在整個喜馬拉雅的有聲圖書進入TOP100,和眾多經典名著排在一起),另外,《看懂財經新聞的第一本書》《看懂貨幣的第一本書》《白話金融》《投資的方法》等進入財經類TOP30、甚至TOP5……請打開鏈接訂閱收聽:http://m.ximalaya.com/gatekeeper/h5-listen-list?albumId=75881160&uid=77781964

2、香港書展精選暢銷書、科幻長篇小說《超時空拯救》繁體字版新鮮上架,全球發行,音頻版新鮮上架:https://m.ximalaya.com/selfshare/album/76256765

3、金融科普之作《看懂金融的第一本書》(再版),銷量竟然再次超過了基辛格百歲沉澱之作,有點兒不好意思了(凡爾賽一把) ;同時,繁體字版《白話金融》全球發行,音頻版新鮮上架:https://m.ximalaya.com/selfshare/album/81093332

科技分類資訊推薦

大爺寫《我的母親》火爆全網!視頻發布者最新發聲 - 天天要聞

大爺寫《我的母親》火爆全網!視頻發布者最新發聲

連日來,一段關於大爺挑戰寫作1957年高考同題作文《我的母親》的視頻火爆全網。不少網民表示,文字質樸,催人淚下,深深被打動。7月11日,大皖新聞記者聯繫上了視頻發布者連文傑。對方表示,視頻中展示的作文內容由大爺獨立寫作,產生的版權收入也全給大爺。大爺寫作文視頻走紅網路。大爺寫的作文在網上爆火大皖新聞記者注...
10.38萬元起,吉利銀河A7發布預售價 - 天天要聞

10.38萬元起,吉利銀河A7發布預售價

7月11日,吉利銀河發布了預售價,預售價格範圍為10.38-13.38萬元,在發布預售價格的同時,官方也帶來了多項權益,包括500元訂金抵扣1500元,贈送價值8800元的Flyme Sound音響等。
「中欣卡」突然停擺,超150萬用戶退款難 - 天天要聞

「中欣卡」突然停擺,超150萬用戶退款難

覆蓋北京2000多家門店、擁有超150萬持卡用戶的預付卡「中欣卡」近日停擺,線上線下消費渠道均被暫停,恢復時間未知。大量持卡用戶面臨資金凍結困境。消費渠道全面「癱瘓」近日,中欣卡發布公告稱「因業務調整,全面暫停所有門店合作,無法消費」。中國新聞網《民生調查局》記者發現,其官網合作商戶名錄已清空,線上提貨渠...
突發,聊聊Manus「刪博跑路」 - 天天要聞

突發,聊聊Manus「刪博跑路」

摘要:「如果最後有不錯的結果,證明作為中國出生的創始人,也能在新的環境下做好全球化的產品,那就太好了」鳳凰網科技 出品作者|董雨晴7月11日,AI Agent產品Manus官方賬號清空了發布在微博、小紅書的內容。兩天前,Manus剛剛陷入裁
AI取代矽谷程序員?這些美國大廠高管這麼說 - 天天要聞

AI取代矽谷程序員?這些美國大廠高管這麼說

人工智慧(AI)正在加速重塑全球勞動力市場。 當地時間10日,美國招聘平台Indeed及員工評價網站Glassdoor宣布,為應對人工智慧帶來的產業變革,將裁減約1300個職位,占集團員工總數的6%。微軟首席商業官阿爾索夫(Judson Althoff)稱,AI已承擔35%的產品代碼編寫工作,顯著加快了產品開發周期。 美國威達信集團(Marsh McL...