最近一段時間,AI PC成為一個流行詞。Intel在發布Core Ultra處理器的時候,直接使用了AI PC這個詞語,而各大廠商發布相應的筆記本產品時,也使用了AI Ready的宣傳詞。而在Intel之前,AMD在發布自己的新一代APU的時候,也宣告2024年將進入AI PC的時代。甚至於全球整個PC行業都在渲染2024年將是AI PC元年……對於這個辭彙,估計不少人還是有一些懵,那麼AI PC到底是什麼?現階段又有什麼產品可購買?今天我們就來聊聊這個。
什麼是AI PC?
AI PC這個詞語不僅僅是Intel和AMD這兩家傳統PC處理器大廠在使用,包括之前高通發布自己PC用的ARM晶元時,也使用了這個辭彙。但實際上,業界並沒有對AI PC有一個明確的標準,當然從字面意思來看,就是可以在本地執行生成式AI功能的電腦,而不僅僅是通過網路去運行一些AI聊天或者生成式應用。
目前我們在電腦和手機上,可以通過類似ChatGPT、文心一言這樣的程序來聊天或者生成文字,或是利用Midjourney來製作圖片,不過這些都是通過雲端讓模型運算生成我們要的結果。而AI PC的目的就是不通過雲計算和網路,可以直接在本地運行各種AI模型來計算並且得到結果。
所以對於硬體廠商來說,在傳統的硬體中加入相應AI計算模塊,比如NPU,並且可以在操作系統內執行AI模型,其實就稱得上AI PC了。這個概念其實對我們並不陌生,畢竟手機端各大廠商早就在晶元中加入了NPC模塊,華為、蘋果、聯發科、高通的晶元中都有類似硬體,所以目前的手機其實也都可以稱之為AI手機,並且在拍照以及其他一些應用中,利用演算法的優勢來獲得更好的效果。
當然就像我們所說的一樣,由於AI PC其實沒有明確的定義和標準,也沒有說PC和筆記本可以獨立執行到什麼程度的模型,所以其實AI PC並沒有一個規範。所以最後所謂的AI PC又只能看硬體廠商推出的產品而定,目前似乎只要有NPU模塊的PC產品,都能稱之為AI PC,當然我們用戶還是得關注這些AI PC到底能支持什麼樣的AI本地模型。
NPU是什麼?沒有就不能支持AI了么?
對於手機用戶而言,NPU這個詞不會陌生,不過搬到PC上,這多少可能會讓一些用戶有點茫然。其實這就和CPU以及GPU一樣,過去我們要看電腦的運行速度是不是夠快,那麼就要看CPU的處理能力;如果要看玩遊戲性能是不是夠好,那就要看GPU的水準如何。而現在加入的NPU,英文名為Neural network Processing Unit,其實就是神經網路單元,說白了就是可以支持AI模型的單元,讓整個硬體系統可以擁有更好的AI運算能力。
像現在的處理器,架構雖然複雜,但按照傳統的概念來看,也就是只有CPU,或者是CPU+GPU的設計,後者我們稱之為核顯。現在NPU的加入,只不過讓處理器中在CPU和GPU之外,又多出了NPU的核心。在手機上我們非常常見,現在只不過搬到了PC的處理器上。但是要注意的是,並不是說沒有NPU核心,我們的PC就無法運行AI程序。
畢竟我們知道CPU是個萬能的東西,現在還有GPU的加速。就拿我們現在電腦來說,買一張還不錯的顯卡,去安裝Stable Diffusion來跑文生圖都是可以,甚至核顯都能跑,只不過跑的效率、精度這些就要差一些。 同樣就算我們現在的電腦沒有NPU模塊,其實大多數情況下CPU一樣可以在本地運行AI模型,只是速度和功耗部分沒有NPU這麼好。
所以從這個角度而言,就算大家沒有購買AI PC,或者是想用現有的電腦去本地運行AI模型,其實一般來說都是可以的。只要系統商或者軟體商,在系統上內置相應的AI模型,或者推出相應的軟體就沒有問題。我們預計未來除了操作系統之外,一些AI公司也可能會在各種操作系統上推出自帶AI模型的軟體,或者在某些驅動庫中內置。
有哪些支持NPU的AI PC?
首先就是高通的驍龍X Elite平台,這個之前我們介紹過。這個平台整合了全新定製的高通Oryon CPU、Adrendo GPU 以及獨立的NPU 神經處理器單元。採用4nm工藝,CPU 部分採用12核心配置,最高頻率為3.8GHz;GPU 部分,搭載的Adrendo GPU 提供4.6 FLOPS算力, 支持DirectX 12 API以及4K/60P 10bit的H.264/HEVC/AV1編碼。
在AI算力部分,高通的NPU最高可提供45TOP(每秒兆次運算)算力,支持在終端側運行超過130億參數的生成式AI。目前已經有不少廠商表示支持,不過暫時還不知道相應的產品會在什麼時候上市,大概率是2024年上半年,首發廠商包括微軟、聯想、戴爾和惠普等。未來高通會有更為細化的產品,並且除了PC之外,還會進軍手機、汽車和XR行業。
傳統PC處理器部分,首先在處理器中加入NPU的是AMD。AMD在2023年初發布的Ryzen 7040系列處理器,第一次為x86處理器加入了獨立的NPU AI單元,AMD提出了AMD Ryzen AI 引擎技術,可讓用戶在AI PC上更易於使用個人運算的強大功能。目前AMD Ryzen 7040系列處理器以及下一代Ryzen 8040系列的處理器均支持AMD Ryzen AI引擎技術,也就是用這一系列處理器的筆記本,都能看作是AI PC。
AMD Ryzen AI引擎基於全新設計的XDNA 架構,可以脫離網路和雲端,在本地執行AI工作負載,進而降低延遲、保護隱私。 當然,它也可以在本地和雲端的混合場景中運行,在雲端伺服器和本地筆記本之間分配任務、協同加速。AMD設計的概念為在長時間進行小體量的AI運算,在消耗少量電力的情況下,提供持續性的AI功能。
目前,基於Ryzen7040系列處理器的筆電產品已經有幾十款,出貨量數百萬台,涵蓋宏碁、華碩、戴爾、聯想、惠普、雷蛇、小米等各大合作品牌。Ryzen AI的應用也不斷拓展,合作夥伴包括Adobe、微軟、Avid、Bori SFX、OBS Studio、Topaz Labs、Zoom、Cyberlink、XSplit VCam、Luminar、Audacity、Arkrunr、Blackmagic Design、Capcut,以及位元組跳動、愛奇藝等等。此外,Ryzen AI驅動的加速功能目前也已有100多個,的確提升了用戶在日常使用中的效率。
最後則是PC行業的老大Intel,Intel代號為Meteor Lake的Core Ultra移動PC處理器。不只內置CPU、GPU,還整合了一個可用於推論加速的AI引擎NPU,來提高這款處理器對於生成式AI的處理能力,這也是為Intel首款整合NPU的產品。Intel在9月底介紹這款處理器曾提到過一個概念,就是表示一款AI加持的處理器,不只是需要整合AI加速的NPU來提高生成式AI處理能力,還需要結合模組化、多晶磚設計等,提升其性能和降低功耗。
從效率而言,Intel的這款處理器搭配專用NPU模塊,可整合CPU和GPU的運算效能,大幅提升PC的人工只能運算效能,使電池續航力提高2.5倍。也可搭配OpenVINO、ONNX 等工具,加速建構各類AI模型與應用服務。由於Intel的號召力,目前各大廠商已經推出相應的筆記本產品,大概已經超過230款。Intel也認為到了2028年,AI PC市場佔有率將達到80%。
軟體與系統層面的支持
很多人認為微軟是支持AI最積極的軟體廠商,這麼說當然沒錯,不過微軟最新升級後的Copilot其實和NPU以及AI PC都沒什麼關係,它背後用到的ChatGPT功能,不說國內無法使用,能使用其實也不需要什麼AI PC,畢竟這是雲端計算,有網路即可,用不到AI PC上的NPU模塊。所以未來如果是AI聊天什麼的,其實不需要考慮AI PC。
不過AMD以及Intel,其實都有跟微軟進行合作,支持Windows還在發展中的AI創新功能。像是Ryzen AI在Win11升級之後就可以支持後者的AI創新,比如Windows Studio Effects,該模組可以加速這個應用中的自動取景、背景模糊等功能,當然這主要還是在筆記本上,普通電腦上其實是不存在這個問題的。
現在Windows上的AI創新功能其實還很不完善,就只是一些不同應用程式加入的一些AI工具罷了。以目前Windows需要用到NPU加速的AI功能來說, 微軟這邊還沒有開發出一個很重要的殺手級應用程式出來。所以AI PC能不能在2024年大行其道,還得看操作系統本地的AI應用是不是足夠強大以及有吸引力。這或許要等到微軟的Windows 12我們才能看到了。
當然除了微軟之外,其他AI應用公司現在基本上都是把運用相關的程序放在雲端,通過網頁或者其他APP在手機上實現,這其實也不需要AI PC。但是既然AMD、Intel都在處理器中加入了NPC,這些公司不好好適配顯然也說不過去,所以現在像Adobe這些軟體,都開始在自己的軟體程序中加入AI相關的功能,讓用戶能在本地運行。
我們預計大公司或者一些很流行的軟體,會逐漸加入各種AI功能,來強化用戶的體驗。這和僅僅是聊天或者獲取諮詢不同,很多應用在AI的加持下實際上相當有意義,比如Photoshop就能大大提升用戶的工作效率。而且不出意外的話,微軟的Windows 12應該會在本地一些應用加入AI,比如畫圖。屆時我們的操作系統在AI部分應該是一個本地和雲端並行的系統。
寫在最後
說了這麼多,最終還是要得出一個結論。買不買這個問題其實不用太困擾,因為你要在2024年買個筆記本電腦,只要新一些都會自帶NPU,肯定也就是AI PC了。而未來我們在PC單獨購買處理器這類產品,估計AMD和Intel也會加入NPU單元,這個用戶沒得選擇,跟著硬體廠商走就行了。
不過要說2024年,AI PC就在應用上有很大的改進,並且展現出和過去不一樣的應用場景,我們還是覺得言之過早。PC從業者喊出這個AI PC元年這個口號,主要的原因還是因為PC的銷量過去一年是在低迷,所以整個行業也需要一個噱頭來帶動整個產業,AI自然就擔負起這個重任,而現在看來AI也的確是未來PC發展的方向。
不過從目前的AI應用來看,在本地可執行的的確還是太少,大多數我們熟知的AI應用其實都是在雲端完成,根本用不到NPU單元。也就是說即使用戶現在購買一款AI PC,基本上和過去的產品在應用端也沒啥區別。即使AMD和Intel都推出了自己的AI引擎,但都還是在和各家廠商洽談合作,只是進行時,遠遠沒到所謂的成熟。
從我們的預測來看,AI本地模型和應用的成熟,可能要到2025年才有看頭,2024年是一個起步階段,但我們的確不認為AI PC就和非AI PC有多大的區別。當然從購買硬體的角度而言,2024年大家購買AI PC也沒什麼問題,未雨綢繆嘛。而用著非AI PC的用戶也不用著急,到了2025年再更新換代豈不是一個很簡單的事情。