DeepSeek玩家能提前拿蘋果新品!只要15萬元,在家跑滿血版R1

2025年03月13日12:10:25 遊戲 3214

金磊 發自 凹非寺

量子位 | 公眾號 qbitai

號稱地表最強的m3 ultra,本地跑滿血版deepseek r1,效果到底如何?

其實,有些deepseek玩家們已經提前拿到手做過實測了。

例如這位alex老哥就是其中之一:

DeepSeek玩家能提前拿蘋果新品!只要15萬元,在家跑滿血版R1 - 天天要聞

他提前拿到了兩台搭載m3 ultra的mac studio,配置是這樣的:

  • m3 ultra(32 核中央處理器、80 核圖形處理器和 32 核神經網路引擎)

  • 512g統一內存

  • 1tb固態硬碟

DeepSeek玩家能提前拿蘋果新品!只要15萬元,在家跑滿血版R1 - 天天要聞

具體來說,alex老哥用配備thunderbolt 5互連技術(傳輸速率為 80gbps)的exo labs設備,來運行完整的deepseek r1模型(671b、8-bit)。

然後效果是這樣的:

嗯,跑通了!

alex老哥表示,兩台mac studio本地跑滿血版deepseek r1,實際速度是11 tokens/秒,理論上可以達到20 tokens/秒。

至於價格嘛,一台上述配置的mac studio是74249元,兩台就是小15萬元

DeepSeek玩家能提前拿蘋果新品!只要15萬元,在家跑滿血版R1 - 天天要聞

或許很多小夥伴覺得這個價格有點略貴。

但在m3 ultra之前啊,如果你想在本地使用顯卡來推理v3或r1,那麼就得起碼需要6、7張a100……大約小100萬元。

也正因如此,也有不少網友認為搭載m3 ultra的mac studio,堪稱是「性價比最高的大模型一體機」

DeepSeek玩家能提前拿蘋果新品!只要15萬元,在家跑滿血版R1 - 天天要聞

值得注意的是,蘋果這次似乎是主動給deepseek玩家們提前發貨,有種讓他們趕緊測一測的意味。

畢竟在發布之際,蘋果就強調了可以在m3 ultra版mac studio中跑超過6000億參數的大模型。

掀起一波本地跑deepseek的風

其實在m3 ultra版mac studio發布前後,已經有不少人做過類似的評測。

例如b站博主「雖然但是張黑黑」的測試結果是:

  • 15.78 tokens/秒:採用ollama的gguf格式

  • 19.17 tokens/秒:採用更適合蘋果的mlx格式

DeepSeek玩家能提前拿蘋果新品!只要15萬元,在家跑滿血版R1 - 天天要聞

這個速度已經跟在線使用deepseek r1的速度相媲美了。

除此之外,像外網博主xcreate還把m3 ultra版mac studio和m4 max版macbook pro的拉到一個「擂台」做了比較。

首先從性能上來看,geekbench測試的結果顯示,m3 ultra在cpu性能方面與m4 max非常接近,但m3 ultra略勝一籌。

DeepSeek玩家能提前拿蘋果新品!只要15萬元,在家跑滿血版R1 - 天天要聞

在本地運行大模型測試方面,博主在運行基於llama的deepseek r1 70b模型時,m3 ultra的速度為11.3 tokens/ 秒,而m4 max測試結果為10.69 tokens/秒,差距並不是很大。

DeepSeek玩家能提前拿蘋果新品!只要15萬元,在家跑滿血版R1 - 天天要聞

但更重要的是測試滿血版deepseek r1的結果。

對此,博主認為在本地完整運行671b的deepseek是有點困難的,因為已經有人宣告失敗。

但也有成功的例子。

他舉例另一位評測人員的結果,顯示是運行8bit量化版本的deepseek r1,得到了9-21 tokens/秒的速度。

而在4bit量化版情況下,速度為16-18 tokens/秒。

DeepSeek玩家能提前拿蘋果新品!只要15萬元,在家跑滿血版R1 - 天天要聞

DeepSeek玩家能提前拿蘋果新品!只要15萬元,在家跑滿血版R1 - 天天要聞

至於為什麼體量更大的671b的deepseek,會比70b運行速度更快,是因為deepseek將671b模型分片為 「專家混合體」,實際運行時根據問題切換,類似運行30b的模型。

最後,博主也提醒想要在本地運行大模型的友友們,網傳蘋果將在今年wwdc上發布m4 ultra,所以可以再觀望一下。

參考鏈接:
[1]https://x.com/alexocheema/status/1899604613135028716
[2]https://www.bilibili.com/video/bv1nkrnytewx/

遊戲分類資訊推薦

Epic 手游喜加一:強化版賽車遊戲《MR RACER:Premium》免費領 - 天天要聞

Epic 手游喜加一:強化版賽車遊戲《MR RACER:Premium》免費領

IT之家 5 月 9 日消息,玩家現可通過 Epic 遊戲商城移動應用免費領取賽車遊戲《MR RACER:Premium》,截止時間為 5 月 15 日,全球安卓用戶均可領取,iOS 僅限歐盟地區提供,該遊戲不保證所有地區均可遊玩。在開發商 ChennaiGames 推出的強化版賽車遊戲《MR RACER:Premium》中,玩家將坐擁塞滿 15 輛夢幻超跑
OPPO Reno14 系列影像玩法有多豐富?「三合一 Live 圖神機」登場 - 天天要聞

OPPO Reno14 系列影像玩法有多豐富?「三合一 Live 圖神機」登場

從「在我眼裡你會發光」到「每一幀都是封面幀」,OPPO Reno系列始終關注著年輕用戶的影像需求,在「真實」與「創造」之間來回探索,以求讓用戶鏡頭下的照片擁有更加鮮活的生命力。這次全新發布的OPPO Reno14 系列的影像功能里,「生命力」成為了高頻辭彙,「放大拍也清晰,更有生命力」的高清長焦實況照片、「幀幀都4K,更...
首款鴻蒙電腦,亮相! - 天天要聞

首款鴻蒙電腦,亮相!

在今日舉行的鴻蒙電腦技術與生態溝通會上,首款鴻蒙電腦正式亮相,而華為智慧辦公將升級為鴻蒙辦公。在鴻蒙電腦應用適配方面,頭部150個應用已經啟動開發,預計到年底將支持超過2000個應用。來源:財聯社...
S39賽季寒霜襲侵成為版本新寵,這兩位英雄必出!李白是其一 - 天天要聞

S39賽季寒霜襲侵成為版本新寵,這兩位英雄必出!李白是其一

寒霜襲侵這件裝備可以算是王者榮耀重做次數最多的裝備了。最開始這件裝備叫做冰霜長矛,上線後因為太冷門沒人出,所以被重做。重做之後依舊沒人出,官方又再次重做,但是這件裝備依舊冷門。直到這個賽季,官方對這件裝備再度進行了改動,這次改動也終於讓這件裝備成為了熱門。在S39賽季,寒霜襲侵已經成為了多個物理傷害英...