京東雲全面適配最新版DeepSeek模型,推理速度提升50%

2025年03月26日22:12:08 科技 1854

來源:中國新聞網

近日,DeepSeek發布了模型更新——DeepSeek-V3-0324,此次升級不僅延續了DeepSeek系列「低成本、高性能」的基因,更憑藉MLA(多頭潛在注意力)和MTP(多Token預測)兩大創新技術,將推理速度顯著提升。京東雲DeepSeek一體機第一時間完成適配,相比開源版本性能大幅提升50%。

單機支持超千並發:單機支持1000+並發請求,總吞吐突破7200 Token/s,可同時服務超大規模企業級AI應用。

極致數據吞吐保障:500並發時仍保持11.03 Token/s,平衡性能與用戶體驗。

京東雲全面適配最新版DeepSeek模型,推理速度提升50% - 天天要聞

據悉,此次DeepSeek模型更新,通過MLA技術通過將高維特徵壓縮至低維潛在空間,顯著減少計算資源消耗;MTP技術則提升數據利用效率,實現時間維度的資源優化。二者的結合,使得DeepSeek-V3-0324在複雜任務處理中展現出更快的響應速度與更高的穩定性。

京東雲DeepSeek一體機通過融合MLA+MTP雙技術,為企業提供無縫適配的推理加速方案。此次支持的DeepSeek-V3-0324版本,延續了「單機即可部署滿血版模型」的特性,用戶無需複雜配置即可運行完整版大模型,滿足千人規模企業的並發需求。

同時,京東雲DeepSeek一體機還支持華為昇騰、海光等國產AI晶元,兼顧性能與安全自主可控。並通過採用自研算力池化與智能推理加速引擎,軟硬協同下推理速度較開源方案提升高達50%。

當前,京東雲DeepSeek一體機已廣泛應用於政務、金融、科研、能源、醫療、工業、科研等領域。以「推理加速+算力池化」的雙重策略,實現同等硬體規格下、同等參數規格下更高效的推理能力和資源利用率,通過將複雜的AI工程化過程封裝為標準化產品,讓企業無需糾結於「造輪子」,而是聚焦於「用AI創造價值」,更好地進行AI智能化轉型。

科技分類資訊推薦

樂道 L90 官方諜照發布!計劃 2025 上海車展亮相 - 天天要聞

樂道 L90 官方諜照發布!計劃 2025 上海車展亮相

4 月 3 日,樂道品牌官方發布了旗下 L90 車型的諜照,新車計劃於 2025 年 4 月上海車展正式亮相,這一消息在車迷圈引發了熱烈討論。作為樂道品牌第二款重磅車型,L90 承載了消費者對高品質出行的期待。如果有感興趣的朋友,可以來了解一下。
長安啟源Q07正式預售,13.98萬元起,預訂可享7重先享禮 - 天天要聞

長安啟源Q07正式預售,13.98萬元起,預訂可享7重先享禮

3月31日,長安啟源Q07先享預訂發布會在雲南大理舉行,「全家人的智能SUV」——長安啟源Q07正式開啟預售,預售價13.98萬元起,共推出5個版本,並首發月華銀限定色,為不同需求的家庭用戶提供自由選擇,更有7重先享預訂專屬好禮,大訂用戶可享「大訂1999抵4
便宜買奇瑞,個性買阿維塔,檔次上問界,最保值的不是雷克薩斯 - 天天要聞

便宜買奇瑞,個性買阿維塔,檔次上問界,最保值的不是雷克薩斯

出了便宜,奇瑞的安全性也不錯。目前奇瑞車系共有26個車系在售,奇瑞新能源有5個車系在售,而奇瑞高端品牌星途有8個車系在售。奇瑞汽車的品系越來越多,產品也越來越豐富。正所謂「樹大招風」,這麼多的車型安全性是否有保障呢?以瑞虎7的碰撞車試為例,該車正面100%碰撞
康邁輪端主掛一體:安全、經濟、高效 - 天天要聞

康邁輪端主掛一體:安全、經濟、高效

在運輸運營中車輛出勤率和維保成本至關重要當主車配備康邁免維護輪端而挂車輪端卻仍需頻繁進站保養時則會嚴重影響整車高效運營康邁開發了與主車輪端相同技術標準的挂車免維護輪端產品實現康邁輪端主掛一體化軸承游隙預調整技術賦能挂車康邁作為行業技術引領者將北美先進輪端油潤滑