京東雲全面適配最新版DeepSeek模型,推理速度提升50%

2025年03月26日22:12:08 科技 1854

來源:中國新聞網

近日,DeepSeek發布了模型更新——DeepSeek-V3-0324,此次升級不僅延續了DeepSeek系列「低成本、高性能」的基因,更憑藉MLA(多頭潛在注意力)和MTP(多Token預測)兩大創新技術,將推理速度顯著提升。京東雲DeepSeek一體機第一時間完成適配,相比開源版本性能大幅提升50%。

單機支持超千並發:單機支持1000+並發請求,總吞吐突破7200 Token/s,可同時服務超大規模企業級AI應用。

極致數據吞吐保障:500並發時仍保持11.03 Token/s,平衡性能與用戶體驗。

京東雲全面適配最新版DeepSeek模型,推理速度提升50% - 天天要聞

據悉,此次DeepSeek模型更新,通過MLA技術通過將高維特徵壓縮至低維潛在空間,顯著減少計算資源消耗;MTP技術則提升數據利用效率,實現時間維度的資源優化。二者的結合,使得DeepSeek-V3-0324在複雜任務處理中展現出更快的響應速度與更高的穩定性。

京東雲DeepSeek一體機通過融合MLA+MTP雙技術,為企業提供無縫適配的推理加速方案。此次支持的DeepSeek-V3-0324版本,延續了「單機即可部署滿血版模型」的特性,用戶無需複雜配置即可運行完整版大模型,滿足千人規模企業的並發需求。

同時,京東雲DeepSeek一體機還支持華為昇騰、海光等國產AI晶元,兼顧性能與安全自主可控。並通過採用自研算力池化與智能推理加速引擎,軟硬協同下推理速度較開源方案提升高達50%。

當前,京東雲DeepSeek一體機已廣泛應用於政務、金融、科研、能源、醫療、工業、科研等領域。以「推理加速+算力池化」的雙重策略,實現同等硬體規格下、同等參數規格下更高效的推理能力和資源利用率,通過將複雜的AI工程化過程封裝為標準化產品,讓企業無需糾結於「造輪子」,而是聚焦於「用AI創造價值」,更好地進行AI智能化轉型。

科技分類資訊推薦

長安與東風重組新進展:朱華榮稱不會改變長安既定戰略 - 天天要聞

長安與東風重組新進展:朱華榮稱不會改變長安既定戰略

2月9日,長安汽車和東風集團股份(00489.HK)同步發布了控股股東「正在與其他國資央企集團籌劃重組事項」的信息。長安汽車的控股股東是兵裝集團,而東風集團股份的控股股東是東風公司。隨即,長安汽車和東風集團這兩家汽車央企將合併重組,成為業內關注的焦點。
公安部出手了!年齡限制放寬10年、送考下鄉,2025年考駕照不難了 - 天天要聞

公安部出手了!年齡限制放寬10年、送考下鄉,2025年考駕照不難了

電動車加強管理以後,要求機動車類型的車輛需要持證上路,但是老年人考駕照卻受阻,一方面有年齡的限制,另一方面偏遠山區考駕照不方便,所以在2025年公安部出手了,年齡限制放寬10年,同時推出送考下鄉服務,還進一步的降低考駕照的費用,2025年起考摩托車駕照不難了。
從「星靈安全守護體系」到昊鉑HL,看懂廣汽科技日 - 天天要聞

從「星靈安全守護體系」到昊鉑HL,看懂廣汽科技日

發布會以技術切入,並全程圍繞安全展開。廣汽集團董事長、總經理馮興亞率先登場,宣布2025年四季度將正式上市支持L3級智能駕駛的車型,他同時強調面向自動駕駛時代對智能駕駛技術、整車安全架構以及突發風險處理能力的要求更高。如何才能滿足更高的要求?馮興亞提到了「廣汽
關稅大棒下,最受傷的車企出現了 - 天天要聞

關稅大棒下,最受傷的車企出現了

特朗普的關稅大棒剛揮出,尚未嚇退「外敵」,卻先刺痛了自己。近日,擁有瑪莎拉蒂、Jeep等14個品牌的全球第四大車企斯泰蘭蒂斯突然宣布裁撤900名美國工人,關閉加拿大和墨西哥兩家工廠,北美生產線陷入癱瘓。幾乎同一時間,捷豹路虎宣布暫停對美出口一個月,奧迪更是直接