京东云全面适配最新版DeepSeek模型,推理速度提升50%

2025年03月26日22:12:08 科技 1854

来源:中国新闻网

近日,DeepSeek发布了模型更新——DeepSeek-V3-0324,此次升级不仅延续了DeepSeek系列“低成本、高性能”的基因,更凭借MLA(多头潜在注意力)和MTP(多Token预测)两大创新技术,将推理速度显著提升。京东云DeepSeek一体机第一时间完成适配,相比开源版本性能大幅提升50%。

单机支持超千并发:单机支持1000+并发请求,总吞吐突破7200 Token/s,可同时服务超大规模企业级AI应用。

极致数据吞吐保障:500并发时仍保持11.03 Token/s,平衡性能与用户体验。

京东云全面适配最新版DeepSeek模型,推理速度提升50% - 天天要闻

据悉,此次DeepSeek模型更新,通过MLA技术通过将高维特征压缩至低维潜在空间,显著减少计算资源消耗;MTP技术则提升数据利用效率,实现时间维度的资源优化。二者的结合,使得DeepSeek-V3-0324在复杂任务处理中展现出更快的响应速度与更高的稳定性。

京东云DeepSeek一体机通过融合MLA+MTP双技术,为企业提供无缝适配的推理加速方案。此次支持的DeepSeek-V3-0324版本,延续了“单机即可部署满血版模型”的特性,用户无需复杂配置即可运行完整版大模型,满足千人规模企业的并发需求。

同时,京东云DeepSeek一体机还支持华为升腾、海光等国产AI芯片,兼顾性能与安全自主可控。并通过采用自研算力池化与智能推理加速引擎,软硬协同下推理速度较开源方案提升高达50%。

当前,京东云DeepSeek一体机已广泛应用于政务、金融、科研、能源、医疗、工业、科研等领域。以“推理加速+算力池化”的双重策略,实现同等硬件规格下、同等参数规格下更高效的推理能力和资源利用率,通过将复杂的AI工程化过程封装为标准化产品,让企业无需纠结于“造轮子”,而是聚焦于“用AI创造价值”,更好地进行AI智能化转型。

科技分类资讯推荐

长安与东风重组新进展:朱华荣称不会改变长安既定战略 - 天天要闻

长安与东风重组新进展:朱华荣称不会改变长安既定战略

2月9日,长安汽车和东风集团股份(00489.HK)同步发布了控股股东“正在与其他国资央企集团筹划重组事项”的信息。长安汽车的控股股东是兵装集团,而东风集团股份的控股股东是东风公司。随即,长安汽车和东风集团这两家汽车央企将合并重组,成为业内关注的焦点。
公安部出手了!年龄限制放宽10年、送考下乡,2025年考驾照不难了 - 天天要闻

公安部出手了!年龄限制放宽10年、送考下乡,2025年考驾照不难了

电动车加强管理以后,要求机动车类型的车辆需要持证上路,但是老年人考驾照却受阻,一方面有年龄的限制,另一方面偏远山区考驾照不方便,所以在2025年公安部出手了,年龄限制放宽10年,同时推出送考下乡服务,还进一步的降低考驾照的费用,2025年起考摩托车驾照不难了。
从“星灵安全守护体系”到昊铂HL,看懂广汽科技日 - 天天要闻

从“星灵安全守护体系”到昊铂HL,看懂广汽科技日

发布会以技术切入,并全程围绕安全展开。广汽集团董事长、总经理冯兴亚率先登场,宣布2025年四季度将正式上市支持L3级智能驾驶的车型,他同时强调面向自动驾驶时代对智能驾驶技术、整车安全架构以及突发风险处理能力的要求更高。如何才能满足更高的要求?冯兴亚提到了“广汽
关税大棒下,最受伤的车企出现了 - 天天要闻

关税大棒下,最受伤的车企出现了

特朗普的关税大棒刚挥出,尚未吓退“外敌”,却先刺痛了自己。近日,拥有玛莎拉蒂、Jeep等14个品牌的全球第四大车企斯泰兰蒂斯突然宣布裁撤900名美国工人,关闭加拿大和墨西哥两家工厂,北美生产线陷入瘫痪。几乎同一时间,捷豹路虎宣布暂停对美出口一个月,奥迪更是直接