英伟达联合发布Mistral-NeMo AI模型:120亿参数

2024年07月19日07:23:09 科技 1000

IT之家 7 月 19 日消息,英伟达联合法国初创公司 Mistral AI,今天发布了全新的 Mistral-NeMo AI 大语言模型,拥有 120 亿个参数,上下文窗口(AI 模型一次能够处理的最大 Token 数量)为 12.8 万个 token。

英伟达联合发布Mistral-NeMo AI模型:120亿参数 - 天天要闻

VentureBeat 与 Midjourney 合作制作

Mistral-NeMo AI 大模型主要面向企业环境,让企业不需要使用大量云资源的情况下,实施人工智能解决方案。

由于 Mistral NeMo 依赖于标准架构,因此企业在使用过程中可直接替换任何使用 Mistral 7B 的系统。

英伟达是 GPU 制造和人工智能硬件领域的巨头,而 Mistral AI 则是欧洲人工智能领域的后起之秀,双方的合作标志着人工智能行业的企业解决方案发生了重大转变。

行业分析师认为,这一版本可能会极大地颠覆人工智能软件市场。Mistral-NeMo 的推出代表着企业人工智能部署的潜在转变。

通过提供一种可在本地硬件上高效运行的模式,英伟达和 Mistral AI 正在解决阻碍许多企业广泛采用人工智能的问题,如数据隐私、延迟以及与基于云的解决方案相关的高成本。

此举有可能创造公平的竞争环境,让资源有限的小型企业也能利用人工智能功能,而这些功能以前只有拥有大量 IT 预算的大型企业才能使用。

然而,这一发展的真正影响将取决于该模型在实际应用中的表现,以及围绕该模型开发的工具和支持生态系统。

该模型以 Apache 2.0 许可发布,允许商业使用,这将加速其在企业环境中的应用。IT之家附上官方公布的该 AI 模型性能参数如下:

英伟达联合发布Mistral-NeMo AI模型:120亿参数 - 天天要闻

表 1:Mistral NeMo 基本模型与 Gemma 2 9B 和 Llama 3 8B 的性能比较。

英伟达联合发布Mistral-NeMo AI模型:120亿参数 - 天天要闻

图 1:Mistral NeMo 在多语言基准测试中的表现。

英伟达联合发布Mistral-NeMo AI模型:120亿参数 - 天天要闻

图 2:Tekken 压缩率

英伟达联合发布Mistral-NeMo AI模型:120亿参数 - 天天要闻

Mistral NeMo 指令调整模型精度。使用 GPT4o 根据官方参考文献进行的评估。

参考

科技分类资讯推荐

大爷写《我的母亲》火爆全网!视频发布者最新发声 - 天天要闻

大爷写《我的母亲》火爆全网!视频发布者最新发声

连日来,一段关于大爷挑战写作1957年高考同题作文《我的母亲》的视频火爆全网。不少网民表示,文字质朴,催人泪下,深深被打动。7月11日,大皖新闻记者联系上了视频发布者连文杰。对方表示,视频中展示的作文内容由大爷独立写作,产生的版权收入也全给大爷。大爷写作文视频走红网络。大爷写的作文在网上爆火大皖新闻记者注...
10.38万元起,吉利银河A7发布预售价 - 天天要闻

10.38万元起,吉利银河A7发布预售价

7月11日,吉利银河发布了预售价,预售价格范围为10.38-13.38万元,在发布预售价格的同时,官方也带来了多项权益,包括500元订金抵扣1500元,赠送价值8800元的Flyme Sound音响等。
“中欣卡”突然停摆,超150万用户退款难 - 天天要闻

“中欣卡”突然停摆,超150万用户退款难

覆盖北京2000多家门店、拥有超150万持卡用户的预付卡“中欣卡”近日停摆,线上线下消费渠道均被暂停,恢复时间未知。大量持卡用户面临资金冻结困境。消费渠道全面“瘫痪”近日,中欣卡发布公告称“因业务调整,全面暂停所有门店合作,无法消费”。中国新闻网《民生调查局》记者发现,其官网合作商户名录已清空,线上提货渠...
突发,聊聊Manus“删博跑路” - 天天要闻

突发,聊聊Manus“删博跑路”

摘要:“如果最后有不错的结果,证明作为中国出生的创始人,也能在新的环境下做好全球化的产品,那就太好了”凤凰网科技 出品作者|董雨晴7月11日,AI Agent产品Manus官方账号清空了发布在微博、小红书的内容。两天前,Manus刚刚陷入裁
AI取代硅谷程序员?这些美国大厂高管这么说 - 天天要闻

AI取代硅谷程序员?这些美国大厂高管这么说

人工智能(AI)正在加速重塑全球劳动力市场。 当地时间10日,美国招聘平台Indeed及员工评价网站Glassdoor宣布,为应对人工智能带来的产业变革,将裁减约1300个职位,占集团员工总数的6%。微软首席商业官阿尔索夫(Judson Althoff)称,AI已承担35%的产品代码编写工作,显著加快了产品开发周期。 美国威达信集团(Marsh McL...