Meta推出开源大模型Llama 3:最大底牌4000亿参数,性能直逼GPT-4

2024年04月29日01:51:54 科技 5313

划重点:

腾讯科技讯 4月19日消息,据国外媒体报道,美国科技巨头meta推出了其最强大的开源人工智能(ai)模型llama 3,以追赶行业领导者openai。meta首席执行官扎克伯格表示,llama 3有8b和70b两个版本,大版本的llama 3将有超过4000亿参数。由于预训练和指令微调,llama 3相比llama 2有了极大的改进。

此外,meta还同时发布了ai助手的更新版本。该助手将在meta的facebook、instagram、whatsapp和messenger应用以及一个新设立的独立网站meta.ai中获得更突出的地位,让llama 3能够更直接地与微软支持的openai的热门产品chatgpt竞争。

Meta推出开源大模型Llama 3:最大底牌4000亿参数,性能直逼GPT-4 - 天天要闻

meta在去年7月份发布了llama 2。此后,包括谷歌、马斯克旗下的xai与mistral等在内的数家公司发布了开源的大语言模型,竞争十分激烈。

llama 3直接对标openai的gpt-4,后者已经成为一个强大的多模态模型,不仅能够处理更长的文本,还支持图像输入。meta此前已推出三个版本的llama 2,其中最大的一个拥有700亿个参数,另外两个版本分别拥有130亿和70亿个参数。

在宣布这一消息之际,meta一直在努力向其数十亿用户推广生成式人工智能产品,包括对计算基础设施进行全面改造,以及整合此前截然不同的研究和产品团队,从而挑战openai在该技术上的领先地位。

开源的llama是meta人工智能战略的重要组成部分。这家社交媒体巨头希望利用人工智能来提高其广告工具的效率,并增强其社交媒体应用的吸引力。meta首席执行官马克·扎克伯格(mark zuckerberg)在本月初向投资人表示,今年的主要关注领域包括推出llama 3和“扩大meta ai助手的实用性”。

追赶gpt-4

meta希望llama 3能赶上openai的gpt-4。不过知情人士透露,因为研究人员尚未开始对llama 3进行微调,所以尚未决定llama 3是否将是多模态模型。微调是开发人员为现有模型提供额外数据的过程,以便它可以学习新信息或任务。较大的模型通常会提供更高质量的答复,而较小的模型往往会更快的提供答复。有消息称,正式版的llama 3将会在今年7月正式推出。

meta首席产品官克里斯·考克斯(chris cox)在接受采访时表示,该公司为llama 3植入了全新的计算机编码功能,如今它不仅可以输出文本,还可以输出图像。他补充说,更高级的推理,如制定更长的多步计划的能力,将在后续版本中推出。meta在官方博客中表示,计划在未来几个月发布的正式版也将具有“多模态”能力,这意味着它可以生成文本和图像。

考克斯说:“最终的目标是帮助用户摆脱烦心事。无论是与企业互动,无论是写东西,还是计划旅行,让他们的生活更轻松。”他还表示,将图像纳入llama 3的训练将增强今年推出的新一代雷朋meta智能眼镜的功能,让meta ai能够识别使用者看到的物体并回答有关它们的问题。

meta还宣布与alphabet的谷歌建立新的合作伙伴关系,在助手的答复中包括实时搜索结果,作为与微软必应现有合作的补充。随着此次更新,meta ai助手正在扩展到美国以外的十多个市场,包括澳大利亚、加拿大、新加坡、尼日利亚和巴基斯坦。考克斯说,meta“仍在努力以正确的方式在欧洲做到这一点”。欧洲的隐私规定更加严格,即将出台的人工智能法案也准备提出披露模型训练数据等要求。

生成式人工智能模型对数据的巨大需求已开始限制该技术的发展。作为追赶努力的一部分,meta一直在发布像llama 3这样的模型供开发人员免费商业使用,因为强大的免费模型的成功可能会阻碍竞争对手从其专有技术中赚取收入的计划。

扎克伯格周四在发布会上称meta ai是“你可以自由使用的最智能的人工智能助手”。他表示,最大版本的llama 3目前正在用4000亿个参数进行训练,在mmlu(大规模多任务语言理解)测试中得分为85分。他表示,推出的两个较小版本现在分别有80亿个参数和700亿个参数,后者mmlu的得分为82分。(编译/无忌)

Meta推出开源大模型Llama 3:最大底牌4000亿参数,性能直逼GPT-4 - 天天要闻

科技分类资讯推荐

别只盯着ChatGPT4o:Kimi Chat在中文搜索能力上不容小觑 - 天天要闻

别只盯着ChatGPT4o:Kimi Chat在中文搜索能力上不容小觑

在这个AI助手层出不穷的时代,刚刚‬发布‬的‬ChatGPT4o无疑成为了许多人心中的超级英雄,它的智能对话和信息处理能力让人印象深刻。然而,当我们将目光聚焦于这颗璀璨的星辰时,另一颗新星正在中文搜索的天空中冉冉升起——它就是Kimi Chat。
GPT-4o 屠龙式震撼!多模态、实时交互、全员免费可用,丝滑语音交互的 ChatGPT 这把赢麻了 - 天天要闻

GPT-4o 屠龙式震撼!多模态、实时交互、全员免费可用,丝滑语音交互的 ChatGPT 这把赢麻了

作者:李宝珠 & 十九编辑:三羊OpenAI 发布 GPT-4o,ChatGPT 基于GPT-4o 实现了语音交互,并在文本与视觉能力上有显著提升。从 5 月初爆出将在 9 日发布搜索引擎;到 5 月 11 日,官宣将在当地时间 5 月 13 日 10 时发布 ChatGPT 与 GPT-4 更新;再到 Sam Altman 亲自下场辟谣“不是 GP
康佳天镜Mini AI-LED A8 Pro问世,AI电视迈入崭新时代 - 天天要闻

康佳天镜Mini AI-LED A8 Pro问世,AI电视迈入崭新时代

5月13日,康佳隆重举办2024康佳智镜AI电视新品发布会,正式推出了备受瞩目的旗舰新品——康佳天镜MiniAI-LED A8 Pro。此款新品电视搭载康佳自主研发的业内首款智能平台——“AIERA人感大模型”生态平台,其设计理念旨在“让电视,从此可以实时感知你”,实现人机互动的智能化新境界。同时,通过AI技术的加持,该产品在音画...
半个月就后悔了?传前北美充电业务主管已返回特斯拉公司 - 天天要闻

半个月就后悔了?传前北美充电业务主管已返回特斯拉公司

财联社5月14日讯(编辑 赵昊)据媒体报道,美国特斯拉公司已开始回聘一部分前超级充电业务的员工,上月这个约500人的部门被公司解散。知情人士透露,在已回到特斯拉的重要人员中,有负责北美充电业务的主管Max de Zegher。发稿前不久,de Zegher在社交媒体上转发了“特斯拉充电”的一则帖文,或证实他本人已回归特斯拉的这...
苹果发布 tvOS 17.5 正式版、HomePod 17.5 更新 - 天天要闻

苹果发布 tvOS 17.5 正式版、HomePod 17.5 更新

IT之家 5 月 14 日消息,苹果今日发布了 tvOS 17.5 系统更新,这是去年 9 月发布的 tvOS 17 操作系统的第五次迭代更新,距上次的 tvOS 17.4 更新间隔两个月。用户可以通过 Apple TV 设备上的“设置”应用获取该更新,前往“系统” > “软件更新”即可下载安装。对于开启了自动更新功能的 Apple TV 设备,将会自动升级
9 核版苹果 M4 芯片跑分出炉:多核性能较 M3 提升约 13% - 天天要闻

9 核版苹果 M4 芯片跑分出炉:多核性能较 M3 提升约 13%

IT之家 5 月 14 日消息,配备 9 核 CPU M4 芯片的 iPad Pro 已现身 Geekbench 6 跑分网站,虽然相比于 10 核版本略有逊色,但整体表现依旧非常出色。IT之家注意到,此次曝光的是低配版 M4 芯片的跑分成绩,该芯片拥有 9 个 CPU 核心。测试结果表明,9 核 M4 的多核性能相比 10 核版本大约低 10%。这一差距在
OpenAI发布全新生成式 AI 模型GPT-4o:语音对话更流畅,免费提供 - 天天要闻

OpenAI发布全新生成式 AI 模型GPT-4o:语音对话更流畅,免费提供

IT之家 5 月 14 日消息,OpenAI 宣布推出其最新旗舰生成式 AI 模型 GPT-4o,该模型将在未来几周内分阶段集成至 OpenAI 的各个产品之中。最让人惊喜的是,GPT-4o 将免费提供给所有用户使用。OpenAI 首席技术官穆里・穆拉蒂 (Muri Murati) 表示,GPT-4o 将提供与 GPT-4 同等水平的智能,但在文本、图像以及