Google计划建立巨型人工智能语言模型 支持全球1000种最常用的语言

2022年11月03日01:33:20 科技 1786

Google宣布了一个雄心勃勃的新项目,开发一个支持世界上"1000种最常用语言"的单一AI语言模型。作为实现这一目标的第一步,该公司公布了一个经过400多种语言训练的人工智能模型,它将其描述为"今天在一个语音模型中看到的最大的语言覆盖范围"。

Google计划建立巨型人工智能语言模型 支持全球1000种最常用的语言 - 天天要闻

语言和人工智能可以说一直是Google产品的核心,但最近机器学习的进步--特别是强大的、多功能的"大型语言模型"或LLM的开发--使这些领域得到了新的重视。

Google已经开始将这些语言模型整合到Google搜索等产品中。但语言模型有许多缺陷,包括倾向于转述有害的社会偏见,如种族主义和仇外心理,以及无法以人类的敏感性来解析语言。在自己的研究人员发表了概述这些问题的论文后,Google自己也臭名昭著地解雇了他们。

不过,这些模型能够完成许多任务,从语言生成(如OpenAI的GPT-3)到翻译(见Meta的"不遗漏语言"工作)。Google的"1000种语言计划"并不专注于任何特定的功能,而是要创建一个具有世界上各种语言的巨大知识广度的单一系统。

Google人工智能研究副总裁Zoubin Ghahramani说,该公司认为,创建一个如此规模的模型将使其更容易将各种人工智能功能带到在线空间和人工智能训练数据集中表现不佳的语言(也被称为"低资源语言")。

"语言就像生物体,它们是相互演化而来的,它们有某些相似之处。通过让一个单一的模型接触并训练许多不同的语言,我们在低资源语言上得到更好的表现,"Ghahramani说。"我们达到1000种语言的方法不是通过建立1000种不同的模型。语言就像生物体,它们是相互进化的,它们有某些相似之处。而且,当我们将一种新语言的数据纳入我们的1000种语言模型,并获得将[它所学到的东西]从一种高资源语言转化为低资源语言的能力时,我们可以在我们所谓的零点学习中找到一些相当惊人的进展。"

过去的研究显示了这种方法的有效性,而Google计划中的模型的规模可以提供比过去的工作更多的收益。这种大规模的项目已经成为科技公司主导人工智能研究雄心的典型,并利用了这些公司在获得大量计算能力和训练数据方面的独特优势。一个类似的项目是Facebook母公司Meta正在尝试建立一个"通用语音翻译器"。

Google表示,为了支持1000种语言模型的工作,它将资助收集低资源语言的数据,包括音频记录和书面文本。

该公司表示,它没有直接计划在哪里应用这个模型的功能--只是预计它将在Google的产品中具有一系列用途,从Google翻译到YouTube字幕等等。

"同样的语言模型可以将机器人的命令变成代码;它可以解决数学问题;它也可以进行翻译。关于大型语言模型和一般的语言研究,真正有趣的事情之一是它们可以做很多很多不同的任务,"Ghahramani说。"语言模型真正有趣的地方在于它们正在成为大量知识的储存库,通过以不同的方式探测它们,你可以获得不同的有用功能。"

Google在一个新的人工智能产品展示会上宣布了1000种语言模型。该公司还分享了关于文本到视频模型的新研究,一个名为Wordcraft的人工智能写作助手原型,以及对其人工智能测试厨房应用程序的更新,该应用程序允许用户有限地访问正在开发的人工智能模型,如其文本到图像模型Imagen。

科技分类资讯推荐

全球最快、跑出全新试验速度 中国高铁再次冲上热搜 - 天天要闻

全球最快、跑出全新试验速度 中国高铁再次冲上热搜

为期三天的第十七届中国国际现代化铁路技术装备展今天落幕,本届展览全球500余家企业带来了行业领先的技术和展品,记者在采访中发现,中国高铁技术全球领跑的优势在持续扩大。3天的展期,4万平方米的展览面积,14个国家和地区的铁路企业汇聚,展示了世界铁路技术的最新成果,也让中国高铁再次冲上了热搜。总台央视记者郑连...
获国家级认可!深圳这家医院自主研发智慧养老评估系统入选国家推广目录 - 天天要闻

获国家级认可!深圳这家医院自主研发智慧养老评估系统入选国家推广目录

近日,工业和信息化部、民政部、国家卫生健康委员会联合发布了《智慧健康养老产品及服务推广目录(2024年版)》,深圳市第二人民医院大鹏新区南澳医院(南澳人民医院)自主研发的“智慧老年人需求与综合能力评估系统”脱颖而出,成功入选老年人能力评估类目录,全国仅3例。这一系统的入选,标志着南澳人民医院在智慧养老领...
Manus跑路了吗? - 天天要闻

Manus跑路了吗?

衡宇 发自 凹非寺量子位 | 公众号 QbitAIManus,真的从国内撤了?!4个月前一夜蹿红起飞的AI Agent产品Manus,刚被曝出背后公司一举裁掉国内七成团队。事实上,Manus总部已在5月搬到了新加坡,国内员工何去何从?现在答
美团:任何骑手学历的总量数据都无事实依据 - 天天要闻

美团:任何骑手学历的总量数据都无事实依据

IT之家 7 月 10 日消息,美团今日通过“小团有话说”公众号对“丁 X 昭为什么送外卖”进行回应:近期,短视频账号“丁 X 昭频道”发布多条身着美团骑手工服的视频被广泛关注:视频中,丁 X 昭自述今年 39 岁,2004 年参加高考,是清华本科、北大与牛津双硕士、南洋理工大学博士,曾任新加坡国立大学博士后研究员,目前在送...
润滑铸钢魂 | 埃克森美孚中国携创新方案助钢铁设备升级 - 天天要闻

润滑铸钢魂 | 埃克森美孚中国携创新方案助钢铁设备升级

在钢铁行业加速推进绿色低碳与智能化转型的背景下,由中国设备管理协会冶金行业国际合作服务中心主办的2025(第二届)钢铁设备大会在张家港举行。大会以“创新裂变·智驱未来”为主题,聚合政府部门、行业协会、研究机构及钢铁产业链上下游企业的众多专业人士,共议冶金装备在碳约束时代的技术突围路径与低碳发展范式。作为...
享界星享之夜耀启新程:新标亮相,智造升级,用户共鉴豪华新篇 - 天天要闻

享界星享之夜耀启新程:新标亮相,智造升级,用户共鉴豪华新篇

在汽车工业的百年变革中,中国新能源汽车正以智能化与高端化的姿态重新定义豪华。北汽集团与华为联合打造的享界超级工厂,不仅是一座工厂,更是中国智造迈向全球价值链高端的宣言书。这座位于北京密云区中关村科技园区的工厂,集成了20年豪华车制造经验与尖端数字技术,每一台驶