实测百度「文心一言」,4次迭代后还是翻车了?

2023年05月10日19:09:22 财经 7643

5月4日,百度创始人、董事长兼首席执行官李彦宏在内部活动演讲环节表示,算力是可以买来的,创新能力是买不来的,需要自建。但目前来看,国产AI还没有能得到广泛认可的产品真正跑出来。


出品 | 微果酱(wjam123456)

作者 | 陈出木


在李彦宏近期的发言中,他提到,文心一言内测一个多月,完成4次大的技术升级,大模型推理成本降到原来的十分之一,或者说推理性能提升近10倍。“当别人刚刚开始思考如何进行训练的时候,我们已经在推理上冲出了很远。”

实测百度「文心一言」,4次迭代后还是翻车了? - 天天要闻

这十分自信里,不知道产品体验能占几分?

相较于Bing(必应)突然全面开放,文心一言现在仍然处于内测阶段,此前申请过内测资格的小伙伴们正在排队体验,如果申请成功将收到短信通知。

实测百度「文心一言」,4次迭代后还是翻车了? - 天天要闻

文心一言的界面和Bing是相似的,不过对于AI小白来说,文心一言的对话框还提供了快捷插入提问模板的功能,只需要输入“/”即可获取写报告、画画、查知识的提问模板。

实测百度「文心一言」,4次迭代后还是翻车了? - 天天要闻

那么,文心一言和Bing相比如何呢?果酱妹替大家测试了一下~


01#

中文理解

鉴于文心一言宣称自己“擅长中文”,果酱妹向它提问了一个经典的中文脑筋急转弯——能否把大象放进冰箱。但文心一言的脑筋似乎并不能很好地“转弯”,回答认为大象不能放进冰箱。

经过进一步引导,将问题修改为更常规的谜面“把大象放进冰箱需要几步”,文心一言才能给出果酱妹想要的答案,同时仿佛没有意识到这是个脑筋急转弯,不忘提醒要“充分考虑大象的福祉”。

实测百度「文心一言」,4次迭代后还是翻车了? - 天天要闻

果酱妹也问了Bing同样的问题,它却能识别出“这是一个著名的连环谜语”,并不需要引导就可以准确给出提问者真正想知道的答案。

实测百度「文心一言」,4次迭代后还是翻车了? - 天天要闻

脑筋转不了弯没关系,那么作为中文写作的辅助工具,文心一言的表现如何呢?

果酱妹将体验文心一言的选题任务交给了它,直接生成的文章近似于初中生写作水平,但遣词造句显得生硬,需要后期进行人工优化。

实测百度「文心一言」,4次迭代后还是翻车了? - 天天要闻

而面对果酱妹提出的细化要求,文心一言展现了简单在原文章中加了一段的偷懒操作。

实测百度「文心一言」,4次迭代后还是翻车了? - 天天要闻

直到果酱妹质疑其不懂“细化”,文心一言开始出现听懂命令但“婉拒”作答的情况——我理解细化但不想干,输出的还是原文。

实测百度「文心一言」,4次迭代后还是翻车了? - 天天要闻

相比闪现反骨的文心一言,Bing更像是在乖巧中透着敷衍。面对写文章的要求,Bing总是会先推荐相关阅读文章,不打算接茬写稿,等到提问者进一步要求,它会在认真交互一轮之后给出一篇不太及格的短文。

实测百度「文心一言」,4次迭代后还是翻车了? - 天天要闻

可见,两者对于文字工作都只能做到汇总网络资料的程度,更进一步则还是得依靠人类进行编排和串联。而再细看会发现,文心一言生成的文章比Bing生成的文章会多一些连接词和过渡句,更加符合中文创作习惯。

这一点在果酱妹让两者用“天气真好”作一首藏头诗时也有所体现。

Bing显然不太能理解“藏头诗”,给出的结果差强人意,只是反手给了一个可用的“藏头诗在线生成器”链接。

实测百度「文心一言」,4次迭代后还是翻车了? - 天天要闻

而文心一言在传统文化领域基本完胜,轻松生成符合要求的藏头诗。

实测百度「文心一言」,4次迭代后还是翻车了? - 天天要闻


02#

信息检索

作为都是接入了AI的搜索引擎,对于普通用户来说,信息检索或许是用得最多的功能。这就要求AI输出的回答必须是准确的,否则其他功能玩得再花也难以获得大众的青睐。

在测试过程中,对于确定的信息,诸如某本书的作者、某个名人的生日等,文心一言和Bing都可以轻松驾驭。但如果提问最近的新闻或网络热梗等,两位AI都可能会给出错误的答案。

比如关于“GPT-5什么时候发布”这个问题,此前有诸多媒体报道将在今年发布,实际上OpenAI的创始人在前几天对此作了辟谣。

而显然,文心一言只注意到此前的信息,忽略了最新的内容。

实测百度「文心一言」,4次迭代后还是翻车了? - 天天要闻

Bing也犯了同样的错误。

实测百度「文心一言」,4次迭代后还是翻车了? - 天天要闻


03#

AI绘画

在这个环节的测试中,果酱妹让文心一言和Bing分别画画:

画一幅画:一位扎着马尾辫的美少女在阳光下奔跑,二次元画风,色彩丰富,展现出快乐、自由的感觉,穿着白色背心、黄色短裤、白色运动鞋

Bing首先表示自己不能画画,但可以提供找灵感的渠道以及网络图片集合。就提供的图片搜索结果来看,和果酱妹提出的要求属实差得有点远。

实测百度「文心一言」,4次迭代后还是翻车了? - 天天要闻

而有AI绘画平台文心一格支撑着的文心一言,在经过几轮交互、引导之后,能给出一张满足部分要求的画作。过程中,文心一言出现的较大缺陷集中在AI一直难以驾驭的手部和眼睛细节。

实测百度「文心一言」,4次迭代后还是翻车了? - 天天要闻


04#

解答数学题

果酱妹找了几道数学题给两个AI试手,结果半斤八两,稍稍需要逻辑能力的题目基本都无法解答。

文心一言属于一本正经胡说八道型,一堆数学符号之后得出错误答案。

实测百度「文心一言」,4次迭代后还是翻车了? - 天天要闻

在投喂了正确答案之后,文心一言通过错误的算式强行得出既定答案。无论果酱妹如何质疑,文心一言都保持着礼貌但瞎说的解题态度。

实测百度「文心一言」,4次迭代后还是翻车了? - 天天要闻

Bing则属于碰运气的差生,同样的题目首次解答错误,在得到答案之后就顺利地推导出了过程。

实测百度「文心一言」,4次迭代后还是翻车了? - 天天要闻

但当果酱妹兴致勃勃地提问了更难的题目之后,Bing便招架不住了,也出现了强行推导既定答案的情况。根据其底部出现的来源,果酱妹猜测是因为Bing没有组卷网的会员,所以没办法输出正确答案。(这一刻简直能与AI共情)


05#

写在最后

经过对文心一言和Bing的不完全测试,大家会发现,两者仍然存在差距,但差距并没有大家想象的那般如鸿沟。

目前AI普遍做不来的任务,文心一言和Bing都无法解决。而在AI的功能舒适区中,文心一言的交互会让你感受到AI的生硬感,Bing的应答则更加流畅。

但作为一款工具,实用性应该在第一位。两者都属于接入AI的搜索引擎范畴,最关键的是能够解决用户提出的问题。就目前来看,完全依赖AI作答,以替代人工检索,暂时还不能够实现,如果只是作为工作辅助,它们确实已经展现出一定优势。

可以说,经过一个多月的内测,文心一言有了更多的语料投喂,确实表现出了成长的效果。但其优势如果只有对中文的理解,普通大众很难放弃同样支持中文且经过更长时间训练的Bing。

不过,现在下定论仍然过早,文心一言还在发展初期,让我们期待其正式开放那天,看看是否如李彦宏所说完成了国产AI的自建。而退一万步说,比起Bing,文心一言的最大优势应该是不需要科学上网吧。

财经分类资讯推荐

行政区划代码管理更规范,9月起实施新规影响每个人 - 天天要闻

行政区划代码管理更规范,9月起实施新规影响每个人

我国行政区划代码管理领域首个部门规章——《行政区划代码管理办法》,将于今年9月1日起正式实施。行政区划代码,这个概念听起来离我们的生活有点远,但其实身份证号里面用来表示户籍所在地的前六位数字,就是行政区划代码。本次《办法》的出台实施,主要是为了解决此前因行政区划代码的管理没有专门的规章制度而产生的一系...
特朗普宣布对14国关税税率,拟将“对等关税”暂缓期延至8月1日;美股齐跌,特斯拉跌超6%;央行连续8个月增持黄金;长鑫科技拟上市丨每经早参 - 天天要闻

特朗普宣布对14国关税税率,拟将“对等关税”暂缓期延至8月1日;美股齐跌,特斯拉跌超6%;央行连续8个月增持黄金;长鑫科技拟上市丨每经早参

每经编辑:张喜威,王晓波1 隔夜市场美股三大指数集体收跌,道指跌0.94%,纳指跌0.92%,标普500指数跌0.79%;美国将自8月1日起对所有日本和韩国产品征收25%关税,在美上市的日本、韩国公司股票走低,日产汽车跌超7%,丰田汽车跌近4%,韩国SK电信跌超7%,LG Display跌超8%;大型科技股多数下跌,特斯拉跌超6%,苹果、谷歌跌超...
特朗普发出关税信,一切开始了 - 天天要闻

特朗普发出关税信,一切开始了

北京时间周二0:00刚过,特朗普向日本和韩国发出贸易信函。将对日本、韩国商品征收25%关税,8月1日生效。如果报复,将把关税进一步提高相应幅度。如果日韩开放市场、取消贸易壁垒,美国表示愿意重新考虑或调整关税。去年,日本是美国第五大进口来源国,韩国位列第七。之后,特朗普又宣布了一系列关税。对马来西亚、哈萨克斯...
山西天使股权投资基金(省天使母基金)启动运营 - 天天要闻

山西天使股权投资基金(省天使母基金)启动运营

本报讯 山西天使股权投资基金(省天使母基金)近日完成中国证券投资基金业协会备案,启动运营,并面向全省征集有股权投资需求的科技型企业。  我省近年来加快完善政府投资基金制度,优化整合相关基金,打造省级政府投资基金母基金集群。
美股收盘:三大指数集体下跌 美关税重创日韩概念股 - 天天要闻

美股收盘:三大指数集体下跌 美关税重创日韩概念股

财联社7月8日讯(编辑 赵昊)周一(7月7日),美股低开低收,三大指数均录得6月中旬以来最差单日表现。截至收盘,道琼斯指数跌0.94%,报44,406.36点;标普500指数跌0.79%,报6,229.98点;纳斯达克综合指数跌0.92%,报20,412.52点。盘中央视新闻报道称,特朗普在社交媒体平台上发布了致日本首相石破茂、韩国总统李在明的信件...
深夜,美股集体飘绿,特斯拉大跌!中概股强势! - 天天要闻

深夜,美股集体飘绿,特斯拉大跌!中概股强势!

7月7日晚间,美股三大指数开盘后集体走低。截至发稿,道指、纳指、标普500跌幅分别为0.31%、0.55%、0.39%。美国七大科技巨头普跌,特斯拉大跌超6%。消息面上,马斯克与特朗普公开决裂并宣称要成立新政党后,再次殃及特斯拉。