百模大战中,笑到最后的可能并不是OpenAI

2023年05月06日20:45:17 搞笑 8306

2023年显然是无可争议的ai大年,如果对chatgpt、openai、生成式ai、llm(大语言模型)等概念一头雾水,那你可能就out了。甚至自1956年达特茅斯会议上人工智能(ai)这一概念诞生以来,ai从未距离大众如此之近。所以自然而然的,围绕ai的一切也引发了大量的关注,特别是对于站在浪潮之巅的巨头们关于ai的只言片语,也总能引发诸多的热议。

百模大战中,笑到最后的可能并不是OpenAI - 天天要闻

被称为“ai教父”的杰弗里·辛顿继不久前从谷歌离职后,随即就加入了“ai批评者”的行列,并大谈ai未来可能会带来的风险,甚至还表示,“我对毕生所研究的东西感到后悔”。

就在他态度180°大转弯激起、由“不明真相吃瓜群众”对ai危险性的讨论尚未落幕之时,一个据称是谷歌高级软件工程师luke sernau所写的内部信又激起波澜。而这份被泄露的文件中其实只有一个核心主旨,那就是谷歌、openai都没有护城河,开源ai将会摘取这个赛道最后的胜利果实。

在这一场生成式ai的“大战”中,谷歌显然只是不折不扣的追赶者。虽然作为阿尔法狗的创造者,多年来谷歌一直扮演着“ai布道者”的角色,但在生成式ai领域,chatgpt无疑才是领路人。紧随其后的google bard公开演示翻车、导致谷歌市值一度蒸发千亿美元后,好不容易推出将生成式ai整合到工作场景的workspace后,微软融合了gpt-4的microsoft 365 copilot又很快把风头抢走了。

所以在外界看来,如今焦虑一词或许才是谷歌在面对生成式ai、llm时,最为真实的写照。

百模大战中,笑到最后的可能并不是OpenAI - 天天要闻

与此同时,领导谷歌前进的ceo皮查伊持有保守倾向、并且也受到了不少的掣肘,以至于谷歌的ai路线图目前并不清晰。在这样的情况下,公司内部的“有识之士”当然也就会心急如焚。

那么问题就来了,作为在生成式ai赛道落后的谷歌有危机感、内部传出悲观论调再正常不过,但为什么会扯上openai呢,或者说为什么开源ai才是最终的胜利者?

鲜花着锦烈火烹油,无疑是当下openai的境况。别看这家公司现在几乎是最炙手可热的投资标的,但据相关海外科技媒体在近期曝光的新一轮融资文件显示,openai的估值来到了290亿美元。可要知道的是,目前在a股,仅仅寒武纪和昆仑万维这两家ai概念的市值,就已经接近这个数字。换而言之,一手点燃了生成式ai这把火的openai,其实并没有被投资者给出一个惊人的估值。

百模大战中,笑到最后的可能并不是OpenAI - 天天要闻

在许多业内人士看来,openai目前的问题在于缺乏一个清晰的商业模式,他们现阶段唯二可以确定的收入,是一个月20美元的chatgpt plus订阅服务,以及1k tokens/0.002美元的chatgpt api,但这两者显然还不足以让openai盈利。甚至有观点认为,openai现在像极了世纪之交的qq,尽管同样都是站在相关领域的最前沿,但也同样缺乏一个明朗的商业化前景。但后来qq等来了qq秀,目前openai却暂时还看不到解决商业化难题的契机。

事实上,让谷歌公司的内部人士对谷歌、openai悲观的核心,是生成式ai、或者说llm本身其实并没有太深的护城河。没错,别看chatgpt、文心一言这类产品表现得如此智能,但实际上打造一个生成式ai并没有大家想象的那么难。

llm的理论其实非常简单,即通过分析大量文本数据进行训练,从而学习语言的结构和模式,其所使用的架构也是是长短时记忆网络(long short-term memory,lstm)或门控循环单元(gated recurrent unit,gru)等传统的循环神经网络结构。

百模大战中,笑到最后的可能并不是OpenAI - 天天要闻

llm更像是“力大砖飞”的结果,然而在chatgpt一鸣惊人前,业界更青睐的其实是谷歌的transformer模型。而后者追求的却是如何设计出更小、更快,但更准确的神经网络,甚至于彼时openai的gpt-3是被业界作为负面典型进行评价的。当时就有业内人士表示,“gpt-3在小样本学习中表现出卓越的能力,但它需要使用数千个gpu进行数周的训练,因此很难重新训练或改进。”

chatgpt的成功就成功在它提出了一个新的思路,毕竟加大参数、加高算力的大模型也是一个方向,并且真的让大模型涌现出了智能。但显而易见的是,这一模式并没有护城河。君不见,即使openai对自己基于人类反馈的强化学习(rlhf)技术秘而不宣,也阻拦不了百度文心一言、阿里通义千问、谷歌bard等等一众同类大模型的出现。

百模大战中,笑到最后的可能并不是OpenAI - 天天要闻

此前李彦宏就曾在百度的内部讲话中提到,“算力不能保证我们能够在通用人工智能技术上领先,因为算力是可以买来的,但创新的能力是买不来的,是需要自建的”,也就是说算力和参数都可以买、技术壁垒不高。所以也难怪短时间内国内市场的“百模大战”就已开打,因此先发优势在这里几乎不值一提。

当然,如果没有meta的llama模型“意外”在4chan上泄露,llm的技术壁垒不高也只是相对大厂而言。但llama模型的被迫开源,也让开源社区主导了最近一段时间针对chatgpt的“平替”热潮。

百模大战中,笑到最后的可能并不是OpenAI - 天天要闻

比如说来自斯坦福的alpaca,借助llama的预训练模型为基础,仅使用来自gpt模型的一个小尺寸调优数据集(52000个样本),就建立了一个具有对话功能的llm。而基于llama模型,以及lora (low-rank adaptation of llm,即插件式的微调)训练,开源社区在不到两个月的时间里已接连发布了chatllama、alpaca、vicuna、koala等模型,并且“羊驼家族”们的实际效果还直追gpt-3.5、甚至不输gpt-4。

借助社区的力量群策群力,并最终实现极低成本下的高速迭代,这无疑就是开源ai的优势。就像谷歌这位员工所说的那样,“如果存在一个没有使用限制的免费高质量替代品,谁还会为带有使用限制的谷歌产品买单呢?”

因此从某种意义上来说,谷歌在android上的做法可能才是最佳范例,也就是让开源社区不自觉地为自己的商业利益服务。

百模大战中,笑到最后的可能并不是OpenAI - 天天要闻

所以不得不说,llama模型泄露更像是一个神来之笔,一下子就让原本掉队的meta实现了超谷歌、赶openai,毕竟“羊驼家族”就是在meta的架构之上诞生的产物。

【本文图片来自网络】

搞笑分类资讯推荐

患克罗恩病的00后女孩术后自学插胃管,网友赞她“很勇敢”,凯特王妃曾被曝患有此病 - 天天要闻

患克罗恩病的00后女孩术后自学插胃管,网友赞她“很勇敢”,凯特王妃曾被曝患有此病

极目新闻记者 马浩然近日,辽宁辽阳一00后女孩在网络平台发布自学插胃管治病的视频,引发网友关注和点赞。该女生缓缓将塑料管插进鼻孔,面部表情较为自然。6月7日,极目新闻记者联系视频发布者徐女士,她表示4月份确诊克罗恩病、并做了手术,三个月不能吃饭,为使鼻饲营养液进入肠道,她便看教程自学插胃管。徐女士自学插胃...
济南一烤鸭店老板贴停业陪考告示火了,称“种了18年的枣树要打枣”,还写打油诗祝考生“鸭”的全对 - 天天要闻

济南一烤鸭店老板贴停业陪考告示火了,称“种了18年的枣树要打枣”,还写打油诗祝考生“鸭”的全对

极目新闻记者 柳琛琛近日,山东济南一烤鸭店的陪考停业告示火了。老板在告示中称女儿为“18年的枣树”,幽默地写道:“俺家种了一棵18年的枣树,有没有枣还是要打一竿子试试,陪考几天。还借泉城之灵秀,以打油诗的形式向所有考生送去祝福。”打油诗为:打赏妙笔生花似片鸭,思路流畅如甜酱,考的全会,“鸭”的全对。告示...
“不用理,挂掉!”电台主持人替听众维权遭政府工作人员嬉笑回怼,官方通报 - 天天要闻

“不用理,挂掉!”电台主持人替听众维权遭政府工作人员嬉笑回怼,官方通报

广东省湛江市坡头区人民政府办公室6月7日发布情况通报:近日,我办工作人员在接听《广东民声热线》直播来电时不当回应引发社会关注。对此,我办高度重视,派驻纪检监察组已对此事开展调查,对两位涉事人员予以停职检查处理。同时,举一反三,引以为戒,在全区开展机关作风自查自纠,切实加强干部队伍作风建设。再次感谢媒体...
“插着仪器的屁股”走光了!知名主持人陶淳曝某三甲医院肠镜检查不关门引热议 - 天天要闻

“插着仪器的屁股”走光了!知名主持人陶淳曝某三甲医院肠镜检查不关门引热议

近日,上海电视台新闻综合频道资深节目主持人陶淳在小红书分享个人体检经历,引发网友广泛关注!陶淳自述前往单位安排的上海某三甲医院进行体检,在肠镜检查过程中,诊室门未关闭,导致正在接受检查的患者屁股对着候诊区“被看光”,十分尴尬。主持人爆料肠镜检查很尴尬视频中,陶淳讲到,做肠镜检查需要穿专门的肠镜检查防...
身份证不见了,跑错考场了……“马大哈”又来参加高考了 - 天天要闻

身份证不见了,跑错考场了……“马大哈”又来参加高考了

身份证不见了,跑错考场了……年年高考年年有“马大哈”。今天是高考首日。记者从闵行公安获悉,高考首日,闵行还是有“马大哈”突发状况。8时10分许,闵行公安分局交管支队民警在七宝中学附属鑫都实验中学接考生小喻求助,称其身份证遗失。民警第一时间联系考生家长,并安抚考生情绪。经了解得知,考生身份证忘记在宾馆前...
戏耍新疆后卫线!打回同曦状态 辽宁真耽误了他? - 天天要闻

戏耍新疆后卫线!打回同曦状态 辽宁真耽误了他?

在昨日全运会预选赛的比拼中,山东男篮与新疆男篮展开了一场较量,最终山东男篮以出色的团队配合和战术执行,大胜新疆男篮,取得了一场酣畅淋漓的胜利。而本场比赛中,山东男篮虽说全员发挥,但其中的王岚嵚发挥格....
丢准考证的高考生已出现,不止一位......评论亮了! - 天天要闻

丢准考证的高考生已出现,不止一位......评论亮了!

“每年的例行节目又开始了”“还好是前一天”!据报道,6月6日,四川通川一考点,工作人员考前巡检时发现一张丢落的准考证,迅速交给现场执勤民警。经查询,民警第一时间联系上考生小魏同学。记者注意到,这并非网友所调侃的今年高考“第一张被警察叔叔捡到的准考证”。第一批丢准考证的考生已经出现了......6月6日下午,一...
惊险!树枝突然掉落砸穿挡风玻璃,直插驾驶室 - 天天要闻

惊险!树枝突然掉落砸穿挡风玻璃,直插驾驶室

前天下午2时许上海静安区长乐路近富民路路口发生一幕险情一名驾驶员驾车经过现场时路边一棵行道树上一根树枝掉落恰巧将轿车前挡风玻璃砸穿事故发生后涉事轿车驾驶员报警处理万幸的是这起意外并未造成人员伤亡据目击市民说,当时,一名驾驶员开着一辆白色轿车,行驶在长乐路上。当车辆驶入富民路路口西侧约50米处时,附近一...