百模大戰中,笑到最後的可能並不是OpenAI

2023年05月06日20:45:17 搞笑 8306

2023年顯然是無可爭議的ai大年,如果對chatgpt、openai、生成式ai、llm(大語言模型)等概念一頭霧水,那你可能就out了。甚至自1956年達特茅斯會議上人工智能(ai)這一概念誕生以來,ai從未距離大眾如此之近。所以自然而然的,圍繞ai的一切也引發了大量的關注,特別是對於站在浪潮之巔的巨頭們關於ai的隻言片語,也總能引發諸多的熱議。

百模大戰中,笑到最後的可能並不是OpenAI - 天天要聞

被稱為「ai教父」的傑弗里·辛頓繼不久前從谷歌離職後,隨即就加入了「ai批評者」的行列,並大談ai未來可能會帶來的風險,甚至還表示,「我對畢生所研究的東西感到後悔」。

就在他態度180°大轉彎激起、由「不明真相吃瓜群眾」對ai危險性的討論尚未落幕之時,一個據稱是谷歌高級軟件工程師luke sernau所寫的內部信又激起波瀾。而這份被泄露的文件中其實只有一個核心主旨,那就是谷歌、openai都沒有護城河,開源ai將會摘取這個賽道最後的勝利果實。

在這一場生成式ai的「大戰」中,谷歌顯然只是不折不扣的追趕者。雖然作為阿爾法狗的創造者,多年來谷歌一直扮演着「ai佈道者」的角色,但在生成式ai領域,chatgpt無疑才是領路人。緊隨其後的google bard公開演示翻車、導致谷歌市值一度蒸發千億美元後,好不容易推出將生成式ai整合到工作場景的workspace後,微軟融合了gpt-4的microsoft 365 copilot又很快把風頭搶走了。

所以在外界看來,如今焦慮一詞或許才是谷歌在面對生成式ai、llm時,最為真實的寫照。

百模大戰中,笑到最後的可能並不是OpenAI - 天天要聞

與此同時,領導谷歌前進的ceo皮查伊持有保守傾向、並且也受到了不少的掣肘,以至於谷歌的ai路線圖目前並不清晰。在這樣的情況下,公司內部的「有識之士」當然也就會心急如焚。

那麼問題就來了,作為在生成式ai賽道落後的谷歌有危機感、內部傳出悲觀論調再正常不過,但為什麼會扯上openai呢,或者說為什麼開源ai才是最終的勝利者?

鮮花着錦烈火烹油,無疑是當下openai的境況。別看這家公司現在幾乎是最炙手可熱的投資標的,但據相關海外科技媒體在近期曝光的新一輪融資文件顯示,openai的估值來到了290億美元。可要知道的是,目前在a股,僅僅寒武紀和崑崙萬維這兩家ai概念的市值,就已經接近這個數字。換而言之,一手點燃了生成式ai這把火的openai,其實並沒有被投資者給出一個驚人的估值。

百模大戰中,笑到最後的可能並不是OpenAI - 天天要聞

在許多業內人士看來,openai目前的問題在於缺乏一個清晰的商業模式,他們現階段唯二可以確定的收入,是一個月20美元的chatgpt plus訂閱服務,以及1k tokens/0.002美元的chatgpt api,但這兩者顯然還不足以讓openai盈利。甚至有觀點認為,openai現在像極了世紀之交的qq,儘管同樣都是站在相關領域的最前沿,但也同樣缺乏一個明朗的商業化前景。但後來qq等來了qq秀,目前openai卻暫時還看不到解決商業化難題的契機。

事實上,讓谷歌公司的內部人士對谷歌、openai悲觀的核心,是生成式ai、或者說llm本身其實並沒有太深的護城河。沒錯,別看chatgpt、文心一言這類產品表現得如此智能,但實際上打造一個生成式ai並沒有大家想像的那麼難。

llm的理論其實非常簡單,即通過分析大量文本數據進行訓練,從而學習語言的結構和模式,其所使用的架構也是是長短時記憶網絡(long short-term memory,lstm)或門控循環單元(gated recurrent unit,gru)等傳統的循環神經網絡結構。

百模大戰中,笑到最後的可能並不是OpenAI - 天天要聞

llm更像是「力大磚飛」的結果,然而在chatgpt一鳴驚人前,業界更青睞的其實是谷歌的transformer模型。而後者追求的卻是如何設計出更小、更快,但更準確的神經網絡,甚至於彼時openai的gpt-3是被業界作為負面典型進行評價的。當時就有業內人士表示,「gpt-3在小樣本學習中表現出卓越的能力,但它需要使用數千個gpu進行數周的訓練,因此很難重新訓練或改進。」

chatgpt的成功就成功在它提出了一個新的思路,畢竟加大參數、加高算力的大模型也是一個方向,並且真的讓大模型湧現出了智能。但顯而易見的是,這一模式並沒有護城河。君不見,即使openai對自己基於人類反饋的強化學習(rlhf)技術秘而不宣,也阻攔不了百度文心一言、阿里通義千問、谷歌bard等等一眾同類大模型的出現。

百模大戰中,笑到最後的可能並不是OpenAI - 天天要聞

此前李彥宏就曾在百度的內部講話中提到,「算力不能保證我們能夠在通用人工智能技術上領先,因為算力是可以買來的,但創新的能力是買不來的,是需要自建的」,也就是說算力和參數都可以買、技術壁壘不高。所以也難怪短時間內國內市場的「百模大戰」就已開打,因此先發優勢在這裡幾乎不值一提。

當然,如果沒有meta的llama模型「意外」在4chan上泄露,llm的技術壁壘不高也只是相對大廠而言。但llama模型的被迫開源,也讓開源社區主導了最近一段時間針對chatgpt的「平替」熱潮。

百模大戰中,笑到最後的可能並不是OpenAI - 天天要聞

比如說來自斯坦福的alpaca,藉助llama的預訓練模型為基礎,僅使用來自gpt模型的一個小尺寸調優數據集(52000個樣本),就建立了一個具有對話功能的llm。而基於llama模型,以及lora (low-rank adaptation of llm,即插件式的微調)訓練,開源社區在不到兩個月的時間裏已接連發佈了chatllama、alpaca、vicuna、koala等模型,並且「羊駝家族」們的實際效果還直追gpt-3.5、甚至不輸gpt-4。

藉助社區的力量群策群力,並最終實現極低成本下的高速迭代,這無疑就是開源ai的優勢。就像谷歌這位員工所說的那樣,「如果存在一個沒有使用限制的免費高質量替代品,誰還會為帶有使用限制的谷歌產品買單呢?」

因此從某種意義上來說,谷歌在android上的做法可能才是最佳範例,也就是讓開源社區不自覺地為自己的商業利益服務。

百模大戰中,笑到最後的可能並不是OpenAI - 天天要聞

所以不得不說,llama模型泄露更像是一個神來之筆,一下子就讓原本掉隊的meta實現了超谷歌、趕openai,畢竟「羊駝家族」就是在meta的架構之上誕生的產物。

【本文圖片來自網絡】

搞笑分類資訊推薦

患克羅恩病的00後女孩術後自學插胃管,網友贊她「很勇敢」,凱特王妃曾被曝患有此病 - 天天要聞

患克羅恩病的00後女孩術後自學插胃管,網友贊她「很勇敢」,凱特王妃曾被曝患有此病

極目新聞記者 馬浩然近日,遼寧遼陽一00後女孩在網絡平台發佈自學插胃管治病的視頻,引髮網友關注和點贊。該女生緩緩將塑料管插進鼻孔,面部表情較為自然。6月7日,極目新聞記者聯繫視頻發佈者徐女士,她表示4月份確診克羅恩病、並做了手術,三個月不能吃飯,為使鼻飼營養液進入腸道,她便看教程自學插胃管。徐女士自學插胃...
濟南一烤鴨店老闆貼停業陪考告示火了,稱「種了18年的棗樹要打棗」,還寫打油詩祝考生「鴨」的全對 - 天天要聞

濟南一烤鴨店老闆貼停業陪考告示火了,稱「種了18年的棗樹要打棗」,還寫打油詩祝考生「鴨」的全對

極目新聞記者 柳琛琛近日,山東濟南一烤鴨店的陪考停業告示火了。老闆在告示中稱女兒為「18年的棗樹」,幽默地寫道:「俺家種了一棵18年的棗樹,有沒有棗還是要打一竿子試試,陪考幾天。還借泉城之靈秀,以打油詩的形式向所有考生送去祝福。」打油詩為:打賞妙筆生花似片鴨,思路流暢如甜醬,考的全會,「鴨」的全對。告示...
「不用理,掛掉!」電台主持人替聽眾維權遭政府工作人員嬉笑回懟,官方通報 - 天天要聞

「不用理,掛掉!」電台主持人替聽眾維權遭政府工作人員嬉笑回懟,官方通報

廣東省湛江市坡頭區人民政府辦公室6月7日發佈情況通報:近日,我辦工作人員在接聽《廣東民聲熱線》直播來電時不當回應引發社會關注。對此,我辦高度重視,派駐紀檢監察組已對此事開展調查,對兩位涉事人員予以停職檢查處理。同時,舉一反三,引以為戒,在全區開展機關作風自查自糾,切實加強幹部隊伍作風建設。再次感謝媒體...
「插着儀器的屁股」走光了!知名主持人陶淳曝某三甲醫院腸鏡檢查不關門引熱議 - 天天要聞

「插着儀器的屁股」走光了!知名主持人陶淳曝某三甲醫院腸鏡檢查不關門引熱議

近日,上海電視台新聞綜合頻道資深節目主持人陶淳在小紅書分享個人體檢經歷,引髮網友廣泛關注!陶淳自述前往單位安排的上海某三甲醫院進行體檢,在腸鏡檢查過程中,診室門未關閉,導致正在接受檢查的患者屁股對着候診區「被看光」,十分尷尬。主持人爆料腸鏡檢查很尷尬視頻中,陶淳講到,做腸鏡檢查需要穿專門的腸鏡檢查防...
身份證不見了,跑錯考場了……「馬大哈」又來參加高考了 - 天天要聞

身份證不見了,跑錯考場了……「馬大哈」又來參加高考了

身份證不見了,跑錯考場了……年年高考年年有「馬大哈」。今天是高考首日。記者從閔行公安獲悉,高考首日,閔行還是有「馬大哈」突髮狀況。8時10分許,閔行公安分局交管支隊民警在七寶中學附屬鑫都實驗中學接考生小喻求助,稱其身份證遺失。民警第一時間聯繫考生家長,並安撫考生情緒。經了解得知,考生身份證忘記在賓館前...
戲耍新疆後衛線!打回同曦狀態 遼寧真耽誤了他? - 天天要聞

戲耍新疆後衛線!打回同曦狀態 遼寧真耽誤了他?

在昨日全運會預選賽的比拼中,山東男籃與新疆男籃展開了一場較量,最終山東男籃以出色的團隊配合和戰術執行,大勝新疆男籃,取得了一場酣暢淋漓的勝利。而本場比賽中,山東男籃雖說全員發揮,但其中的王嵐嶔發揮格....
丟准考證的高考生已出現,不止一位......評論亮了! - 天天要聞

丟准考證的高考生已出現,不止一位......評論亮了!

「每年的例行節目又開始了」「還好是前一天」!據報道,6月6日,四川通川一考點,工作人員考前巡檢時發現一張丟落的准考證,迅速交給現場執勤民警。經查詢,民警第一時間聯繫上考生小魏同學。記者注意到,這並非網友所調侃的今年高考「第一張被警察叔叔撿到的准考證」。第一批丟准考證的考生已經出現了......6月6日下午,一...
驚險!樹枝突然掉落砸穿擋風玻璃,直插駕駛室 - 天天要聞

驚險!樹枝突然掉落砸穿擋風玻璃,直插駕駛室

前天下午2時許上海靜安區長樂路近富民路路口發生一幕險情一名駕駛員駕車經過現場時路邊一棵行道樹上一根樹枝掉落恰巧將轎車前擋風玻璃砸穿事故發生後涉事轎車駕駛員報警處理萬幸的是這起意外並未造成人員傷亡據目擊市民說,當時,一名駕駛員開着一輛白色轎車,行駛在長樂路上。當車輛駛入富民路路口西側約50米處時,附近一...