谷歌的原生多模態大模型Gemini來了,劍指GPT-4

2023年12月07日21:30:10 財經 8921

在此前被OpenAI壓制了一整年後,就在2023年進入尾聲時,當年憑藉AlphaGo曾掀起人工智慧浪潮的谷歌,也終於揚眉吐氣了一把,揭開了原生多模態大模型Gemini的神秘面紗。據悉,Gemini號稱是谷歌迄今為止「最大、也最全能的AI模型」,擁有文本、圖像、視頻、音頻和代碼能力,而且有別與其他大模型Gemini更加靈活,其包括了能力最強、複雜度最高的Gemini Ultra,適用於多任務的Gemini Pro,以及端側的Gemini Nano(1.8B/3.25B)。

谷歌的原生多模態大模型Gemini來了,劍指GPT-4 - 天天要聞

從能夠在移動端到大型數據中心的所有設備上運行,就足以證明谷歌對Gemini寄予厚望。根據谷歌方面的說法,Gemini Nano將率先在Pixel 8 Pro上落地,Gemini Pro則將從當地時間本周三開始支持Bard,而Gemini Ultra則會在明年年初向公眾大範圍開放。

當然,外界更關心的應該是Gemini的性能究竟如何,以及與GPT-4相比孰強孰弱。

根據谷歌方面公布的信息顯示,在32項基準測試中,Gemini在30個項目上都實現了「遙遙領先」,同時Gemini Ultra在MMLU(大規模多任務語言理解數據集)中的得分率更是高達90.0%,成為了大模型中首個超越人類專家的產品。對於目前大模型在評測中刷題蔚然成風的現象,谷歌也特意強調,「對於以前的SOTA模型評估使用不同的提示技術」,也就是Gemini並未針對性的刷題。

谷歌的原生多模態大模型Gemini來了,劍指GPT-4 - 天天要聞

Gemini最大的亮點就是原生(native)多模態,谷歌口中的「anything to anything」也代表了Gemini和ChatGPT的本質區別。雖然兩者確實都實現了支持文本、圖像、音頻和視頻輸入,以及文本和圖片的輸出,但OpenAI的解決方案是在ChatGPT這個大模型(LLM)上不斷疊加多模態模塊,谷歌的Gemini則是從一開始就將各種模態的能力一同訓練,相當於一個是串聯、另一個是並聯。

比如在面對用戶輸入的同樣一張圖片,GPT-4的策略是用OCR技術分割圖片,獲得乾淨的字元圖像、再識別字元,並轉化為文本信息。而Gemini認知圖片的方式則更接近人類,就是綜合視覺、聽覺、語言來理解事物,這也是Gemini在谷歌展示的DEMO中,對於連續輸入的內容幾乎能即刻做出反應的關鍵。

谷歌的原生多模態大模型Gemini來了,劍指GPT-4 - 天天要聞

值得一提的是,在Gemini技術報告中,谷歌方面表示其基於谷歌自家的張量處理單元(TPU)v4和v5e進行大規模訓練,這也就意味著即使脫離了英偉達的CUDA生態,不使用英偉達GPU,業界依然有能力訓練出性能不錯的大模型。而且隨著Gemini的發布,谷歌同時公布了專為訓練先進AI大模型的Cloud TPU v5p,等於說是明晃晃地要搶英偉達的蛋糕。

作為在過去一年幾乎壓得谷歌幾乎喘不過氣的產品,GPT-4也是此次展示Gemini性能的標靶。例如Gemini Ultra在推理、數學、代碼等文本處理能力的得分,就均高於GPT-4,在圖像、視頻、音頻等多模態能力上也壓倒了GPT-4。

但事實真的如此嗎?其實仔細觀察谷歌在視頻中展示的關於Gemini和GPT-4評測的表格和圖片會發現,其中似乎暗藏了玄機。

谷歌的原生多模態大模型Gemini來了,劍指GPT-4 - 天天要聞

事實上,谷歌在對比中採用了被稱為「非對稱」的方式,例如在比拼MMLU測試集時,Gemini Ultra的得分率為90%、而GPT-4則是86.4%,但二者測試的方法卻截然不同。Gemini Ultra下方的CoT@32表明,它使用了思維鏈(CoT)技術,這也是目前大模型領域炙手可熱的一項技術,它在Prompt中除了任務的輸入和輸出外,還加入了推理的中間步驟,會使得大模型的性能度提升,而GPT-4下方的5-shot,則代表使用了Few-Shot Learning(少樣本學習)技術。

簡單來說,兩者的區別相當於是同樣參加一場考試,GPT-4的作答時間是1小時,Gemini Ultra則有一天時間。試想一下,如果高考的答題時間不是2小時、而是24小時,想必大家的成績都會更上一層樓。

除此之外,谷歌用未經過「AI對齊」(AI Alignment)的Gemini Ultra,來對比已經經過OpenAI對齊的公開版GPT-4。要知道,AI對齊要求AI的目標要與人類的價值觀和利益相對齊,使得其符合設計者的利益預期,不會產生意外的有害後果。

谷歌的原生多模態大模型Gemini來了,劍指GPT-4 - 天天要聞

AI對齊概念的出現,其實是OpenAI等廠商為了合規而設計,它的副作用就會是導致大模型性能的下降,這一點在GPT-4、New Bing上已經有了明確的體現。換而言之,谷歌是用一個無法商業化的Gemini Ultra版本,來對比已經商業化的GPT-4,難免就有些勝之不武了。當然,谷歌選擇投機取巧也不難理解,畢竟在過去的一年時間裡,他們在AI領域確實承受著巨大的壓力。

作為AI賽道曾經的領導者,谷歌也被外界批評由於過分僵化和謹慎,從而讓其他公司搶佔了大模型的先機,以至於創始人謝爾蓋·布林都重新出山、協助搭建下一代AI模型。CEO皮查伊在面對媒體時更是不得不放狠話,「不管他們怎麼說,我們在AI領域不會輸」。更何況,精心籌備的Bard首秀即翻車,在整個2023年OpenAI、微軟、Meta各領風騷的情況下,唯獨谷歌幾乎沒有了聲音。

谷歌的原生多模態大模型Gemini來了,劍指GPT-4 - 天天要聞

如此種種境況,使得谷歌想要讓Gemini Ultra在紙面上壓倒GPT-4也不難理解了,畢竟都已經傾注了所有的資源,再打不贏OpenAI可怎麼辦?不過即便Gemini Ultra不能超過GPT-4成為地表最強的AI大模型,但超越GPT 3.5幾乎是板上釘釘的事情。

或許有了實質性的競爭對手,未來OpenAI可能也會加速GPT-5的落地。

財經分類資訊推薦

近一年漲了10.7%的債券基金! - 天天要聞

近一年漲了10.7%的債券基金!

春節之前A股大盤指數一度跌到2635點,量化崩盤,雪球敲入,讓很多投資者進一步認識到了權益股票資產的巨大風險。而債券基金作為一種固收類基金,往往被投資者忽視。大多數人投資理財的目標其實主要就是跑贏通脹和跑贏銀行存款利息,配置高端理財債券基金可以輕鬆實現這個目標。
2023年廣東21市人均GDP:5市超10萬元,16市低於全省平均水平 - 天天要聞

2023年廣東21市人均GDP:5市超10萬元,16市低於全省平均水平

#帶著春聯來拜年#​根據最新公布的廣東各市人均GDP數據顯示,廣東省的經濟實力在全國範圍內繼續保持領先地位。從數據中可以看出,廣東省內多個城市的經濟表現亮眼,其中部分城市的居民平均財富水平和生活標準已經達到相當高的水平。
中字頭才是市場縮量下的主流! - 天天要聞

中字頭才是市場縮量下的主流!

大盤繼續縮量,這就意味著場外資金會越來越謹慎,因此我們在操作的節奏上也是需要謹慎,從資產配置的角度來說,需要配置一定的海外資金ETF,今天晚上英偉達的業績要披露,披露之前股價先殺一波,但是英偉達的業績美國那邊一直是傳的很好,而且昨天納指在那種開局不利的情況之下,之後還是回拉了一些
異動快報:中通客車(000957)2月21日9點58分觸及漲停板 - 天天要聞

異動快報:中通客車(000957)2月21日9點58分觸及漲停板

證券之星2月21日盤中消息,9點58分中通客車(000957)觸及漲停板。目前價格7.56,上漲10.04%。其所屬行業商用車目前上漲。領漲股為漢馬科技。該股為核酸採樣,氫能源/燃料電池,新能源整車概念熱股,當日核酸採樣概念上漲2.41%,氫能源/燃料電池概念上漲2.
異動快報:藍豐生化(002513)2月21日9點59分觸及漲停板 - 天天要聞

異動快報:藍豐生化(002513)2月21日9點59分觸及漲停板

證券之星2月21日盤中消息,9點59分藍豐生化(002513)觸及漲停板。目前價格4.11,上漲9.89%。其所屬行業農化製品目前上漲。領漲股為川金諾。該股為大農業,蟲害防治,光伏概念熱股,當日大農業概念上漲1.21%,蟲害防治概念上漲0.9%,光伏概念上漲0.42%。