英偉達聯合發布Mistral-NeMo AI模型:120億參數

2024年07月19日07:23:09 科技 1000

IT之家 7 月 19 日消息,英偉達聯合法國初創公司 Mistral AI,今天發布了全新的 Mistral-NeMo AI 大語言模型,擁有 120 億個參數,上下文窗口(AI 模型一次能夠處理的最大 Token 數量)為 12.8 萬個 token。

英偉達聯合發布Mistral-NeMo AI模型:120億參數 - 天天要聞

VentureBeat 與 Midjourney 合作製作

Mistral-NeMo AI 大模型主要面向企業環境,讓企業不需要使用大量雲資源的情況下,實施人工智慧解決方案。

由於 Mistral NeMo 依賴於標準架構,因此企業在使用過程中可直接替換任何使用 Mistral 7B 的系統。

英偉達是 GPU 製造和人工智慧硬體領域的巨頭,而 Mistral AI 則是歐洲人工智慧領域的後起之秀,雙方的合作標誌著人工智慧行業的企業解決方案發生了重大轉變。

行業分析師認為,這一版本可能會極大地顛覆人工智慧軟體市場。Mistral-NeMo 的推出代表著企業人工智慧部署的潛在轉變。

通過提供一種可在本地硬體上高效運行的模式,英偉達和 Mistral AI 正在解決阻礙許多企業廣泛採用人工智慧的問題,如數據隱私、延遲以及與基於雲的解決方案相關的高成本。

此舉有可能創造公平的競爭環境,讓資源有限的小型企業也能利用人工智慧功能,而這些功能以前只有擁有大量 IT 預算的大型企業才能使用。

然而,這一發展的真正影響將取決於該模型在實際應用中的表現,以及圍繞該模型開發的工具和支持生態系統。

該模型以 Apache 2.0 許可發布,允許商業使用,這將加速其在企業環境中的應用。IT之家附上官方公布的該 AI 模型性能參數如下:

英偉達聯合發布Mistral-NeMo AI模型:120億參數 - 天天要聞

表 1:Mistral NeMo 基本模型與 Gemma 2 9B 和 Llama 3 8B 的性能比較。

英偉達聯合發布Mistral-NeMo AI模型:120億參數 - 天天要聞

圖 1:Mistral NeMo 在多語言基準測試中的表現。

英偉達聯合發布Mistral-NeMo AI模型:120億參數 - 天天要聞

圖 2:Tekken 壓縮率

英偉達聯合發布Mistral-NeMo AI模型:120億參數 - 天天要聞

Mistral NeMo 指令調整模型精度。使用 GPT4o 根據官方參考文獻進行的評估。

參考

科技分類資訊推薦

零跑全新C11上市,14.98萬起售 - 天天要聞

零跑全新C11上市,14.98萬起售

7月10日,零跑汽車旗下智能越享中型SUV——全新C11正式上市,上市指導價14.98-16.58萬元。零跑C11上市4年來,累計銷量已突破25萬台,是零跑的重要的走量車型,全新C11在造型設計、智能座艙、續航性能、輔助駕駛、駕控體驗及安全基因等六大維度實現全面升級。此次上市的全新C11延續純電與增程雙動力版本,其中,純電車型搭載...
張旭院士:我國類腦智能規模應用潛力巨大 - 天天要聞

張旭院士:我國類腦智能規模應用潛力巨大

7月11日,省加快推進現代化產業體系建設專題會議(人工智慧與機器人產業專場)在廣州舉行。現場,來自相關領域的專家學者、企業家、人大代表、研究機構代表踴躍發言,為廣東人工智慧與機器人產業的發展積極建言、出謀劃策。中國科學院院士、廣東省智能科學與技術研究院院長張旭表示,類腦智能技術作為新一代智能技術的核心...
【晶元】Tensor G5曝光,Pixel10工程機現身海鮮市場 - 天天要聞

【晶元】Tensor G5曝光,Pixel10工程機現身海鮮市場

近日谷歌Pixel 10 Pro Fold出現在了GeekBench跑分資料庫中:新機搭載了谷歌全新的Tensor G5處理器,據悉這代終於是告別了三星工藝,轉而擁抱台積電N3E工藝。從顯示信息來看,Tensor G5採用了1+5+2的八核CPU架構,1*3.78GHz X4超大核+5*3.05GHz A725大核+2*2.25GHz A520小核構成。單核
【新機】2K屏+潛望長焦,iQOO 15曝光 - 天天要聞

【新機】2K屏+潛望長焦,iQOO 15曝光

說到iQOO的數字旗艦系列,這代iQOO13相機被刀還是挺可惜的,主要也是為了避免和老大哥X200產生衝突。今天@數碼閑聊站曝光了下代iQOO旗艦的信息:新機可能會跳過iQOO 14,直接命名為iQOO 15,這代將會有中杯/大杯兩個杯型。新機將會採用6.85英寸2K LIPO三星定製直面屏,屏幕邊框極窄,支持Pol-less去偏光技術,還具有AR抗眩...
清華專家破百年陳規!滬上論壇曝電力革新,陳磊構想太敢了 - 天天要聞

清華專家破百年陳規!滬上論壇曝電力革新,陳磊構想太敢了

聽說了嗎?清華大學的專家居然說要徹底打破電力系統運行了上百年的規矩!就在上海那場新能源論壇上,陳磊研究員拋出個重磅觀點 —— 以後用電不用再看頻率臉色,有功功率想咋調就咋調!這事兒要是真能成,咱們家裡的空調、電動車充電可就再也不會因為電網不
消費活力釋放,上海零售商業形態向「文商旅體展」融合演進 - 天天要聞

消費活力釋放,上海零售商業形態向「文商旅體展」融合演進

2025年二季度,在上海市政府經濟刺激方案推動下,上海商業市場消費活力逐步釋放,但零售物業租賃指標的復甦態勢仍顯平緩。核心商圈平均租金為1877元/平方米/月,平均出租率為94.71%,整體表現與去年同期持平,其中徐家匯、陸家嘴等商圈憑藉成熟商業生態,表現相對突出。但與非核心商圈相比,從存量、新增供應、凈吸納量等指...