英偉達聯合發布Mistral-NeMo AI模型:120億參數

2024年07月19日07:23:09 科技 1000

IT之家 7 月 19 日消息,英偉達聯合法國初創公司 Mistral AI,今天發布了全新的 Mistral-NeMo AI 大語言模型,擁有 120 億個參數,上下文窗口(AI 模型一次能夠處理的最大 Token 數量)為 12.8 萬個 token。

英偉達聯合發布Mistral-NeMo AI模型:120億參數 - 天天要聞

VentureBeat 與 Midjourney 合作製作

Mistral-NeMo AI 大模型主要面向企業環境,讓企業不需要使用大量雲資源的情況下,實施人工智慧解決方案。

由於 Mistral NeMo 依賴於標準架構,因此企業在使用過程中可直接替換任何使用 Mistral 7B 的系統。

英偉達是 GPU 製造和人工智慧硬體領域的巨頭,而 Mistral AI 則是歐洲人工智慧領域的後起之秀,雙方的合作標誌著人工智慧行業的企業解決方案發生了重大轉變。

行業分析師認為,這一版本可能會極大地顛覆人工智慧軟體市場。Mistral-NeMo 的推出代表著企業人工智慧部署的潛在轉變。

通過提供一種可在本地硬體上高效運行的模式,英偉達和 Mistral AI 正在解決阻礙許多企業廣泛採用人工智慧的問題,如數據隱私、延遲以及與基於雲的解決方案相關的高成本。

此舉有可能創造公平的競爭環境,讓資源有限的小型企業也能利用人工智慧功能,而這些功能以前只有擁有大量 IT 預算的大型企業才能使用。

然而,這一發展的真正影響將取決於該模型在實際應用中的表現,以及圍繞該模型開發的工具和支持生態系統。

該模型以 Apache 2.0 許可發布,允許商業使用,這將加速其在企業環境中的應用。IT之家附上官方公布的該 AI 模型性能參數如下:

英偉達聯合發布Mistral-NeMo AI模型:120億參數 - 天天要聞

表 1:Mistral NeMo 基本模型與 Gemma 2 9B 和 Llama 3 8B 的性能比較。

英偉達聯合發布Mistral-NeMo AI模型:120億參數 - 天天要聞

圖 1:Mistral NeMo 在多語言基準測試中的表現。

英偉達聯合發布Mistral-NeMo AI模型:120億參數 - 天天要聞

圖 2:Tekken 壓縮率

英偉達聯合發布Mistral-NeMo AI模型:120億參數 - 天天要聞

Mistral NeMo 指令調整模型精度。使用 GPT4o 根據官方參考文獻進行的評估。

參考

科技分類資訊推薦

「中欣卡」突然停擺,超150萬用戶退款難 - 天天要聞

「中欣卡」突然停擺,超150萬用戶退款難

覆蓋北京2000多家門店、擁有超150萬持卡用戶的預付卡「中欣卡」近日停擺,線上線下消費渠道均被暫停,恢復時間未知。大量持卡用戶面臨資金凍結困境。消費渠道全面「癱瘓」近日,中欣卡發布公告稱「因業務調整,全面暫停所有門店合作,無法消費」。中國新聞網《民生調查局》記者發現,其官網合作商戶名錄已清空,線上提貨渠...
突發,聊聊Manus「刪博跑路」 - 天天要聞

突發,聊聊Manus「刪博跑路」

摘要:「如果最後有不錯的結果,證明作為中國出生的創始人,也能在新的環境下做好全球化的產品,那就太好了」鳳凰網科技 出品作者|董雨晴7月11日,AI Agent產品Manus官方賬號清空了發布在微博、小紅書的內容。兩天前,Manus剛剛陷入裁
AI取代矽谷程序員?這些美國大廠高管這麼說 - 天天要聞

AI取代矽谷程序員?這些美國大廠高管這麼說

人工智慧(AI)正在加速重塑全球勞動力市場。 當地時間10日,美國招聘平台Indeed及員工評價網站Glassdoor宣布,為應對人工智慧帶來的產業變革,將裁減約1300個職位,占集團員工總數的6%。微軟首席商業官阿爾索夫(Judson Althoff)稱,AI已承擔35%的產品代碼編寫工作,顯著加快了產品開發周期。 美國威達信集團(Marsh McL...
配備榮耀綠洲護眼屏,榮耀X70還有超窄邊框設計 - 天天要聞

配備榮耀綠洲護眼屏,榮耀X70還有超窄邊框設計

7 月 11 日消息,榮耀官方表示即將發布的 X70 新品將配備一塊行業罕見的好屏幕,擁有 1.5K 解析度、6000nit 超高亮度,屏幕黑邊甚至控制在 1.3mm,帶來更沉浸的體驗。根據此前曝光的信息,榮耀X70 支持 IP66、IP68、IP69、IP69K 級防塵防水,其中 IP69K 級可以讓設備在高壓、高溫水流衝擊下也能有防護能力。不僅如此,榮耀
零跑全新C11上市,14.98萬起售 - 天天要聞

零跑全新C11上市,14.98萬起售

7月10日,零跑汽車旗下智能越享中型SUV——全新C11正式上市,上市指導價14.98-16.58萬元。零跑C11上市4年來,累計銷量已突破25萬台,是零跑的重要的走量車型,全新C11在造型設計、智能座艙、續航性能、輔助駕駛、駕控體驗及安全基因等六大維度實現全面升級。此次上市的全新C11延續純電與增程雙動力版本,其中,純電車型搭載...