
英偉達公司今日宣布計劃向荷蘭雲服務提供商Nebius Group NV投資20億美元,該公司專註於人工智慧工作負載。
這筆資金將幫助該公司擴展數據中心基礎設施。Nebius計劃部署配備英偉達最新Rubin圖形處理器和Vera中央處理器的伺服器。公司還將採用BlueField晶元系列,該系列可以將存儲硬體管理等輔助任務從伺服器CPU中卸載。
Nebius目前向客戶提供的最先進英偉達顯卡系列是Blackwell。而Nebius即將採用的新GPU Rubin,其推理工作負載的成本效率提升了10倍。
Nebius將與Rubin一起部署的CPU Vera,效率也超越了其前代產品。據報道,配備這兩種晶元的設備每瓦性能比英偉達上一代硬體提升了10倍。這些重約兩噸的系統包含72個Rubin GPU、32個Vera CPU和超過1000個其他晶元。
該公司在內部運營的數據中心和託管設施中託管其基礎設施。公司最大的站點是目前正在新澤西州建設的300兆瓦雲計算園區。其數據中心網路還遍布英國、法國、芬蘭和冰島。
Nebius提供託管GPU以及旨在簡化AI模型開發的託管服務。它提供MLFlow的託管版本,這是一個開源工具,可以分析AI訓練運行的遙測數據來識別低效問題。Nebius的另一項服務提供Jupyter Notebook的雲託管實現,這是一個在AI項目中廣泛使用的代碼編輯器。
結合英偉達的投資,Nebius今日在其雲平台上推出了英偉達的Nemotron 3 Super模型。這是一個專家混合演算法,優化用於驅動AI智能體。Nemotron 3 Super可以處理多達100萬個Token的提示,並激活其1200億參數中的十分之一來生成答案。
該模型通過Nebius名為Token Factory的服務提供。該服務為開源AI模型擴展了自動擴縮功能和安全防護措施。此外,還支持一種稱為投機解碼的性能優化方法。該技術通過使AI模型能夠將某些計算卸載到更小、更硬體高效的神經網路來加速推理。
Nebius計劃在本十年末之前部署超過5千兆瓦的額外計算能力來支持客戶工作負載。除了為該計劃提供硬體外,英偉達還將提供AI集群設計材料、"技術評審"和其他形式的支持。
這筆投資是在GPU製造商與另一家AI雲服務商CoreWeave Inc.簽署類似協議幾周後進行的。英偉達同意在早先下達63億美元雲基礎設施訂單後向該初創公司投資20億美元。CoreWeave計划到2030年部署超過5千兆瓦的計算能力。
Q&A
Q1:英偉達為什麼要投資Nebius這家雲服務商?
A:英偉達投資20億美元給Nebius主要是為了擴展AI雲計算基礎設施。Nebius專註於人工智慧工作負載,將部署英偉達最新的Rubin GPU和Vera CPU,幫助英偉達在AI雲服務市場建立更強的合作夥伴關係。
Q2:Rubin GPU相比現有的Blackwell有什麼優勢?
A:Rubin GPU在推理工作負載方面的成本效率比現有產品提升了10倍。配備Rubin GPU和Vera CPU的系統,每瓦性能比英偉達上一代硬體提升了10倍,顯著提高了計算效率和降低了運營成本。
Q3:Nebius的Token Factory服務有什麼特色功能?
A:Token Factory是Nebius提供的AI模型服務平台,支持英偉達Nemotron 3 Super等模型。該服務為開源AI模型提供自動擴縮功能、安全防護措施,還支持投機解碼技術來加速推理性能。