大模型提升45倍！2024 GTC大會重磅開幕

英偉達於當地時間3月18日在加州聖何塞舉辦了2024gtc大會，隆重推出了基於下一代blackwell超級計算架構打造的ai超級計算機。在此次發布會上，英偉達率先揭曉了一款配備gb200 graceblackwell超級晶元的dgx superpod計算機，專為處理具有萬億參數級別的模型設計，以確保超大規模生成式ai訓練和推理任務能夠連續高效運行。

這款新型ai超級計算機創新採用了先進的液冷機架級擴展架構，具備卓越性能，在fp4精度下可提供高達11.5exaflops的ai超級計算能力以及240tb的高速顯存，並且其性能可通過增加機架進一步擴展。據悉，每個dgx gb200系統內部集成了36顆nvidiagb200超級晶元，其中包括36個nvidia gracecpu核心和72個nvidia blackwell gpu，所有這些超級晶元通過第五代nvidia nvlink技術無縫連接成一台強大的超級計算機。相較於上一代nvidiah100 tensor core gpu，gb200超級晶元在處理大語言模型推理工作負載時，性能提升了最高30倍。

此外，英偉達還發布了通用型ai超級計算平台——nvidia dgx b200系統，該系統同樣構建於全新的blackwell架構之上，配置了8塊nvidiab200 tensor core gpu以及兩顆英特爾處理器，用於支持ai模型的訓練、微調及推理操作。dgx b200系統在fp4精度下的ai計算性能可達144petaflops，配備1.4tb的gpu顯存和64tb/s的顯存帶寬，其萬億參數模型的實時推理速度相比前一代產品提升了15倍之多。

(8613024)