大模型提升45倍!2024 GTC大會重磅開幕

英偉達於當地時間3月18日在加州聖何塞舉辦了2024gtc大會,隆重推出了基於下一代blackwell超級計算架構打造的ai超級計算機。在此次發佈會上,英偉達率先揭曉了一款配備gb200 graceblackwell超級芯片的dgx superpod計算機,專為處理具有萬億參數級別的模型設計,以確保超大規模生成式ai訓練和推理任務能夠連續高效運行。

這款新型ai超級計算機創新採用了先進的液冷機架級擴展架構,具備卓越性能,在fp4精度下可提供高達11.5exaflops的ai超級計算能力以及240tb的高速顯存,並且其性能可通過增加機架進一步擴展。據悉,每個dgx gb200系統內部集成了36顆nvidiagb200超級芯片,其中包括36個nvidia gracecpu核心和72個nvidia blackwell gpu,所有這些超級芯片通過第五代nvidia nvlink技術無縫連接成一台強大的超級計算機。相較於上一代nvidiah100 tensor core gpu,gb200超級芯片在處理大語言模型推理工作負載時,性能提升了最高30倍。

此外,英偉達還發佈了通用型ai超級計算平台——nvidia dgx b200系統,該系統同樣構建於全新的blackwell架構之上,配置了8塊nvidiab200 tensor core gpu以及兩顆英特爾處理器,用於支持ai模型的訓練、微調及推理操作。dgx b200系統在fp4精度下的ai計算性能可達144petaflops,配備1.4tb的gpu顯存和64tb/s的顯存帶寬,其萬億參數模型的實時推理速度相比前一代產品提升了15倍之多。

(8613024)