2023年8月25日—27日,以“聚焦大灣區,創新促發展——同心共建中國式現代化”為主題的2023亞布力中國企業家論壇第十九屆夏季高峰會在深圳舉行,雲天勵飛董事長兼CEO陳寧博士受邀參加,並與業內專家同台討論“世界需要怎樣的人工智能”。
芯片是支撐大模型的核心底座,伴隨“百模大戰”打響,AI芯片也受到大量關注。
在談及對AI芯片發展的看法時,陳寧博士提到芯片可以簡單分為兩大類:一類是訓練芯片,另外一類是推理的芯片。我們今天其實幾乎所有的焦點都關注到了訓練芯片,或者是以訓練為主的訓推一體的芯片。但對於AI的算法來說,訓練只是一個開始,推理和應用才是最終目的,生產出來大模型的算法最終要落地應用。
機器人、無人駕駛汽車、各類傳感器,萬物智聯需要更需要的是推理芯片。未來,推理芯片的市場需求可能比訓練芯片更大。
因此,雲天勵飛一直堅持“算法芯片化”,讓芯片能夠滿足不同場景的需求。去年底雲天勵飛自研的AI芯片DeepEdge10成功流片,高效支持Transformer模型中的矩陣乘法運算,可應用於邊緣CV大模型推理領域,可廣泛應用於AIoT邊緣視頻、移動機器人等場景。
據悉,DeepEdge100可提供8-50 TOPS(INT8)整型計算和2-8T FLOPS(FP16)浮點計算算力,滿足市場對芯片算法多樣性、準確性、算力密度及效能方面的要求。針對各類應用場景,雲天勵飛已開發出Edge10C、Edge10標準版和Edge10Max三款芯片。其中,Edge10C採用8核CPU、算力8 Tops,Edge10標準版採用10核CPU、算力12 Tops,兩者均應用於智慧安防、智慧城市和智能製造等邊緣計算推理領域。
