2023年8月25日—27日,以「聚焦大灣區,創新促發展——同心共建中國式現代化」為主題的2023亞布力中國企業家論壇第十九屆夏季高峰會在深圳舉行,雲天勵飛董事長兼CEO陳寧博士受邀參加,並與業內專家同台討論「世界需要怎樣的人工智慧」。
晶元是支撐大模型的核心底座,伴隨「百模大戰」打響,AI晶元也受到大量關注。
在談及對AI晶元發展的看法時,陳寧博士提到晶元可以簡單分為兩大類:一類是訓練晶元,另外一類是推理的晶元。我們今天其實幾乎所有的焦點都關注到了訓練晶元,或者是以訓練為主的訓推一體的晶元。但對於AI的演算法來說,訓練只是一個開始,推理和應用才是最終目的,生產出來大模型的演算法最終要落地應用。
機器人、無人駕駛汽車、各類感測器,萬物智聯需要更需要的是推理晶元。未來,推理晶元的市場需求可能比訓練晶元更大。
因此,雲天勵飛一直堅持「演算法晶元化」,讓晶元能夠滿足不同場景的需求。去年底雲天勵飛自研的AI晶元DeepEdge10成功流片,高效支持Transformer模型中的矩陣乘法運算,可應用於邊緣CV大模型推理領域,可廣泛應用於AIoT邊緣視頻、移動機器人等場景。
據悉,DeepEdge100可提供8-50 TOPS(INT8)整型計算和2-8T FLOPS(FP16)浮點計算算力,滿足市場對晶元演算法多樣性、準確性、算力密度及效能方面的要求。針對各類應用場景,雲天勵飛已開發出Edge10C、Edge10標準版和Edge10Max三款晶元。其中,Edge10C採用8核CPU、算力8 Tops,Edge10標準版採用10核CPU、算力12 Tops,兩者均應用於智慧安防、智慧城市和智能製造等邊緣計算推理領域。
