2023年8月25日—27日,以“聚焦大湾区,创新促发展——同心共建中国式现代化”为主题的2023亚布力中国企业家论坛第十九届夏季高峰会在深圳举行,云天励飞董事长兼CEO陈宁博士受邀参加,并与业内专家同台讨论“世界需要怎样的人工智能”。
芯片是支撑大模型的核心底座,伴随“百模大战”打响,AI芯片也受到大量关注。
在谈及对AI芯片发展的看法时,陈宁博士提到芯片可以简单分为两大类:一类是训练芯片,另外一类是推理的芯片。我们今天其实几乎所有的焦点都关注到了训练芯片,或者是以训练为主的训推一体的芯片。但对于AI的算法来说,训练只是一个开始,推理和应用才是最终目的,生产出来大模型的算法最终要落地应用。
机器人、无人驾驶汽车、各类传感器,万物智联需要更需要的是推理芯片。未来,推理芯片的市场需求可能比训练芯片更大。
因此,云天励飞一直坚持“算法芯片化”,让芯片能够满足不同场景的需求。去年底云天励飞自研的AI芯片DeepEdge10成功流片,高效支持Transformer模型中的矩阵乘法运算,可应用于边缘CV大模型推理领域,可广泛应用于AIoT边缘视频、移动机器人等场景。
据悉,DeepEdge100可提供8-50 TOPS(INT8)整型计算和2-8T FLOPS(FP16)浮点计算算力,满足市场对芯片算法多样性、准确性、算力密度及效能方面的要求。针对各类应用场景,云天励飞已开发出Edge10C、Edge10标准版和Edge10Max三款芯片。其中,Edge10C采用8核CPU、算力8 Tops,Edge10标准版采用10核CPU、算力12 Tops,两者均应用于智慧安防、智慧城市和智能制造等边缘计算推理领域。
