鈦媒體App 12月5日消息,天眼查信息顯示,清華系 AI 大模型軟硬件協同優化平台公司上海無問芯穹智能科技有限公司(以下簡稱“無問芯穹”)近日發生工商變更,股東新增百度、廣西騰訊創業投資有限公司(騰訊)、北京智譜華章科技有限公司(智譜AI)、紅杉中國、真格基金、北極光創投、歌爾股份創立的青島同歌創投基金、徐匯資本等機構。
與此同時,該公司此次新增多位主要人員(董事),包括Monolith礪思資本創始合伙人曹曦等。
結合公開信息,無問芯穹目前已完成三輪融資,均未對外公布,領投方為紅杉中國。此前的其他投資方包括徐匯資本、礪思資本、啟明創投等機構。
據悉,無問芯穹(Infinigence AI)成立於2023年5月,創始團隊由清華大學電子工程系推動成立,目標是打造大模型軟硬件一體化最佳解決方案。依託行業領先且經過驗證的AI計算優化能力,打造從算法到芯片、從芯片集群到模型,再從模型到應用的三階段“M×N"中間層產品,鏈接上下游,共建AGI(通用人工智能)時代大模型基礎設施。
無問芯穹創始人是清華大學電子工程系系主任汪玉教授;公司CEO是汪玉的學生、清華電子系2009級校友夏立雪博士,他曾赴美國杜克大學進行為期半年的訪問學者;公司法定代表人曾書霖博士也是汪玉的學生。
汪玉教授
汪玉所任職的清華大學電子工程系,源於1932年成立的清華大學電機系電訊組,1952年建系,始稱“無線電工程系”,1958年更名為“無線電電子學系”,1989年更現名至今,是中國半導體與集成電路行業的“黃埔軍校”,包括燧原科技創始人兼CEO趙立東,現任清華大學校長、黨委副書記王希勤等人都畢業於該專業。
1982年出生的汪玉,本科、碩士、博士均在清華大學,2007年汪玉選擇留校任教,是目前清華大學最年輕的系主任,也被稱為 AI 芯片的“探路者”,同時也是IEEE Fellow、清華大學電子系教授、國家自然科學基金優秀青年基金獲得者等。
2016年1月,以汪玉教授為負責人的深度學習處理器項目,通過清華大學電子信息學院論證並獲得支持。隨後,項目團隊以知識產權轉化入股、創立AI芯片公司深鑒科技,進行產業化運營。其學生姚頌、單羿是深鑒科技創始成員,投資方包括高榕資本、金沙江創投、三星風投等機構。
2018年,深鑒科技被全球最大的FPGA廠商賽靈思收購,隨後賽靈思也被美國芯片巨頭AMD所收購。因此,深鑒科技成為國內商業化發展最成功的AI芯片公司。
2023年初,以ChatGPT為代表的 AI 大模型風靡全球,AI 2.0時代正在到來,但算力訓練成本高、難以統一高效部署算力設施等仍是大模型發展制約因素。
今年7月在2023世界人工智能大會一場分論壇上,汪玉表示,無問芯穹是面向大模型的MxN軟硬件聯合優化中間層的平台,利用其平台設施,推理成本、微調成本、人力成本均有望降低10倍以上,同時文本長度也會增加10倍以上。
今年11月,無問芯穹聯合清華大學、上海交通大學團隊在Arxiv上發表了一篇論文,提出了一種新方法 FlashDecoding++,通過異步方法實現注意力計算的真正並行,可以將GPU(圖形處理器)推理提速2-4倍,在英偉達A100顯卡上的推理平均加速37%,以及同時支持英偉達和 AMD 的GPU產品。
簡單理解為,無問芯穹的技術平台可解決國產GPU產品和英偉達、AMD這類高性能產品結合之後的解耦問題,因為國產GPU產品在雙精度、算子、軟件生態、CUDA等方面存在差異和落後情況。“我們現在在做的就是。怎麼樣去面對頂層的各種各樣模型和底層的各種各樣的硬件。”汪玉表示。
本研究論文的三位共同一作分別是無問芯穹首席科學家、上海交通大學副教授戴國浩博士,無問芯穹研究實習生、清華大學碩士生洪可,無問芯穹研究實習生、上海交通大學博士生許珈銘。通訊作者為上海交通大學戴國浩教授和汪玉教授。
目前,FlashDecoding++已被集成於無問芯穹的大模型計算引擎“Infini-ACC”中。在「Infini-ACC」的支持下,無問芯穹正在開發一系列大模型軟硬件一體化的解決方案,其中包含大模型“無穹天權(Infini-Megrez)”、軟硬件一體機等。
“現在大家都在做各種各樣的非常厲害的芯片,但是,怎樣去把模型更好的部署在這些芯片上,讓做應用開發等領域人員不會花費額外的代價,其實會極大推動大模型研發。無問芯穹就是想要推動大模型技術設施發展進入各行各業,這也是我們努力的方向。”汪玉今年7月表示。
截至發稿前,無問芯穹官方暫沒有公布相關融資消息。
(本文首發鈦媒體App,作者|林志佳)