離職晶元巨頭,清華校友攜手創立AI晶元公司,獲英諾等投資

2023年07月13日10:34:17 熱門 1796

離職晶元巨頭,清華校友攜手創立AI晶元公司,獲英諾等投資 - 天天要聞

AI晶元正在成為新的搖錢樹

據業內人士透露,因為英偉達AI晶元供不應求,有人從機房把舊A100晶元拆出來倒賣。這些舊貨非但沒有貶值,反而賣到10萬一片,比去年同期新品8萬左右的售價還要更貴。

自AI大模型風起以來,英偉達顯然吃到了最多紅利,股價一路飆升,市值突破萬億美金。業內只能一邊感嘆黃仁勛all in AI的遠見,一邊被動接受英偉達對AI晶元市場的壟斷。

但出身國際晶元巨頭公司的 方紹峽、原鋼 兩人,卻認為 「巨頭公司不可能覆蓋行業的方方面面,初創公司在AI晶元市場還有很大的機會。」

因此他們離開國際晶元大廠,在今年4月創辦了自己的AI晶元企業—— 原粒半導體 。據小飯桌了解, 原粒是一家AI Chiplet供應商,通過提供高能效、低成本的通用AI Chiplet組件與工具鏈,為多模態大模型提供算力支持。

近日,原粒半導體宣布完成數千萬元人民幣種子輪融資,本輪融資由英諾天使基金領投,中關村發展集團清科創投、水木清華校友種子基金、中科創星等多家機構跟投。本輪融資將用於公司核心團隊組建以及創新技術研發。

本輪領投方,英諾天使基金創始合伙人李竹在被投企業創始人群里寫道:「當新一代AI大模型出現,最大的需求和瓶頸就是算力,英諾相信紹峽、原鋼能解決其中的一些關鍵問題。」

在當下,什麼樣的AI晶元初創企業還能拿到融資?為此,小飯桌找到了原粒創始人方紹峽、原鋼,希望了解晶元行業老兵對AI算力競爭格局、國產晶元替代、大模型支撐等現實問題的看法。

大模型時代,AI Chiplet迎來新機遇

「隨著大模型時代到來,AI算力晶元設計範式正在發生巨大的變化。」 方紹峽告訴小飯桌。

在創立原粒半導體之前,方紹峽是國際半導體巨頭下一代AI處理器架構審批委員會成員之一,該委員會成員全球共有六位,每位都擁有對新一代AI專用處理器的一票否決權

方紹峽發現,在過去數年間,客戶對語言類模型的需求,已經上升到整體業務量的三分之一,且這一比例還在持續攀升,業務模型本身也呈現出顯著的多模態趨勢。

方紹峽判斷,AI大模型創造的窗口期非常寶貴,行業對新一代的AI 2.0算力晶元也有切實需求,在行業發生巨變之際, 以創業公司這種更加輕巧的方式入局,會比留在行業巨頭中更容易抓住市場機遇。

而針對創業公司與大公司之間客觀存在的差異性,原粒半導體所選擇的,是更加 高能效、低成本AI Chiplet(芯粒) 技術路線。

Chiplet是一種新的晶元設計理念,通過將不同工藝和功能的小規模矽片,像拼接樂高積木一樣整合,再通過芯粒互聯和封裝技術進行封裝,可以在降低成本的同時獲得更高的集成度。

這種新型AI晶元架構,天然具有更高的計算彈性和更好的演算法適應性。 根據Omdia報告,2024年Chiplet的全球市場規模將達到58億美元,2035年將超過570億美元,Chiplet市場前景廣闊。

方紹峽認為, 通用AI Chiplet將是AI 2.0時代算力晶元的核心。 「因為AI 2.0時代算力晶元不僅需要高計算性能,也需要強大的自適應互聯能力。」

原粒半導體採用多模態AI處理器技術來設計AI Chiplet。

通過這種創新技術, 客戶可以根據實際業務需求靈活、快速配置出不同算力規格的AI晶元,例如自動駕駛晶元、智能機器人晶元等。

而通過芯粒積木式組合的方式,則可以支持大算力擴展,以滿足超大規模多模態模型的推理及邊緣端訓練微調需求,以此解決各類客戶在不同場景下的實際問題。

出身國際半導體巨頭,交過更多學費

當然,正確的技術路線只相當於開了個好頭,在技術門檻更高的AI晶元領域,研發團隊的技術背景和行業積澱,往往決定了技術路線能否最終落地。

在技術背景方面,原粒半導體的核心團隊來自國際半導體巨頭,深耕AI晶元領域多年。

原粒半導體創始人兼CEO方紹峽博士畢業於清華大學電子工程系,擁有10餘年高性能處理器架構SoC晶元研發經驗,30餘項AI晶元美國及中國發明專利。曾任國際半導體巨頭AI處理器研發總監,所負責相關成果已成為其AI加速器的核心技術之一。

原粒半導體聯合創始人原鋼畢業於清華大學電子工程系及中科院半導體所,擁有20年+集成電路從業經歷,曾任晶元設計服務上市公司銷售及技術支持經理、知名AI晶元初創公司晶元商務拓展總監、國際半導體巨頭AI及異構計算業務負責人等,AI晶元市場、銷售經驗豐富。

離職晶元巨頭,清華校友攜手創立AI晶元公司,獲英諾等投資 - 天天要聞

- 原粒半導體聯合創始人 原鋼 -

除了出身行業巨頭的背景,原粒半導體團隊還擁有豐富的行業實戰經驗。

用方紹峽的話來說:「原粒團隊是業界最早做AI晶元的團隊之一,七年來從創業公司一路走到國際半導體巨頭,交過的學費,踩過的坑,比一般創業公司要多得多。在AI晶元領域,行業積澱非常關鍵。」

AI晶元的需求並非最近才出現,早在AI 1.0時代,就已經湧現了如地平線、寒武紀、燧原科技、瀚博半導體等一批知名AI晶元企業。這意味著,現階段如果創業公司要一切從零開始,將很難在競爭激烈的AI晶元市場擁有一席之地。

方紹峽也告訴小飯桌: 「沒有前六七年的技術積累、行業迭代,AI晶元不可能擁有今天的技術進展,但是市場不會再給創業公司六七年時間,再走一遍同樣的路了。」

因此,某種程度上,AI晶元行業對新人並不友好,往往只有在AI晶元領域裡經歷過長期歷練沉澱、擁有寬廣視野、積累了足夠Know-how的團隊,才能抓住AI 2.0時代的機遇。

做跟巨頭不一樣的AI 2.0晶元

同時擁有國際半導體巨頭公司與AI晶元創業公司經驗的另一優勢在於, 原粒半導體團隊相對了解巨頭與初創公司之間的差異性。

「巨頭們的主戰場,是面向數據中心應用的超級AI算力晶元,而對於創業公司來說,受制於各方面因素,正面迎戰巨頭難度極高。」原粒聯合創始人原鋼告訴小飯桌,「更合理的做法應該是, 從巨頭尚未覆蓋的市場空白切入,在特定領域領先巨頭。」

按照原鋼的說法,巨頭尚未覆蓋的市場空白主要可分為技術、市場需求兩個方面。

首先在技術側,隨著通用大模型日漸走向更廣泛的應用,原粒半導體團隊判斷大模型必然走向邊緣端,屆時英偉達所擅長的GPU晶元並不能發揮最大功效。

簡單來說,GPU更適合數據中心端大模型的高並發輸入場景,多個並發請求同時輸入,可並行同時處理,性能高度優化。

但邊緣端單一請求場景下,並不具備這一條件,GPU無法充分發揮其性能,大量面積與功耗浪費,性價比和能效比較低。

而隨著大模型開源力量快速崛起,出現了一系列尺寸相對壓縮但效果優秀的大模型,這意味著在邊緣端,高性價比部署多模態大模型成為可能。

通過將大模型計算任務部署於接近數據產生源的網路邊緣,利用邊緣資源為用戶提供大量服務或功能介面,既可以減少上傳至雲數據中心的數據量,緩解數據中心帶寬與計算壓力,也可以以更低延遲、更低成本、更高能效滿足客戶需求。

此外, 在市場側,原鋼表示,面對垂直行業對高性能、低成本、規格靈活的算力支撐的切實需求,在邊緣端以SoC +AI Chiplet組合的方式,既能節約成本、縮短響應時間,也可以給邊緣端大模型應用提供高性價比的算力基礎,本質上是在與行業巨頭進行差異化競爭。

相比傳統方式,AI Chiplet對客戶需求的滿足更加靈活。

比如在自動駕駛領域,原粒半導體的芯粒可以支持車端多模態大模型推理部署,給客戶帶來全新可能。同時,晶元算力規格定義更加靈活,可根據用戶實際需要縮放,切換成本更低,產品到市場周期也被縮短。

「AI 2.0晶元設計範式正在迎來巨大改變,算力需求也遠未得到滿足。因此儘管當前市場被巨頭高度壟斷,AI晶元市場仍有初創公司的位置。關鍵是要給客戶提供足夠的差異化價值。」方紹峽告訴小飯桌。

熱門分類資訊推薦

曾小賢的上司Lisa榕,現實中不僅才貌雙全,還嫁給了CEO - 天天要聞

曾小賢的上司Lisa榕,現實中不僅才貌雙全,還嫁給了CEO

曾小賢的上司Lisa榕,現實中不僅才貌雙全,還嫁給了CEO雖然說《愛情公寓》這部劇在劇情上充滿了爭議,但是一定程度上,這部劇也是很多人的回憶,是伴隨了一代人的青春回憶,而且劇中的很多角色都成為了經典,他們的口頭禪也一直被拿來玩兒梗。
Lisa榕做主持多年沒紅,被陳赫拉進愛情公寓爆紅,如今怎樣了 - 天天要聞

Lisa榕做主持多年沒紅,被陳赫拉進愛情公寓爆紅,如今怎樣了

談到《愛情公寓》這部火爆一時的歡樂喜劇,大家肯定都不陌生。不知道大家是否還記得《愛情公寓》中那個把曾小賢治得服服帖帖的女上司Lisa榕,現實中的她名叫榕榕,和劇中的形象也判若兩人。1981年出生在遼寧瀋陽的榕榕,畢業於上海戲劇學院,後來成為了上海東方傳媒集團有限公司的一名主持人。