曦智科技沈亦晨:光子晶元加速智能演算法和智能計算

2020年11月23日20:24:04 科技 1700

11 月 20 日,由蘇州市相城區人民政府與《麻省理工科技評論》聯合主辦的 EmTech China 2020 全球新興科技峰進入第二天議程。今年,EmTech China 邀請到了數十位頂級科學家、海內外院士、商業領袖、科創精英蒞臨現場,探討新興科技發展現狀及其為人類社會帶來的巨大影響。會上,曦智科技聯合創始人兼 CEO 沈亦晨分享了光子晶元加速智能演算法和智能計算的主題演講。

曦智科技沈亦晨:光子晶元加速智能演算法和智能計算 - 天天要聞

圖|麻省理工科技評論

以下為經過整理後的演講實錄:

大家好,我叫沈亦晨。今天聽了那麼多演講,我覺得基本上可以確定大數據時代已經來了,大數據時代和智能時代最關鍵的兩要素之一是數據。我們肯定需要越來越多的海量數據來幫助我們訓練更智慧的模型。

第二個同樣重要的元素,就是處理數據硬體、也就是晶元。未來的應用數據和採集數據的終端一定會越來越多。在未來十年里,數據量一定會繼續呈指數級增長。

另一方面,處理數據的硬體在過去十年里發生了很多事情。如果大家把 2020 年的電腦和 2010 年的電腦相比,可能你會發現 2010 年的電腦還可以繼續跑現在的軟體。但如果用 2000 年的電腦去跑 2010 年的軟體,我敢保證 99% 的軟體都跑不起來。

這說明電腦里電子晶元的發展和算力已經慢慢變得越來越慢,原因是受制於物理極限。隨著一步步的迭代,每一次迭代帶來的算力紅利已經逐步減少,從 16 納米到 7 納米、再從 7 納米到 5 納米,可能很多人只看到 10% 到 20% 的增長。但是再往下一步,增長只會越來越小。

在未來 10 年裡,用增長越來越緩慢的電子晶元去匹配一個增長越來越快的數據需求,這可能是目前該領域的最大挑戰。整個電子晶元行業很早就意識到這一問題,所以也在不斷嘗試做出更高性能的電子晶元來滿足數據需求。

以市場上用得最多的旗艦產品為例,其中之一是 2015 年的英偉達 GPU 晶元,整個晶元從面積上來看大概有 600 平方毫米,能耗大概是 100W 左右。此外,2020 年剛推出的英偉達深度神經網路訓練和推理晶元 A100,它的面積大約是 800 多平方毫米,這並不是說他只想做這麼大,他其實可以做更大。

但是 826 平方毫米是現在光刻機能夠光刻出來晶元最大極限,也就是到了單個晶元大小的極限。同時,他為了把更多存儲和計算放在一個板卡上,現有產品是把 7 塊電子晶元同時放在一個很大的封裝裡面做聯合計算,這樣的話它的能耗可達到 450W。

另一個案例,2019 年,美國初創公司推出一款計算晶元,其面積大約是 46225 平方毫米,晶元就像你的筆記本電腦那麼大,它的能耗是 20000W,和 5 個電磁爐的能耗或者產生的熱量差不多大。當然這並不是說明未來晶元就會長這樣,但至少從某種程度上,能代表整個電子行業對於高性能算力的需求、以及它大的發展方向,概括來說就是已經慢慢接近物理極限。

我經常把晶元設計比喻成城市發展或城市規劃,現在的晶元越做越大。大家去想 500 年前的城市,想把 500 年前 100 萬的城市變成 1000 萬人口的城市是非常困難的,因為會受限於幾個基礎建設方面的問題,一個是城市之間的交通,如果你用傳統馬車、步行甚至汽車,如果全都是平面道路,就沒有辦法滿足交通和供應需求。

另外,每個樓房如果還是 500 年前的一層樓兩層樓,要想支撐起更大的城市體系也非常困難。

什麼是最需要的?最需要的是從基礎上能幫助傳統電子晶元進行下一代升級的技術,而光計算和光子晶元是最適合下一代計算晶元基建技術的選擇。

首先,光可以有效代替電來解決高通量和交通問題。光纖通信已經用了幾十年,光在傳輸信號上的能耗、延時和通量都遠遠好於電子。另外在單個計算上,用光來做計算不需要很多邏輯門的推理,它本身是一個完全被動的過程,所以能大大節約計算層面的能耗。

光晶元對普遍人來說是一個比較陌生的概念,提到光可能大家想到的是照相機和透鏡這些非常大的系統。集成光子技術是最近 10 年以來蓬勃發展的技術,主要概念是在生產電子晶元的硅機上製造非常微小的微米級別光學器件,這樣就可在一個晶元上集成成千上萬的光子元器件,並讓電子元器件非常好地結合在一起使用。

相關技術已經慢慢接近成熟,曦智科技已經在 2019 年成功推出了全球首款光子計算晶元原型板卡。公司目前計劃流片的產品級光子計算晶元,單個晶元集成 3000 個光子元器件,比之前光通信光子晶元多出 100 倍,並且這已經是被現有製程和產業鏈所接受的技術。

曦智科技的技術創新點主要是用光晶元來加速 2/3 的計算要素。任何一個計算系統主要有三塊計算要素:第一部分是數據處理,我們用光代替電晶元來做大部分數據處理,即大數據線性計算;第二部分是數據傳輸,傳輸包括一塊晶元上的數據傳輸、晶元之間的數據傳輸。想像一下城市裡常見的城際高鐵系統、高速路系統和高架系統,只有具備城際和城際之間的高速系統,城市才能做到更大,才能有周邊的衛星城。

曦智科技現在暫時不做的是第三個要素即存儲系統,我們覺得整個計算體系里,存儲系統仍舊是最核心的部分,所以我們的產品是光和電的結合解決方案。

光的計算技術來源於我在 MIT 學習期間從 2013 年到 2017 年四年的研究成果,當時也發過論文。

它的概念是把傳統電子信號轉成光信號,讓光信號通過光子晶元,並且控制這些光之間的干涉,當這些光相互干涉時、以及這些數字發生計算時,整個計算時間就是光線通過晶元的時間——0.1 納秒到 0.5 納秒之間。這個時間是現在電子晶元來做同樣大的矩陣乘法的 1%,在速度和延時上有非常大的提升。

此外,我們也做光子片與片之間的高速互聯,用光來做數據傳輸本身是非常合理的解決方案。而我們已經在技術上實現了做同樣距離的數據傳輸,比起電晶元可在能耗上節約 10 倍,這樣能更大地潤滑晶元計算。

曦智科技的主要技術方案,是在光的計算和光的傳輸上,把它做到非常高集成,並且讓光子晶元去輔助現有數字電子晶元,從而加速整體運算過程。

在曦智科技的晶元上,光子網路、光子網路的計算單元會以光速在整個晶元上進行傳輸和數據的交互。此外,光晶元上還會再疊加一個或幾個數字電子晶元,這樣在電子晶元上會繼續做存儲和簡單的邏輯運算以及非線性運算。當然,我們還會有幾個光晶元來給整個光子晶元提供光源。

最後封裝下來,可能跟現在板卡上的晶元差不多,但是相對其他同類數字晶元,數字運算能力可以得到 5 倍甚至 10 倍的算力提升。

有了上述願景以後,我們非常快地投入到光計算商業化,我們也是全球目前跑的最快的一家光計算公司。公司在 2017 年成立,現在已經是第四個年頭,從互聯網角度來看已經是一個比較老的公司。但是從晶元行業來看,我們還是處於比較早期階段的公司。

2019 年,曦智科技完成了第一個完整板卡系統,並驗證了神經網路演算法。現在我們完成了第二輪融資,總共超過 7000 萬美元,我們第一款產品應該會在明年推出。

同時,我們有 100 多位工程師和研究人員,主要集中在美國和中國,其中十多位員工是來自 MIT 的科學家和工程師,70% 的晶元設計師擁有十年以上業內工作經驗。做這樣一件用新技術來推動老產品的事情,需要創新的年輕團隊和有經驗的數字晶元設計團隊一起來做,我們在團隊規模上也達到了可以做第一個產品的規模。

過去幾年,我們主要做兩件事情,一是把光晶元的集成做得越來越大,曦智科技把矩陣從最早的 4×4,做到接近 100×100 的矩陣規模,並把光和電晶元做了非常緊密的結合,這樣電晶元可以疊在光晶元上來做整個系統的運算。

大家可以把曦智科技的技術想成是一家做高算力、低能耗的下一代晶元公司,這種晶元可廣泛應用於數據中心,能做人工智慧或大數據相關的機器學習運算,應用場景包括自動駕駛、互聯網、智慧城市、金融等各個方面。同時也會做比較完善的軟體棧架構來幫助客戶在使用晶元時能夠感受不到他是用在光在做。也就是光晶元和電晶元的整個接觸點和結合點都和現有數字晶元類似。

在公共服務領域,曦智科技也有非常多的切入點,目前在和幾個一線城市推出用晶元去做智慧交通、智慧港口、智慧安檢等一系列大數據的應用場景。

除 AI 以外,光子晶元的應用場景不僅在機器學習上,未來很多科研包括對大氣、地理、新材料和藥物的研發,都可以通過算力更高的光電混合晶元來提高現有研發進度,我們最近也有論文發在 Nature 上來講怎麼用光子晶元來做藥物研發。

曦智科技現在也有幸和一些全球領先的企業產生成功的商業合作,光子晶元代表了一個能夠更快產業化的技術方向,其中一個主要原因是光子晶元並不是特別依賴製程,並且技術不受限制。因此,我們可以更快地用 28 納米的電子晶元做出 7 納米電子晶元的效果,正因此曦智科技最近得到了中科院的重視,並且在落地一些非常重要的項目。

-End-

科技分類資訊推薦

京東超市聯合國寶橋米投入超兩千萬元,助京山橋米標準化產業化品牌化 - 天天要聞

京東超市聯合國寶橋米投入超兩千萬元,助京山橋米標準化產業化品牌化

極目新聞記者 柴荊4月1日上午,京山市人民政府、京東集團與湖北國寶橋米有限公司(下文簡稱「國寶橋米」)在京山市人民政府舉行戰略合作簽約儀式,三方將共同投入數千萬元推動「京山橋米」品牌升級與產業發展,幫助「京山橋米」實現標準化、產業化、品牌化發展。京東超市還包銷了京山橋米核心產區的2.5萬畝種植基地,預計產...
從最難的入手,東風汽車牽頭補齊國產車規級晶元的關鍵拼圖 - 天天要聞

從最難的入手,東風汽車牽頭補齊國產車規級晶元的關鍵拼圖

極目新聞記者 鍾洲通訊員 王怡琳汽車產業加速進入智能化的「下半場」,晶元的使用數量不斷增加,一輛整車上使用的晶元經常超過1000顆。其中,被稱為汽車「控制器大腦」的車規級晶元MCU(微控制器單元)更是發揮了舉足輕重的作用。既然叫「大腦」,自然不能受制於人。作為中國汽車工業主力軍的東風汽車,以央企使命擔當破解...
零零科技 V-Coptr Falcon Mini 迷你獵鷹雙軸無人機開啟眾籌 - 天天要聞

零零科技 V-Coptr Falcon Mini 迷你獵鷹雙軸無人機開啟眾籌

IT之家 4 月 5 日消息,零零科技宣布旗下 V-Coptr Falcon Mini 迷你獵鷹雙軸無人機現已在海外 Indiegogo 平台開啟眾籌。這款命運多舛的無人機在 2021 年 8 月的 V-Coptr Falcon 獵鷹發布會中便悄悄亮相,但直到如今才悄悄發售,官方稱將於 6 月開啟交付,IT之家整理價格信息如下:無人機本體:249 美元(IT
雷軍虧錢賣車,小米汽車卻交出最強財報 - 天天要聞

雷軍虧錢賣車,小米汽車卻交出最強財報

從小米汽車發布會以來,好像所有人都相信雷軍在虧錢賣車,21.59萬元的起售價,讓所有人都相信小米汽車的定價是交個朋友,包括2月底上市的小米SU7 Ultra,52.99萬元的售價,相比預售價降低了30萬元,更加坐實小米在虧錢賣車。
綁定華為、阿里,200億醫療龍頭,撞開AI的大門! - 天天要聞

綁定華為、阿里,200億醫療龍頭,撞開AI的大門!

有機構預測,未來醫療行業將是人工智慧應用最大的領域。 2030年,全球AI+醫療市場規模有望迎來爆髮式增長,預計將達到驚人的1553億美元。 從2022年至2030年,這一市場的年複合增速將高達35.5%,展現出強勁的發展勢頭。
小米高速事故冷思考:相比於情緒宣洩,我們更需要「智駕共識」 - 天天要聞

小米高速事故冷思考:相比於情緒宣洩,我們更需要「智駕共識」

技術總要向前,重要的是研發者和使用者要先有基本認知和共識。作者|周永亮編輯|靖宇2025 年 3 月 29 日,一輛小米 SU7 標準版在德上高速公路池祁段行駛過程中,遭遇嚴重交通事故。即便小米創始人雷軍第一時間在社交平台宣布,小米將「負責到底」,但一時之間,小米公司和創始人雷軍成為眾矢之的,甚至連小米公司股價,也...
麒麟操作系統兼容適配性工具:輕鬆破解應用兼容性問題! - 天天要聞

麒麟操作系統兼容適配性工具:輕鬆破解應用兼容性問題!

兼容適配工具。麒麟兼容性適配工具(KAT)可用於測試開發者的自研應用,通過一件事的上傳測試,多維度的兼容評估,生成可視化的測試報告,可識別常見兼容性適配問題,如應用圖標顯示異常、應用無法升級、運行庫缺失、啟動時間過長等,幫助開發者提升應用質
微軟首席技術官:2030年AI將生成95%代碼,工程師成為指令引導者 - 天天要聞

微軟首席技術官:2030年AI將生成95%代碼,工程師成為指令引導者

IT之家 4 月 5 日消息,據外媒 TechSpot 當地時間周四報道,微軟首席技術官 Kevin Scott 預測,到 2030 年,95% 的編程代碼將由 AI 生成。不過,他迅速澄清,這並不意味著軟體工程的工作將完全由 AI 接管。他同時澄清說,這並不意味著 AI 將取代軟體工程師 —— 人類依然會寫代碼,但這一變化會讓我們從編程語言的輸入大師...