曦智科技沈亦晨:光子芯片加速智能算法和智能計算

2020年11月23日20:24:04 科技 1700

11 月 20 日,由蘇州市相城區人民政府與《麻省理工科技評論》聯合主辦的 EmTech China 2020 全球新興科技峰進入第二天議程。今年,EmTech China 邀請到了數十位頂級科學家、海內外院士、商業領袖、科創精英蒞臨現場,探討新興科技發展現狀及其為人類社會帶來的巨大影響。會上,曦智科技聯合創始人兼 CEO 沈亦晨分享了光子芯片加速智能算法和智能計算的主題演講。

曦智科技沈亦晨:光子芯片加速智能算法和智能計算 - 天天要聞

圖|麻省理工科技評論

以下為經過整理後的演講實錄:

大家好,我叫沈亦晨。今天聽了那麼多演講,我覺得基本上可以確定大數據時代已經來了,大數據時代和智能時代最關鍵的兩要素之一是數據。我們肯定需要越來越多的海量數據來幫助我們訓練更智慧的模型。

第二個同樣重要的元素,就是處理數據硬件、也就是芯片。未來的應用數據和採集數據的終端一定會越來越多。在未來十年里,數據量一定會繼續呈指數級增長。

另一方面,處理數據的硬件在過去十年里發生了很多事情。如果大家把 2020 年的電腦和 2010 年的電腦相比,可能你會發現 2010 年的電腦還可以繼續跑現在的軟件。但如果用 2000 年的電腦去跑 2010 年的軟件,我敢保證 99% 的軟件都跑不起來。

這說明電腦里電子芯片的發展和算力已經慢慢變得越來越慢,原因是受制於物理極限。隨着一步步的迭代,每一次迭代帶來的算力紅利已經逐步減少,從 16 納米到 7 納米、再從 7 納米到 5 納米,可能很多人只看到 10% 到 20% 的增長。但是再往下一步,增長只會越來越小。

在未來 10 年裡,用增長越來越緩慢的電子芯片去匹配一個增長越來越快的數據需求,這可能是目前該領域的最大挑戰。整個電子芯片行業很早就意識到這一問題,所以也在不斷嘗試做出更高性能的電子芯片來滿足數據需求。

以市場上用得最多的旗艦產品為例,其中之一是 2015 年的英偉達 GPU 芯片,整個芯片從面積上來看大概有 600 平方毫米,能耗大概是 100W 左右。此外,2020 年剛推出的英偉達深度神經網絡訓練和推理芯片 A100,它的面積大約是 800 多平方毫米,這並不是說他只想做這麼大,他其實可以做更大。

但是 826 平方毫米是現在光刻機能夠光刻出來芯片最大極限,也就是到了單個芯片大小的極限。同時,他為了把更多存儲和計算放在一個板卡上,現有產品是把 7 塊電子芯片同時放在一個很大的封裝裡面做聯合計算,這樣的話它的能耗可達到 450W。

另一個案例,2019 年,美國初創公司推出一款計算芯片,其面積大約是 46225 平方毫米,芯片就像你的筆記本電腦那麼大,它的能耗是 20000W,和 5 個電磁爐的能耗或者產生的熱量差不多大。當然這並不是說明未來芯片就會長這樣,但至少從某種程度上,能代表整個電子行業對於高性能算力的需求、以及它大的發展方向,概括來說就是已經慢慢接近物理極限。

我經常把芯片設計比喻成城市發展或城市規劃,現在的芯片越做越大。大家去想 500 年前的城市,想把 500 年前 100 萬的城市變成 1000 萬人口的城市是非常困難的,因為會受限於幾個基礎建設方面的問題,一個是城市之間的交通,如果你用傳統馬車、步行甚至汽車,如果全都是平面道路,就沒有辦法滿足交通和供應需求。

另外,每個樓房如果還是 500 年前的一層樓兩層樓,要想支撐起更大的城市體系也非常困難。

什麼是最需要的?最需要的是從基礎上能幫助傳統電子芯片進行下一代升級的技術,而光計算和光子芯片是最適合下一代計算芯片基建技術的選擇。

首先,光可以有效代替電來解決高通量和交通問題。光纖通信已經用了幾十年,光在傳輸信號上的能耗、延時和通量都遠遠好於電子。另外在單個計算上,用光來做計算不需要很多邏輯門的推理,它本身是一個完全被動的過程,所以能大大節約計算層面的能耗。

光芯片對普遍人來說是一個比較陌生的概念,提到光可能大家想到的是照相機和透鏡這些非常大的系統。集成光子技術是最近 10 年以來蓬勃發展的技術,主要概念是在生產電子芯片的硅機上製造非常微小的微米級別光學器件,這樣就可在一個芯片上集成成千上萬的光子元器件,並讓電子元器件非常好地結合在一起使用。

相關技術已經慢慢接近成熟,曦智科技已經在 2019 年成功推出了全球首款光子計算芯片原型板卡。公司目前計劃流片的產品級光子計算芯片,單個芯片集成 3000 個光子元器件,比之前光通信光子芯片多出 100 倍,並且這已經是被現有製程和產業鏈所接受的技術。

曦智科技的技術創新點主要是用光芯片來加速 2/3 的計算要素。任何一個計算系統主要有三塊計算要素:第一部分是數據處理,我們用光代替電芯片來做大部分數據處理,即大數據線性計算;第二部分是數據傳輸,傳輸包括一塊芯片上的數據傳輸、芯片之間的數據傳輸。想象一下城市裡常見的城際高鐵系統、高速路系統和高架系統,只有具備城際和城際之間的高速系統,城市才能做到更大,才能有周邊的衛星城。

曦智科技現在暫時不做的是第三個要素即存儲系統,我們覺得整個計算體系里,存儲系統仍舊是最核心的部分,所以我們的產品是光和電的結合解決方案。

光的計算技術來源於我在 MIT 學習期間從 2013 年到 2017 年四年的研究成果,當時也發過論文。

它的概念是把傳統電子信號轉成光信號,讓光信號通過光子芯片,並且控制這些光之間的干涉,當這些光相互干涉時、以及這些數字發生計算時,整個計算時間就是光線通過芯片的時間——0.1 納秒到 0.5 納秒之間。這個時間是現在電子芯片來做同樣大的矩陣乘法的 1%,在速度和延時上有非常大的提升。

此外,我們也做光子片與片之間的高速互聯,用光來做數據傳輸本身是非常合理的解決方案。而我們已經在技術上實現了做同樣距離的數據傳輸,比起電芯片可在能耗上節約 10 倍,這樣能更大地潤滑芯片計算。

曦智科技的主要技術方案,是在光的計算和光的傳輸上,把它做到非常高集成,並且讓光子芯片去輔助現有數字電子芯片,從而加速整體運算過程。

在曦智科技的芯片上,光子網絡、光子網絡的計算單元會以光速在整個芯片上進行傳輸和數據的交互。此外,光芯片上還會再疊加一個或幾個數字電子芯片,這樣在電子芯片上會繼續做存儲和簡單的邏輯運算以及非線性運算。當然,我們還會有幾個光芯片來給整個光子芯片提供光源。

最後封裝下來,可能跟現在板卡上的芯片差不多,但是相對其他同類數字芯片,數字運算能力可以得到 5 倍甚至 10 倍的算力提升。

有了上述願景以後,我們非常快地投入到光計算商業化,我們也是全球目前跑的最快的一家光計算公司。公司在 2017 年成立,現在已經是第四個年頭,從互聯網角度來看已經是一個比較老的公司。但是從芯片行業來看,我們還是處於比較早期階段的公司。

2019 年,曦智科技完成了第一個完整板卡系統,並驗證了神經網絡算法。現在我們完成了第二輪融資,總共超過 7000 萬美元,我們第一款產品應該會在明年推出。

同時,我們有 100 多位工程師和研究人員,主要集中在美國和中國,其中十多位員工是來自 MIT 的科學家和工程師,70% 的芯片設計師擁有十年以上業內工作經驗。做這樣一件用新技術來推動老產品的事情,需要創新的年輕團隊和有經驗的數字芯片設計團隊一起來做,我們在團隊規模上也達到了可以做第一個產品的規模。

過去幾年,我們主要做兩件事情,一是把光芯片的集成做得越來越大,曦智科技把矩陣從最早的 4×4,做到接近 100×100 的矩陣規模,並把光和電芯片做了非常緊密的結合,這樣電芯片可以疊在光芯片上來做整個系統的運算。

大家可以把曦智科技的技術想成是一家做高算力、低能耗的下一代芯片公司,這種芯片可廣泛應用於數據中心,能做人工智能或大數據相關的機器學習運算,應用場景包括自動駕駛、互聯網、智慧城市、金融等各個方面。同時也會做比較完善的軟件棧架構來幫助客戶在使用芯片時能夠感受不到他是用在光在做。也就是光芯片和電芯片的整個接觸點和結合點都和現有數字芯片類似。

在公共服務領域,曦智科技也有非常多的切入點,目前在和幾個一線城市推出用芯片去做智慧交通、智慧港口、智慧安檢等一系列大數據的應用場景。

除 AI 以外,光子芯片的應用場景不僅在機器學習上,未來很多科研包括對大氣、地理、新材料和藥物的研發,都可以通過算力更高的光電混合芯片來提高現有研發進度,我們最近也有論文發在 Nature 上來講怎麼用光子芯片來做藥物研發。

曦智科技現在也有幸和一些全球領先的企業產生成功的商業合作,光子芯片代表了一個能夠更快產業化的技術方向,其中一個主要原因是光子芯片並不是特別依賴製程,並且技術不受限制。因此,我們可以更快地用 28 納米的電子芯片做出 7 納米電子芯片的效果,正因此曦智科技最近得到了中科院的重視,並且在落地一些非常重要的項目。

-End-

科技分類資訊推薦

說說今日頭條的首發原創 - 天天要聞

說說今日頭條的首發原創

今日頭條發明了首發原創,一開始以為是為創作者謀福利,因為首發原創可以讓創作者獲得三倍以上的收益,這本來是天大的好事,現在看來就是一個大坑,辦了首發原創以為會得到好處,但今日頭條平台最近大量取消首發原創,讓人步步驚心,才發現獲得首發原創並不是
Python垃圾回收:循環引用檢測算法實現 - 天天要聞

Python垃圾回收:循環引用檢測算法實現

Python內存管理的核心是自動垃圾回收機制,它使開發者能夠專註於業務邏輯而無需手動管理內存。Python採用引用計數作為基礎內存管理方式,每個對象都有一個引用計數器記錄指向它的引用數量。當計數為零時,對象自動銷毀並釋放內存。
銷售網約車“搶單神器”牟利,倒賣者、開發者均獲刑 法院:未經授權調用數據接口 - 天天要聞

銷售網約車“搶單神器”牟利,倒賣者、開發者均獲刑 法院:未經授權調用數據接口

同一個時間地點,同一款打車軟件,有的網約車司機忙個不停,有的網約車司機半天卻接不到1單……近年來,隨着網約車、外賣等行業的快速發展,一些不法分子開發出“作弊神器”,“搶單外掛神器”也在騎手、網約車司機等群體中蔓延。4月5日,紅星新聞記者了解到,廣東中山、惠州兩地法院近日相繼宣判兩起涉及網約車搶單作弊軟...
夜讀 | 俞天白:數字,動態世界的鑰匙 - 天天要聞

夜讀 | 俞天白:數字,動態世界的鑰匙

人類步伐已經跨進了數字時代。將枯燥乏味的數字開掘到了極致,並因人工智能的爆發性出現,不知將人類認知和活動疆域擴展到哪兒的時刻,不由得想起,對於數字寄予厚望,以致將它視作魔咒的,在這個地球村,莫過於中國人了。我沒有考察到底始於何時,但被統治萬民的王公貴胄敬畏與供奉,則是有例可證的。比如,象徵極限和最高...
AMD 被曝將推出兩款 Z2 系列掌機處理器新品 - 天天要聞

AMD 被曝將推出兩款 Z2 系列掌機處理器新品

IT之家 4 月 5 日消息,AMD 今年 1 月在 CES 2025 上發布了三款面向掌機市場的 Z2 處理器,而 @AnhPhuH 昨日爆料稱 AMD 將再推出兩款新型號 ——Z2 A 和 AI Z2 Extreme。AMD 此前表示,銳龍 Z2 系列 APU 覆蓋從入門到高端的整個掌機市場,承諾將帶來主機級的遊戲體驗,提供數小時的滿電遊戲續航時間,並通
把所有設備都換成 Type-C,我的麻煩才剛剛開始 - 天天要聞

把所有設備都換成 Type-C,我的麻煩才剛剛開始

在 2025 年的今天,使用 USB Type-C 接口的設備隨處可見。從手機、平板、電腦,再到小風扇、剃鬚刀、電動牙刷,這個支持正反插的接口幾乎無處不在。然而,出門一根線,一個接口搞定一切的理想場景,似乎還並沒有到來。接下來,IT之家就來給大家盤一盤 USB Type-C 接口背後,影響我們日常使用體驗的那些“坑”。一、十年,終...