亞馬遜定製3nm AI芯片,2025年底問世

2024年12月04日18:22:04 科技 1487

亞馬遜定製3nm AI芯片,2025年底問世 - 天天要聞

本文由半導體產業縱橫(ID:ICVIEWS)綜合

Trainium3 專為滿足下一代生成式 AI 工作負載的高性能需求而設計。

亞馬遜定製3nm AI芯片,2025年底問世 - 天天要聞

12月3日,亞馬遜旗下AWS CEO Matt Garman宣布,將推出全新 Trainium3,這是自家首款採用3nm製程的芯片,與上代 TrAInium2 相比,計算能力增加2倍,能源效率提升40%,預計2025年底問世。

Matt Garman 指出,Trainium3 專為滿足下一代生成式 AI 工作負載的高性能需求而設計,有助客戶更快地建立更大的模型,並在部署模型時提供卓越的效能,且由 Trainium3 驅動的 UltraServers 預計將比 Trn2 UltraServers 的效能高出四倍。

據Garman透露,目前包括Adobe、AI新創公司Poolside、數據平台服務Databricks以及芯片大廠高通都通過Trainium2處理器訓練其AI模型,其中,高通在雲端計算AI模型後再將其傳送至邊緣端。

此前有報道稱,亞馬遜雲計算部門的高管正在大舉投資定製芯片,希望提高其數十個數據中心的效率,最終降低其自身以及亞馬遜AWS客戶的成本。亞馬遜AWS目標是與英偉達競爭,後者憑藉在AI芯片市場的主導地位,成為全球最有價值的公司之一。

TechInsights分析師G Dan Hutcheson曾表示:“AWS的一大優勢是他們的芯片可以使用更少的電量,他們的數據中心可能可以更高效”,從而降低成本。他說,如果英偉達的圖形處理單元(GPU)是強大的通用工具,那麼亞馬遜可以針對特定任務和服務優化其芯片。

蘋果開始使用亞馬遜的定製人工智能芯片

蘋果目前使用亞馬遜網絡服務的定製人工智能芯片進行搜索等服務,並將評估該公司的最新人工智能芯片是否可以用於預訓練其模型,如蘋果智能。

近日,蘋果在一年一度的AWS Reinvent大會上披露了其對亞馬遜專有芯片的使用。蘋果機器學習與人工智能高級總監Benoit Dupin上台介紹了蘋果是如何使用雲服務的。這是公司正式允許供應商將他們標榜為客戶的罕見例子。

蘋果的Dupin說:“我們有很強的關係,基礎設施既可靠,又能為全球客戶服務。”

蘋果在亞馬遜的會議上亮相,並擁抱該公司的芯片,是在與微軟Azure和谷歌雲爭奪人工智能支出之際,對雲服務的大力支持。蘋果也使用這些雲服務。

Dupin說,蘋果已經使用AWS服務超過十年了,包括Siri,Apple MapsApple Music。例如,蘋果使用亞馬遜的Inferentia和Graviton芯片來服務搜索服務,Dupin表示亞馬遜芯片提高了40%的效率。

但Dupin也暗示,蘋果將使用亞馬遜的Trainium2芯片對其專有車型進行預訓練。這表明,與英特爾和AMD的x86中央處理器相比,亞馬遜的處理器不僅是一種成本效益高的推理AI模型的方式,而且還可以用於開發新的AI。亞馬遜宣布,其Trainium2芯片一般可供租賃。

Dupin說:“在評估Trainium2的早期階段,我們預計早期人數在預訓練時效率會提高多達50%。”

AWS首席執行官Matt Garman在周二接受CNBC採訪時表示,蘋果一直是該公司Trainium芯片的早期採用者和測試者。

AWS首席執行官馬特·加曼告訴CNBC的凱特·魯尼說:“蘋果來找我們,對我們說,‘你們能幫助我們實現生成式人工智能的能力嗎?我們需要基礎設施來構建’,他們對構建蘋果智能有着這樣的願景。”

今年早些時候,蘋果在一份研究論文中表示,它已經使用谷歌雲TPU芯片來訓練其iPhone人工智能服務,它稱之為蘋果智能。

大多數人工智能訓練都是在昂貴的英偉達圖形處理器上完成的。雲提供商和初創公司正在競相開發降低成本的替代方案,並探索可能帶來更高處理效率的不同方法。蘋果使用定製芯片可能向其他公司發出信號,表明非英偉達的培訓方法可以奏效。

預計 AWS 將在周二宣布有關提供基於 Nvidia Blackwell 的 AI 服務器以供出租的新細節。

今年秋天,蘋果發布了其首個主要生成式人工智能產品。Apple Intelligence是一系列服務,可以匯總通知、重寫電子郵件和生成新的表情符號。該公司表示,本月晚些時候,它將與OpenAIChatGPT集成,明年,Siri將獲得控制應用程序和自然說話的新能力。

與領先的聊天機器人,如OpenAI的ChatGPT不同,蘋果的人工智能方法不是基於雲中的大量基於Nvidia的服務器。相反,蘋果使用iPhone、iPad或Mac芯片來儘可能多地完成處理,然後將複雜的查詢發送給使用其M系列芯片的蘋果操作服務器。

*聲明:本文系原作者創作。文章內容系其個人觀點,我方轉載僅為分享與討論,不代表我方贊成或認同,如有異議,請聯繫後台。

科技分類資訊推薦

長安與東風重組新進展:朱華榮稱不會改變長安既定戰略 - 天天要聞

長安與東風重組新進展:朱華榮稱不會改變長安既定戰略

2月9日,長安汽車和東風集團股份(00489.HK)同步發布了控股股東“正在與其他國資央企集團籌劃重組事項”的信息。長安汽車的控股股東是兵裝集團,而東風集團股份的控股股東是東風公司。隨即,長安汽車和東風集團這兩家汽車央企將合併重組,成為業內關注的焦點。
公安部出手了!年齡限制放寬10年、送考下鄉,2025年考駕照不難了 - 天天要聞

公安部出手了!年齡限制放寬10年、送考下鄉,2025年考駕照不難了

電動車加強管理以後,要求機動車類型的車輛需要持證上路,但是老年人考駕照卻受阻,一方面有年齡的限制,另一方面偏遠山區考駕照不方便,所以在2025年公安部出手了,年齡限制放寬10年,同時推出送考下鄉服務,還進一步的降低考駕照的費用,2025年起考摩托車駕照不難了。
從“星靈安全守護體系”到昊鉑HL,看懂廣汽科技日 - 天天要聞

從“星靈安全守護體系”到昊鉑HL,看懂廣汽科技日

發布會以技術切入,並全程圍繞安全展開。廣汽集團董事長、總經理馮興亞率先登場,宣布2025年四季度將正式上市支持L3級智能駕駛的車型,他同時強調面向自動駕駛時代對智能駕駛技術、整車安全架構以及突發風險處理能力的要求更高。如何才能滿足更高的要求?馮興亞提到了“廣汽
關稅大棒下,最受傷的車企出現了 - 天天要聞

關稅大棒下,最受傷的車企出現了

特朗普的關稅大棒剛揮出,尚未嚇退“外敵”,卻先刺痛了自己。近日,擁有瑪莎拉蒂、Jeep等14個品牌的全球第四大車企斯泰蘭蒂斯突然宣布裁撤900名美國工人,關閉加拿大和墨西哥兩家工廠,北美生產線陷入癱瘓。幾乎同一時間,捷豹路虎宣布暫停對美出口一個月,奧迪更是直接