亚马逊定制3nm AI芯片,2025年底问世

2024年12月04日18:22:04 科技 1487

亚马逊定制3nm AI芯片,2025年底问世 - 天天要闻

本文由半导体产业纵横(ID:ICVIEWS)综合

Trainium3 专为满足下一代生成式 AI 工作负载的高性能需求而设计。

亚马逊定制3nm AI芯片,2025年底问世 - 天天要闻

12月3日,亚马逊旗下AWS CEO Matt Garman宣布,将推出全新 Trainium3,这是自家首款采用3nm制程的芯片,与上代 TrAInium2 相比,计算能力增加2倍,能源效率提升40%,预计2025年底问世。

Matt Garman 指出,Trainium3 专为满足下一代生成式 AI 工作负载的高性能需求而设计,有助客户更快地建立更大的模型,并在部署模型时提供卓越的效能,且由 Trainium3 驱动的 UltraServers 预计将比 Trn2 UltraServers 的效能高出四倍。

据Garman透露,目前包括Adobe、AI新创公司Poolside、数据平台服务Databricks以及芯片大厂高通都通过Trainium2处理器训练其AI模型,其中,高通在云端计算AI模型后再将其传送至边缘端。

此前有报道称,亚马逊云计算部门的高管正在大举投资定制芯片,希望提高其数十个数据中心的效率,最终降低其自身以及亚马逊AWS客户的成本。亚马逊AWS目标是与英伟达竞争,后者凭借在AI芯片市场的主导地位,成为全球最有价值的公司之一。

TechInsights分析师G Dan Hutcheson曾表示:“AWS的一大优势是他们的芯片可以使用更少的电量,他们的数据中心可能可以更高效”,从而降低成本。他说,如果英伟达的图形处理单元(GPU)是强大的通用工具,那么亚马逊可以针对特定任务和服务优化其芯片。

苹果开始使用亚马逊的定制人工智能芯片

苹果目前使用亚马逊网络服务的定制人工智能芯片进行搜索等服务,并将评估该公司的最新人工智能芯片是否可以用于预训练其模型,如苹果智能。

近日,苹果在一年一度的AWS Reinvent大会上披露了其对亚马逊专有芯片的使用。苹果机器学习与人工智能高级总监Benoit Dupin上台介绍了苹果是如何使用云服务的。这是公司正式允许供应商将他们标榜为客户的罕见例子。

苹果的Dupin说:“我们有很强的关系,基础设施既可靠,又能为全球客户服务。”

苹果在亚马逊的会议上亮相,并拥抱该公司的芯片,是在与微软Azure和谷歌云争夺人工智能支出之际,对云服务的大力支持。苹果也使用这些云服务。

Dupin说,苹果已经使用AWS服务超过十年了,包括Siri,Apple MapsApple Music。例如,苹果使用亚马逊的Inferentia和Graviton芯片来服务搜索服务,Dupin表示亚马逊芯片提高了40%的效率。

但Dupin也暗示,苹果将使用亚马逊的Trainium2芯片对其专有车型进行预训练。这表明,与英特尔和AMD的x86中央处理器相比,亚马逊的处理器不仅是一种成本效益高的推理AI模型的方式,而且还可以用于开发新的AI。亚马逊宣布,其Trainium2芯片一般可供租赁。

Dupin说:“在评估Trainium2的早期阶段,我们预计早期人数在预训练时效率会提高多达50%。”

AWS首席执行官Matt Garman在周二接受CNBC采访时表示,苹果一直是该公司Trainium芯片的早期采用者和测试者。

AWS首席执行官马特·加曼告诉CNBC的凯特·鲁尼说:“苹果来找我们,对我们说,‘你们能帮助我们实现生成式人工智能的能力吗?我们需要基础设施来构建’,他们对构建苹果智能有着这样的愿景。”

今年早些时候,苹果在一份研究论文中表示,它已经使用谷歌云TPU芯片来训练其iPhone人工智能服务,它称之为苹果智能。

大多数人工智能训练都是在昂贵的英伟达图形处理器上完成的。云提供商和初创公司正在竞相开发降低成本的替代方案,并探索可能带来更高处理效率的不同方法。苹果使用定制芯片可能向其他公司发出信号,表明非英伟达的培训方法可以奏效。

预计 AWS 将在周二宣布有关提供基于 Nvidia Blackwell 的 AI 服务器以供出租的新细节。

今年秋天,苹果发布了其首个主要生成式人工智能产品。Apple Intelligence是一系列服务,可以汇总通知、重写电子邮件和生成新的表情符号。该公司表示,本月晚些时候,它将与OpenAIChatGPT集成,明年,Siri将获得控制应用程序和自然说话的新能力。

与领先的聊天机器人,如OpenAI的ChatGPT不同,苹果的人工智能方法不是基于云中的大量基于Nvidia的服务器。相反,苹果使用iPhone、iPad或Mac芯片来尽可能多地完成处理,然后将复杂的查询发送给使用其M系列芯片的苹果操作服务器。

*声明:本文系原作者创作。文章内容系其个人观点,我方转载仅为分享与讨论,不代表我方赞成或认同,如有异议,请联系后台。

科技分类资讯推荐

醒醒吧!CEO猛吹AI写95%代码,绩效考核却还在拼程序员手速? - 天天要闻

醒醒吧!CEO猛吹AI写95%代码,绩效考核却还在拼程序员手速?

编译 | Tina在 AI 工具席卷开发圈之后,一批技术老兵的工作方式悄然发生变化。Superhuman (原生 AI 邮件应用)工程负责人 Loic Houssier 正是这场转型的亲历者之一。这位出身数学背景、拥有密码学工程经验的 VP,曾带领团队经历了从大型 B2C 到核心底层架构的复杂挑战。而当 ChatGPT、Claude Code 等工具走进日常
从领先到落后:英特尔正经历“寒冬” - 天天要闻

从领先到落后:英特尔正经历“寒冬”

【环球网科技综合报道】7月11日,据外媒报道,英特尔首席执行官陈立武近日在发表内部讲话时直言英特尔已不再是领先芯片制造商,甚至不在前十。其市值如今仅约1000亿美元,与18个月前相比大幅缩水,而英伟达市值却一度突破4万亿美元,形成鲜明对比。“二三十年前,我们确实是行业领导者。可如今的世界已经变了,我们已不在全...
“中国太酷了”!硬核实力圈粉世界 - 天天要闻

“中国太酷了”!硬核实力圈粉世界

日前举行的国新办新闻发布会上,有记者提到,随着大量海外博主分享来华见闻,“中国变酷了”的印象被越来越多全球网友所认同。对此,国家发展改革委主任郑栅洁表示,这背后反映了中国的综合国力。中国变酷了!酷在哪里?
华为Pura 80 Ultra国际版亮相:系统开机是EMUI 15.0,电池容量为5170mAh - 天天要闻

华为Pura 80 Ultra国际版亮相:系统开机是EMUI 15.0,电池容量为5170mAh

当地时间7月10日,华为在迪拜推出全新的Pura 80 Ultra影像旗舰,售价是5099阿联酋迪拉姆,约合人民币9961元。对比国行版,Pura 80 Ultra国际版有两大变化,一是系统调整为EMUI 15.0,国行版系统是鸿蒙5.1,二是电池容量为5170mAh,国行版电池容量是5700mAh。来源 江南都市报、快科技编辑 贾凯 审核 蒋波 陈洁...
AMD下代桌面锐龙处理器:N2工艺、Zen6架构、更多内核、依旧AM5插槽 - 天天要闻

AMD下代桌面锐龙处理器:N2工艺、Zen6架构、更多内核、依旧AM5插槽

有关于AMD下代桌面端锐龙处理器的更多信息浮出水面。AMD下代桌面端锐龙处理器代号“Medusa Ridge”,将采用全新的Zen6架构,该架构将使用TSMC的N2(2nm)工艺节点构建CCD,相比于前代Zen5架构的台积电N4P工艺节点,N2工艺的晶体管密度将显著提升。此前单CCD的最大核心数量为8个,而在Medusa Ridge上AMD可能会将单个CCD
AI终结传统软件业,如同互联网终结传统媒体 - 天天要闻

AI终结传统软件业,如同互联网终结传统媒体

AI编程工具正推动软件行业走向“峰值时刻”。近日,芯片金融分析公司Fabricated Knowledge的创始人Doug O'Laughlin发表文章称,生成式AI正以类似互联网颠覆传统媒体的方式,重塑软件行业的格局。文章指出,AI工具,比如Cursor和Claude Code,正在让编写代码的成本和时间大幅下降,过去需要每token数千美元才能完成的开发
英特尔CEO陈立武坦言:公司已跌出半导体行业前十 - 天天要闻

英特尔CEO陈立武坦言:公司已跌出半导体行业前十

【TechWeb】7月11日消息,据外媒报道,英特尔CEO陈立武在内部讲话中坦言,公司已跌出半导体行业前十。陈立武表示,20到30年前,英特尔确实是领导者,世界已经发生了变化。我们现在已经不是排名前十的半导体公司了。有报道称,英特尔公司发言人后续解释称其所指为 "市值" 而非技术。在过去的 18 个月里,英特尔的市值从 202...