“烧光”7万亿美元,与英伟达、台积电为敌,奥特曼需要8年半

2024年05月17日07:30:43 动漫 3007

“烧光”7万亿美元,与英伟达、台积电为敌,奥特曼需要8年半 - 天天要闻

“烧光”7万亿美元,与英伟达、台积电为敌,奥特曼需要8年半 - 天天要闻

文/ 前台积电建厂专家 leslie wu(公众号:gh_df9a5da4dcbd)

有朋友问:leslie,你是专业建厂出身,之前传出山姆奥特曼要投资7万亿造芯,虽然本人不明确回应,但大媒体传出来,一定不是空穴来风。如果有7万亿,造划算,还是买划算,如果造,可能要考虑哪些方面的投入及因素?

奥特曼的“7万亿”传闻的确是石破天惊,构想很有意思,回答这个问题得具备丰富的半导体建厂,工艺,运营等一系列知识,我们可以尝试推算一下,如果手握7万亿美元,如何将这笔钱“合理地”花出去?

“烧光”7万亿美元,与英伟达、台积电为敌,奥特曼需要8年半 - 天天要闻

每万片晶圆,建厂投资150亿美元

首先,第一步必然是生产gpu逻辑芯片,这样一来需要先盖一座逻辑晶圆厂。我们以台积电最先进的2nm工厂为例,看看每万片晶圆的资本投入情况。

按投资额划分,晶圆厂各项投入比例大致为:制程设备:77%,土地与建筑物:4%,洁净室:5%,水电气化学品等供应系统设施:14%。

光刻机是晶圆厂最大的制程设备投资项之一,占比在20%左右,而且2nm需要用到euv光刻机(负责其中25层的光刻),成本相对更高,占比预计会提升至24%左右。

目前台积电的2nm还是采用低数值孔径的euv,对应asml最新款的nxe:3800e,其每小时产出晶圆(wph,wafer per hour)大致在190-200片的区间,单台设备每月产能预计2400片左右(具体计算见下表注释),这意味着每万片晶圆的产能,需要4台asml的nxe:3800 euv光刻机,而除了euv负责的25层外,其余层还需要3台每小时产出晶圆295片的nxt:2100,以及一台krf duv光刻机。

“烧光”7万亿美元,与英伟达、台积电为敌,奥特曼需要8年半 - 天天要闻

按照asml提供的数据,nxe:3800e售价2亿美元左右,nxt:2100i约7500万美元,krf duv约1500万美元,这意味着2nm工艺的晶圆厂,每万片晶圆产能,光刻机(含维修以及备件)的投入预计在13亿美元左右。

按照光刻机的投入占全部制程设备24%的比例倒推,制程设备的总投入为54亿美元,而制程设备占晶圆厂全部投资额的77%,以此倒推,2nm节点,每万片晶圆产能,晶圆厂总投资额大致为71亿美元。

“烧光”7万亿美元,与英伟达、台积电为敌,奥特曼需要8年半 - 天天要闻

建完gpu逻辑芯片厂之后,还要考虑生产hbm的dram厂的建设。

我们以最先进的1gamma制程为例,尽管dram的euv光刻层有所减少,但每万片晶圆需要的设备数量却不降反增,尤其是刻蚀设备,整体估算下来,1gamma制程的dram厂投资额大概在逻辑芯片晶圆厂的总投资额的85%,即60亿美元左右。

补充说一下,duv时代,dram厂的投资额大概为同级别的逻辑晶圆厂110%-120%,直到7nm节点,逻辑厂开始大量使用euv光刻机,每万片晶圆产能的投资额开始反超dram厂。

解决前段的gpu逻辑芯片和dram存储芯片之后,还要解决后段的封装问题,包括cowos先进封装、hbm封装两部分。

目前,最先进的ai芯片采用的事soic+cowos封装技术,hbm4将会采用混合键合(hybrid bonding),每万片晶圆的投资额将大幅提高至10亿美元(含设备厂房)。另外,先进封装涉及到的中介层,也还需利用duv构建配套的65/45nm的前段晶圆厂,投资额为每万片晶圆8亿美元。也就是说,封装部分,每万片晶圆的整体投资额预计在18亿美元左右。

“烧光”7万亿美元,与英伟达、台积电为敌,奥特曼需要8年半 - 天天要闻

这个花钱的活涉及到的数据比较多,帮大家做一个小总结,每万片晶圆产能,或者说单位投资额,对应2nm制程的逻辑晶圆厂、1gamma制程的dram厂、封装厂(先进封装+中介层,10亿美元+8亿美元)方面的投资合计在150亿美元左右。

“烧光”7万亿美元,与英伟达、台积电为敌,奥特曼需要8年半 - 天天要闻

年产600万颗gpu,硬件成本500亿美元

但是,gpu逻辑芯片、hbm内存以及中介层,对应的比例不是1:1:1的关系,所有总投资额还要在单位投资额的基础上,按照系数增加,这个系数大致可以从一颗gpu,所需要的cpu、hbm内存、中介层的数量来推算。

以英伟达最新的blackwell架构gpu b200的die size(814mm²)为例,每片晶圆可以切80颗芯片,按照台积电最好的工艺,良率大致在65%左右,即每片晶圆可以切50颗good die。

附带说一下,由于gpu逻辑芯片是大芯片,为了提高光刻的曝光清晰面积,物镜成像的景深就需要控制在相对较大水平,这会导致分辨率降低,是缺陷变多,良率下降的重要原因。

英伟达的b200搭配了grace cpu,2颗gpu搭配1颗grace cpu,那么50颗gpu,需要搭配25颗cpu。按照3nm制程计算,以cpu的die size和良率预估,一片晶圆可以切300颗左右的cpu芯片,这意味着一片gpu晶圆,需要搭配0.08片cpu晶圆。

目前3nm节点,每万片晶圆的投资是2nm节点的70%,大致50亿美元,也就是说投入71亿美元生产10000片gpu晶圆的同时,还要对应投资71亿美元×70%×0.08,即4亿美元,用于cpu晶圆的生产。

ai芯片的另一个重头戏即hbm,英伟达的h100、h200标配6颗,到blackwell架构的b200,则采用了8颗hbm3e内存。按照台积电最新的路线图,2026年,一颗gpu可以搭配12颗hbm内存,届时hbm的规格还将从12层堆叠的hbm3e,升级至16层堆叠的hbm4/4e。

如前文所述,2nm晶圆可以切出50颗gpu逻辑芯片,按照b200的标准,每片晶圆需要搭配400颗hbm3e内存。目前,1gamma制程的dram芯片,每片晶圆大概可以出1200颗dram颗粒,而按照85%的良率计算,最终可以得到1000颗dram颗粒,之后要将这些dram颗粒封装成12层堆叠的hbm3e内存。目前,封装的良率大概在80%左右,即一片dram晶圆可以出1000÷12*80%,约等于70颗左右12层堆叠的hbm3e内存。

也就是说,一片gpu晶圆,除了需要0.08片cpu晶圆,还需要5.7片dram晶圆。未来随着gpu逻辑芯片搭配hbm颗粒数进一步增加,尤其是堆叠数量从12层提升到16层,gpu:dram晶圆1:5.7的比例,还会进一步扩大。

按现有先进封装的中介层尺寸,一片晶圆可以完成15颗gpu逻辑芯片的封装,对应一片gpu逻辑芯片的晶圆,需要3.3片晶圆的先进封装

“烧光”7万亿美元,与英伟达、台积电为敌,奥特曼需要8年半 - 天天要闻

一句话总结:每10000片gpu晶圆,需要800片cpu晶圆,5.7万片dram晶圆,3.3万片中介层晶圆,3.3万片soic+cowos先进封装,5.7万片hbm封装,对应的投资额,即1*71+0.08*50+5.7*60+3.3*10+3.3*8+5.7*10≈476亿美元。

每10000片gpu晶圆所有配套芯片的生产工厂需要耗费476亿美元,加上其他杂七杂八费用直接算整数为500亿美元,换算成gpu芯片数量,为每月50万颗,一年600万颗。

“烧光”7万亿美元,与英伟达、台积电为敌,奥特曼需要8年半 - 天天要闻

8年半可以烧完7万亿美元

投资500亿美元,一年生产600万颗gpu,这是个什么概念?可以根据台积电cowos产能,来推算全世界的ai gpu的量,然后再进行对比。

2024年,台积电cowos总共31万片的产能,其中95%都是给ai gpu,只有一万多片是给xilinx的fpga,剩下的近30万片被英伟达、amd以及全球互联网大厂诸如google,aws,meta,mircosoft的自研asic芯片瓜分。

也就是说,台积电cowos产能代表全世界ai芯片产能,2024年80%的gpu还是只使用2.5d cowos,英伟达的h100大约是每片29颗,其他自研asic则都高于这个标准,有的还超过40颗,目前只有amd的mi300使用soic封装,每片约为15颗。

综合下来,今年台积电30万片cowos产能,对应大约是1000万颗gpu,这也就是2024年全球ai gpu的大致总量。前面提到,投入500亿美元,每年可生产600万颗gpu,也就是说,在2024年,想要生产满足全世界需求的1000万颗ai gpu,总投入需要830亿美元。这个水平相当于台积电2-3年的资本支出,也大概是台积电fab20a,一座月产12万片的2nm芯片工厂的总投资额。

投入830亿美元,就能生产出2024年全世界所需要的ai芯片,想要把奥特曼的7万亿美元花完,还有很多工作要做,毕竟830亿美元也仅仅是建设芯片工厂的费用。

芯片厂、dram厂、封装厂都盖完之后,就要考虑生产服务器的工厂建设,还得盖许多座类似工业富联的这样的工厂,不过这类服务器组装工厂与芯片工厂相比来说,只是小巫见大巫,把ai服务器所有产业链上的工厂全部建设起来,包含服务器,光模块,液冷,铜线材,各式各样的模具厂,年产1000万颗gpu,按单个服务器8颗gpu算,即120万台服务器,所有下游工厂的总投资额大致为170亿美元。加上上游芯片工厂的830亿美元,1000亿美元则是2024年全球所有ai 芯片+服务器出货量所需的工厂建设总成本。

上下游工厂建设只是开端,工艺还需要持续的研发投入,包括设计、制造相关的研发费用,覆盖gpu、cpu、hbm、先进封装等等环节,这部分可以打包算一下英伟达、amd、台积电、sk海力士的研发总额,大致300亿美元。再加上服务器硬件研发、比如光模块、也冷等等,研发部分的费用满打满算可以达到500亿美元。

而对于openai,在推进agi的路上,也需要持续的进行模型研发投入,每年在这上面的费用至少200亿美元。

芯片部分的研发+ai部分的研发,每年的总投入至少在700亿美元,如果要更快入的推进,加大研发投入是必然,所有推进agi终极目标的研发投入,每年估算需加大投入到1000亿美元。

以上的研发费用还不包括训练费用,且训练需要大量的水电资源消耗,这部分基础设施同样需要自建。

欧美地区目前建设1kw核电机组的成本大约4000美元,每百万千瓦的核电机组一年发电量约为8.6亿度电,根据iea(国际能源协会)计算,2027年全球人工智能将耗费1340亿度电,所以要建设155组百万千瓦的核能机组,这需要6000亿美元左右。

根据加州大学河滨分校的研究,2027年人工智能将耗费66亿立方米的清洁淡水,大约是全英国一半的用水量,主要场景来自于服务器的冷却,发电以及芯片制造这三大耗水环节,建设相应的水处理厂费用大约为1000亿美元。 

相比前面的投资,制造环节的人力成本规模相对较小,重头戏主要在芯片的设计,包括模型研发部分。

前段晶圆厂把人力配置拉满 , 每万片约需要1000人,后段约1500人,2000万颗gpu年产能的所有前段工厂(含dram,中介层等)大约需要2万人,人均年芯为15万美元,后段封装需要3万人,人均年薪约为7万美元,加上5000名各类芯片制造研发人员,人均20万美元,每年芯片制造的人员薪资费用总共60亿美元。

芯片设计以及大语言模型的人力成本方面,按照英伟达+openai+微软服务器部门的1.5倍计算,约为5万人,人均年薪30万美元,共150亿美元涉及服务器所有硬件制造的工厂人数为15万人,电力以及用水保障设施人员15万人,共30万人,人均年薪8万美元,总共为240亿美元。

以上所有环节,人力薪资成本为每年60亿+150亿+240亿共450亿美元。

物料成本方面,gpu及相关芯片,再加上所有服务器硬件的成本为2000美元/颗,年2000万颗,即400亿美元。服务器的运营费用方面,人工420亿美元+物料成本400亿美元+其他杂费180亿美元,取整数1000亿美元。

“烧光”7万亿美元,与英伟达、台积电为敌,奥特曼需要8年半 - 天天要闻

以上即奥特曼亲自下场造芯涉及到的主要环节的费用的拆解,如果替奥特曼花这笔钱,理想的方案是:2000亿美元建设年产2000万颗gpu(2024年全球约1000万颗)以及涉及所有服务器硬件的制造工厂,然后为了推进agi的终极目标每年投入1000亿美元的研发投入,相关设计、研发、制造总人力成本1000亿美元,投资7000亿建设能源以及用水的基础设施,同时编列2000亿美元现金应付税费以及各种杂费或者没有计算到的费用,最后保留4000亿美元作为可能漏算的预备金,如此一来,大约需要1.7万亿美元,就可以覆盖2000万颗ai gpu所有制造工厂的启动资金。

运营资金方面,要保持每年1000亿美元的芯片以及硬件新产能投入,并持续推进摩尔定律,提升晶体管密度。每年新增2000亿美元的新电力及新用水投入,再加上人工以及物料等每年约1000亿美元,这样的话,每年的极限是新增7000亿美元的运营费用。 

如此一来,不到2万亿美元即可覆盖2024年全球ai芯片需求量两倍的所有相关制造,能源基础设施和运营费用,每年新增控制在7000亿美元的水平,这笔预算大致可以再烧7.5年。

怒砸2万亿美元,拥有全世界ai gpu两倍产能 ,奥特曼也无法垄断全球人工智能——openai的模型领先全球,建立在以台积电为代表的全球最先进的芯片制造,以及以英伟达为代表的gpu芯片设计的基础之上,如果奥特曼另起炉灶,全方位生产ai芯片,几乎是得罪了目前全球的芯片企业。

作为“旧势力”,台积电、英伟达以及众多芯片设计公司,有可能会扶持openai的所有竞争对手,包括硅谷乃至于全球的大大小小做大模型以及ai应用的企业,诸如老对手deepmind加上谷歌,aws,mircosoft等巨头,以及stability、openai前创始人成立的anthropic等创企。

即便openai的芯片设计与制造能力与台积电、英伟达相当,面对全球所有大小模型与算法的一众企业,本身就不一定有绝对优势,更何况带着7万亿下场造芯片,站在英伟达、台积电的对立面。

客观地说,如果不考虑生态,gpu设计公司倒不是那么无可替代。在gpu设计上,没有英伟达还有amd,甚至还有cerebras这类设计整片晶圆面积远远超过传统gpu的ai芯片设计公司,但在芯片制造上,目前台积电呈现一骑绝尘的态势。

以2024年为例,台积电可生产每平方毫米高达2.84亿晶体管密度的n3p工艺,排名第二的英特尔还只能生产每平方毫米1.8亿晶体管的intel 4,第一跟第二之间已经出现了代差,如果在最高性能的芯片上不使用台积电工艺,在基础上就落后竞争对手一个世代。

芯片制造无法用钱堆砌,更需要技术积累的行业,往死里砸钱砸人,最快也要三年才能建设好芯片工厂并生产出芯片,对openai来说,假设“7万亿”真实存在,面对“旧势力”的反扑,也至少要撑过这三年。

动漫分类资讯推荐

华英(高明)学校摇号结果出炉,具体名单 - 天天要闻

华英(高明)学校摇号结果出炉,具体名单

5月20日下午,高明区2024年义务教育公办学校提前批次第一阶段电脑随机摇号工作顺利结束,摇号过程全程录像。佛山市华英(高明)学校完成招生录取,学生随机编号和摇号录取结果已于佛山市高明区教育信息网上公布。网址:https://www.fsgmjy.cn/a/20240517/5230.html佛山市华英(高明)学校小学部第一类招生计划佛山市华英(...
莱希之死 | 人物 - 天天要闻

莱希之死 | 人物

莱希死得蹊跷 当地时间19日,伊朗总统莱希遭遇空难离世。与他同乘一架直升机的还有其他8名人员,包括伊朗外长阿卜杜拉希扬、东阿塞拜疆省省长等。 左起:东阿塞拜疆省长马利克·拉赫马蒂....
Verdy 联名最新消息!登场日期确定了 - 天天要闻

Verdy 联名最新消息!登场日期确定了

今年的 SB Dunk 依旧值得期待,因为会有众多联名合作陆续登场。经过数次曝光的 Verdy x Nike SB Dunk Low “Visty” 终于快要来了,确定今年夏季与大家见面。消息称将以全家族尺码登场,目前 GS 版本官图率先释出。灵感来自于 Verdy 创作的一位名叫 Visty 的卡通角色,让这双 SB Dunk 看上去与众不同。鞋面配色、材
火炎焱燚!超燃训练组图来袭! - 天天要闻

火炎焱燚!超燃训练组图来袭!

来源:人民陆军初夏时节岭南大地练兵潮涌第74集团军某旅多型火器齐上阵展开实弹射击现场画面超燃“1号射手,目标2号暗堡,喷火!”随着现场指挥员一声令下喷火兵迅速抢占有利位置,快速卧倒据枪、瞄准、击发动作一气呵成奔涌的烈焰如火龙翻腾从枪口喷薄而出直扑目标精彩组图火热奉上官兵们迅速出动除了要快速通过近200米的障...
用“粘土风”的方式打开濉溪~~ - 天天要闻

用“粘土风”的方式打开濉溪~~

一键开启· 粘土濉溪这几天一波黏土风席卷全网真是非常“上头”小编也跟风一把带大家看看当独特的黏土特效遇上美丽濉溪将会碰撞出什么样的创意火花01美好夏日黏土滤镜的加入让濉溪显得更多彩可爱起来华灯初上的濉溪古城流光溢彩,灯火璀璨沿着石板街散步如梦似幻的场景就在眼前......02黏土滤镜下的濉溪俏皮又可爱浪漫又迷...
日媒:两名警察被熊重伤,日本鹿角市紧急扩大山林禁入区 - 天天要闻

日媒:两名警察被熊重伤,日本鹿角市紧急扩大山林禁入区

【环球时报综合报道】据日本广播协会(NHK)网站20日报道,当地时间5月18日,一名男子被发现倒毙在秋田县鹿角市的山林中,两名当地警察在山上搬运他的遗体时突然遭遇熊的攻击,导致头部和手臂严重受伤。当时汽车无法开上山且山林中又存在危险,针对这一情况,秋田县政府和警方当晚召开了紧急会议,扩大了鹿角市山林禁入的范...
OPPO 618年中大促启动,最高立省800元 - 天天要闻

OPPO 618年中大促启动,最高立省800元

5月20日,OPPO 618年中大促多平台开启,OPPO及一加多款产品将钜惠上线,燃价到底,全程保价。618大促期间,热卖爆品官方最高立省800元。大促期间,购买旗舰影像产品Find X7 Ultra,官方最高可享700元优惠,至高分期24期。OPPO Find X7 Ultra搭载1英寸双潜望四主摄及哈苏全焦段大师影像,新一代超光影系统由OPPO与哈苏联合
AG输的不亏,BP被拿捏,马超克制亚连是常识 - 天天要闻

AG输的不亏,BP被拿捏,马超克制亚连是常识

红狼大战,对狼队来说是复仇爽剧,对AG而言则是奇耻大辱。AG之前放话有多嚣张,结局就有多狼狈,原本属于一诺的第二个FMVP从眼前溜走。回想起长生小心翼翼问一诺,游戏输了怎么办?一诺说我会杀了你,虽然是开玩笑,但足以看出一诺对FMVP的渴望。比赛过去了两天时间,不知道长生的处境如何,恰逢转会期,他心里会不会有一丝...