我特别高兴和自豪的告诉大家,华为的 gpu 能力现在已经跟英伟达 a 一 百一样了,但是在过去那段时间,就因为算子库不全,所以综合效率跟英伟达比还有蛮大差距,但是人正被高度重视。还有华为的三个董事作为联系工作者,赵克大雄跟我们有个专班工作,现在已经把它做到了可以 对标英伟达的 a 一 百。要知道去年十月七号美国对中国极限试压,其中 a 一 百中国是不能买的,只能买阉割户的 a 八百。十月份我们就完全对标 a 一 百了,而且在今年的八幺五,我们跟华为联合发布了应对新冠疫情这件事情,任何企业都回 自己的单位,就能够在国产平台上自己做训练、做推,这是非常了不起的。以前我们现在看到所有百货大战基本都是英伟达的训练出来的,都在企业内部,只能做微小的调优和训练,基本训练模型是比较难预测,基本上我们把它解决掉。
粉丝2.9万获赞62.2万

你以为你是经典,但二零年的机圈处处是经典。那一年机圈大乱斗直接把他送上巅峰,风头一度压过苹果, 当年亮相造成的轰动至今也难以复刻,他搭载的麒麟九千、硬钢三代枭龙依旧不落下风。我是小兵,一位励志做玩五十部经典机型的博主,虽说账号还在起步阶段,但我相信你的入股绝对不亏。第二期,正式电子茅台华为 mate 四零 pro 时间回到二零年的十月,华为在美国制裁的重压之下,正式发布了 mate 四零 pro, 那 是华为手机在很长一段时间里的告别演出,当年的华为把所有能给的都塞进了这部机器,是华为在致暗时刻交出的巅峰答卷。 先看那颗万众瞩目的麒麟九千,搭载全球首款五纳米的五 g soc, 也是华为高端麒麟芯片的绝唱。谁也没想到,在制裁阴影下诞生的这颗芯片,一经面世就震撼了整个行业。当时存量芯片用一颗少一颗,市场上一机难求, 也是从那时候开始,大家叫他电子茅台。此后的日子里,他跨代硬钢三代枭龙。这么多年过去,绝版的麒麟九千配合鸿蒙系统依旧游刃有余。 屏幕是一块八十八度的超曲环幕屏,九十赫兹刷新率滑动起来足够跟手两侧边框微微向内收拢,整块屏幕的视觉观感浑然一体,握在手里的弧度也刚刚好。虽然有人吐槽曲面屏误触,但不可否认,当年这块环幕屏确实拉高了国产旗舰的高端质感。 影像系统有徕卡原声调色作阵,整套超感知镜头各司其职,暗光环境或者夜景场景下主摄捕捉光线的能力特别强, 浅望长胶支持五倍光学变焦,远拍能力在同期旗舰里几乎没有对手,超广角也能轻松装下大场面独有的徕卡色彩,随手一拍自带故事感,也是无数人念念不忘的影像味道。 外观更是传世经典,那个辨识度拉满的新环摄像头模组一经问世就风靡整个机圈,后面无数机型跟风模仿,却始终复刻不出这份大气和沉稳。市场价格常年坚挺,很多人到现在还留着这台机器,不光是因为硬件还能打,更多是舍不得藏在机身背后的那份情怀。

这就是价值三百万 h 二零的爸爸,世界最顶级算力 gpu 之一的 h 两百。哎,这里是不是有人要问了,现在不是 b 两百更强吗?对, 但是 b 两百现在是被明确禁售的,而 h 两百是在去年十二月已经被批准在华销售。那 h 两百有多恐怖?之前能让电表到账的 h 二零模组单卡显存是九十六 gb, h 两百的是一百四十一 gb, 它的内存带宽是四点八 tb 每秒。那么这是什么概念?就相当于你这辈子所有的照片和写的所有的文档,它一秒钟就能记住并且消化完。 f p 十六 tension 核心算力是 h 二零的十倍以上, f p 三十二算力也是 h 二零的一点五倍, 足够推理和训练千亿百只万亿参数的 ai 大 模型。大家都知道现在的小龙虾 open core 很 火,但它依旧需要模型提供 tokens 算力才能使用。那这台三百万的 h 两百模组能养多少只龙虾呢?

看到了吗?英伟达和苹果微软都坐不住了,说华为七月二十九号在北京举办了鸿蒙电脑技术沟通大会,首次向世界展示了华为 matebook pro s 电脑不靠海外的技术,竟然跑出了世界级性能。就这个性能啊,国产老板取消了下周的发布会。为什么取消啊?我跟你说啊,国产老板发现了, 华为把这台电脑干到七百九十八克的重量,相当于一本书的重量,两只手就能加起来了。更狠的是机身厚度啊,只有十一点九毫米,比手机还要薄呢,就这种薄,能运行大模型推理的软件编程啊,开发机型设计芯片。结果呢?国产老板发飙了,如此。 黄老板呢,说,你见过七百九十八克的电脑跑大模型推理吗?你见过十一点九毫米电脑能搞软件编程设计芯片吗?其二,你见过谁家笔记本电脑不靠海外的技术能跑出世界级性能的?黄老板却笑了,说在笔记本电脑生态领域啊, 各行各业只认微软的技术吗?没有英伟达显卡和算力底座,所有电脑就是空架子,没有英特尔芯片,电脑是没法运行的。 就算华为电脑能跑起来,难成气候啊,结果打脸了吧,华为 matebook pro s 仅用三招给各行各业上了一课吗?亮点音,仅用七百九十八克的重量,十一点九毫米的机身呢, 跑出了世界级性能了,听懂了没?你想吧,现在笔记本为啥分高端低端呢?现在有些电脑为啥能打游戏,有些打不了啊,为啥用不了几年系统它就不行了呀?因为很多厂商把笔记本越做越小啊,忽略了芯片与系统的兼容性,所有技术都靠买的, 你看华为怎么干的?为了电脑更轻薄,自研美旅机身的这种材料对电脑散热性是很强的,为了提高电脑性能呢,自研主板底层架构,开发叉 e 九零芯片,相当于英伟达显卡和英特尔酷睿芯片呢,有了这个技术啊,你能开发软件的? 八、 ai 大 模型们训练机器人打到数据中心呢,有啥不信呢,说这些技术啊,老外早就有了,华为 matebook pro s 电脑过时了,这都出现亮点二了,华为举办了鸿蒙电脑技术沟通大会,现场展示了鸿蒙电脑 matebook pro s 的 编程能力,当场吸引了整个程序员加入啊! 现场有程序员说了,以前青岛笔记本啊,只能写代码开发软件,而华为电脑呢,只需一个指令,就能自动化编程,自动改代码生成。爱 apple 更狠的是。亮点三,华为 matebook pro s 能自主干活的仅需十秒啊,能生成软件开发的方案,四十秒自动操控工业机床啊,仅用半天时间,能设计芯片,提供制造全套流程的。我就好奇了,华为 matebook pro s 的 芯片是谁代工的呀?评论区搜搜吧,下课!

就算中国的电价不要钱,华为声能九五零 pr 还是打不过英伟达的 b 三百,这其实就是事实。现在呢,就让我这个大二学生为你们硬核拆解这场中美顶端的科技较量。让我们邀请选手华为、英伟达和谷歌。 有没有人好奇啊,为什么还有谷歌的事?其实啊,在全球市场上,谷歌也是重要的 ai 三零玩家。目前市场上主要的玩家其实就两类,第一种,以英伟达为代表的 gpu 流派, 目前国内所有的大模型,还有叉 gpt 和 rock 都是使用 gpu 的 流派。第二种是以谷歌为代表的 tpu 流派,这个流派有 jimmy lake cloud 和苹果。怎么理解他俩的差别呢?我们来请出一个小时厨房。 英伟达的 gpu 就 像很多个全能的超级大厨,手里工具齐全,不管是切丝、雕花还是烤蛋糕,立刻就能上手, 所以他非常灵活,适合研发新模型。而谷歌的 tpu 更像是中央厨房流水线,嗯,就像那个西贝,剥蒜的剥蒜,炒菜的炒菜,微波炉加热的指挥加热,在大光门没法推理时,因为他省去了来回换工具的动作, 速度更快,更省电。缺点是一旦流程变了,效率就直线暴跌,所以他只能在谷歌云上托管,不对外售卖。 简单总结一下, gpu 更适合规模的定制化和随时的架构变动,而谷歌的方案更适合成熟的大模型架构没有大的调整,但速度更快,成本更低。这么一说是不是就清楚多了?很显然,华为走的是 gpu 这条路。 前一阵华为刚发布升腾九五零 pr, 就 收获了不少订单,包括字节跳动、阿里巴巴在内的多家科技巨头都计划下单这张卡。高端 hbm 版本的售价约为七万元人民币,按照这个价格和出货量计算,九五零 pr 今年将为华为创造约六十亿美元的收入。 这里有个关键词,就是 hbm 显存。其实纵观所有方案,都绕不开两个关键技术, hbm 显存和先进的芯片制成。 先进制程很好理解,大家熟悉的台积电就是全球最先进芯片制造工艺,几乎唯一的供应商。那么 hbm 又是啥? hbm 其实就是显存,只不过速度很高,所以用三 d 封装工艺直接连接 gpu, 减少了数据交换的距离。 举个反例,你们在宿舍打游戏的那种便宜显卡的显存都在显卡主板上,这样就慢很多。 ai 模型的参数量巨大, gpu 算的极快,如果显存传输速度不够, gpu 就 会停工,就算炒菜炒一半等原材料。传统的显存,比如 g、 d、 d、 r, 像是放在厨房门外的普通冰箱,大厨每做一道菜都要跑进跑出拿食材,路程远且门缝窄。而 hbm 则是直接在大厨手边堆了一叠高度压缩的立体冰箱,它通过把多层内存芯片像盖楼一样垂直堆叠在一起,直接搬到大厨手旁边,消除了搬运食材的距离。 现实是,对于华为来讲,既没有先进的芯片制成,又没有好用的 hbm, 全国产方案是怎么来的呢? 事实,在国际上,目前只有三家企业能掌握 hbm 的 核心技术,三星、海力士和镁光。这也是前一阵储存涨价的核心逻辑。生产线都去搞 hbm 了,普通低利润的内存没人生产, 所以华为这套流程演变为,华为设计 hbm 架构,由长兴提供基础的储存金源。接着大概率是中兴国际负责代工,盛和金微负责封装。也就是说,纯国产的方案把英伟达、博通、海力士台机电变成了华为、长兴、中兴、盛和金微,实现了完全自主可控。 但不可否认的是,由于技术带差,每项技术都差点意思。目前网上的对比,更多的是华为声动九五零和英伟达很早之前的入门级 h 二零对比,这并不公平,要比就比最新量产的 d 三百 升腾九五零, hbm 的 速度相较于 b 三百仍然相差五倍左右。在核心规格上,无论是 f p 八训练算力,还是 f p 四推理算力,因为达 b 三百的性能都是华为九五零 pr 的 九倍。但是华为正从另一条路寻求突破,那就是华为传统的优势项目,数据交换和通信。 换个思路,单颗芯片打不过华为,就搞 super pad 集群,它能把几千甚至上万颗九五零芯片像搭积木一样完美锁死。 在这种规模下,整个集群的算力利用率极高。如果说普通芯片之间通信是走乡村小道,那九五零之间就是走双向十六车道,它让成千上万颗芯片连接在一起,数据交换几乎没有延迟,就像一颗巨大的超级大脑在同步思考。 所以声动九五零最终的不是参数,而是工业韧性和体系化作战。在算力被封锁的当下,这就是国产 ai 的 救命稻草。 但是商业就是商业,我们还要算一笔计算的经济账,对于目前的计算来说,无非就是训练和推理, 这两个词理解起来也很容易。训练是从零用数据造一个大模型的过程,而推理是已经有一个模型之后使用它来帮你完成工作。一亿美金大家都有吧,现在我们只买显卡,注意我们的前置条件,这一亿美金是纯粹的 gpu 采购预算,并且算力按照筹密算力来计算性价比。 在实际运营中,我们还要额外套一笔极高的基建和运营费用,比如庞大的场地租聘费、三人设备建设费、电费以及人工运维成本。 事实上,由于华为卡更多,需要更多的场地和散热,网络成本更高,集群计算效率更低,并且缺乏扩大生态,运维成本也更高。但是为了方便计算,我们先忽略掉这些。 最终对比的卡数是,华为升腾九五零 pr 一 万张 vs 英伟达 b 三百一千六百六十六张。假设这两套集训率百分百全面爆发,我们可以看到,集训 f p 八,训练极限,英伟达是十一点六六一副 lops, 华为是七点八一副 lops, 集群 f p 四推理极限,英伟达是二十三点三二亿 flops, 华为是十五点六亿 flops。 最终结论是,花同样的一亿美元,英伟达的产出无论是推理还是训练都比华为多出近百分之五十。此时可能就有大聪明说,中国的电价很便宜,一定能比美国的成本低。 那么我们就再计算一点,如果升腾九五零大规模集聚的所有电费为零,英伟达 b 三百,算上散热和空调,所有的一切按照三年的运行时间算,两者的推力成本能接近吗? 华为三年的应用成本按一亿美元算,其单位算力成本约是六百四十一万美元每亿 flops。 英伟达的电费往高了算,三年总拥有成本 tco 约为一点零八七五亿美元,及单位算力成本约四百六十六万美元每亿 flops。 就算华为连散热和空调电费都不交,三年下来,它的综合推理成本依然比英伟达贵了将近百分之三十七。 要用电费磨平这个差距需要工作十七年。这就是我们开头所说的结论,即使电费降为零,华为升腾九五零的推理和训练成本仍然高于英伟达 b 三百,那么华为升腾的技术意义到底在哪里呢?我们忽略了一个重要的东西,中线存持的绝对碾压。 虽然华为单卡显存只有一百二十八 gb, 但一万张卡加起来就是一点二八 gb, 而英伟达一千六百六十六张卡总和也才约零点四八 gb。 华为在显存容量上反超将近三倍。这意味着,当你需要加载一个极其庞大的超万亿参数模型,或者要进行极长上下文的全集缓存时, 华为机型的一点二八 pb 显存池可以直接把整个巨无霸模型完整的通进显存里运行,而一亿美金的英伟达只能爆显存。此外,目前主流的顶尖模型,比如 gbt 五 glm 等 都全面转向了 moe 架构,华为单卡算力弱、待宽窄的缺点在 moe 架构下被巧妙的隐藏了起来,而它一万张卡带来的一点二八 pb 恐怖显存刚好用来存放 moe 那 成千上百个专家的参数。 在性价比预算下,华为的实际效果随着魔性的迭代和软件的优化,依然有进步空间。我们单看投资回报率,华为这张卡确实会被英伟达打得毫无还手之力。但是英伟达 b 三百,国内你买不到啊,高性能的 hbm 你 也买不到啊! 现实世界从来不是单纯的数学题,而是残酷的生存题。在当前的局势下,华为这张卡不仅有意义,而且是关乎国内 ai 产业密脉的战略资产。 在美国的算力封锁和出口管制下,高端的算力芯片早就断供。在这个前提下,华为的九五零 p r 不是 选择题,而是填空题里的唯一标准答案。性能低一点,内耗大一点,总好比彻底断网停摆。有算力跑模型,就有留在牌桌上的资格。纯国产完全自主可控的权重远远大于性价比。 这笔账算的不是商业利润。有了声能九五零,即使技术落后,中国就是世界上唯一一个能独立制造 hbm 显存、高性能 gpu 的 国家。正是因为如此,我们才更要正视差距,努力追赶。

英伟达这次是被骂怕了,而不是知道错了。二月份的显卡驱动烧 gpu 核心,这月头的版本又会锁定电压,降低读写性能。这次呀,终于做了件人事, 超出了五九五点七九版驱动不但修复了 g p u 电压限制无法超频的严重问题,还对生化危机九等新游戏做了适配,游戏帧数啊,直接提高了百分之十五。我就说嘛,老黄兜里不可能没货,只是先试探着看一下残血版驱动消费者能不能接受,然后顺理成章地再推出砍一刀的玩意儿。 看啊,被全网嘲讽之后拿出了 playbee, 还多给了点甜头啊,就是性能其实还有所提升,而 d 叉五零七零钛的三 d max 跑分就从二七九七七涨到了二八二八六。总结一下,手都还在用五零系新显卡的同学,这次真的可以升级了!


不可能而杀掉我们,因为这世界离不开我们,因为我们比较先进。 for future, i'm watching if we can't use we can use we are we also prepare our own c p u, so don't worry and our own c p u, is maybe even better performing so likely for today's n p u and our own n p u ai processor even the best performance and g p u, and n p u c p u we all all have our own backup backup machine。 华为产品有一个不一样的事,我们拉动了中国电子工业的崛起,你把拆开,华为手机都是国产化的芯片来自于中国的 制造的,我们具备全部国产的能力,所以呢,这一代产品呢,就是每一颗芯片都有这个国产能力。面向未来呢,我们有信心可以做得更好,在我们自主可控的产业链的支持下,我们能做出更优秀的产品带给消费者。我们搭载新一代的旗舰芯片, 卓越性能再突破,用了六年的实践,做了三百多个芯片,当包括麒麟手机,包括大家看到的自动驾驶 的蜂鹏升腾,在那个通用计算和 ai 计算,都是要有自己重新设计的芯片。我们可以说未来四年或五 年、十年的加速步,我们是跟另外一条道路完全可以相比的,我们不会越来越远,只会越来越好。没有退路就是胜利之路,我们是打不死的鸟,哈哈哈。


全球最赚钱的公司都在这块主板上,如果 ai 产业有卖产人的话,那么这块主板上的巨头就是卖产人。全球 ai 算力中心那万亿美金级别的硬件投资,超过百分之七十流进了他们的口袋。当然,分食这块蛋糕的过程绝不是一团和气,这些巨头之间的商业博弈极其精彩。 继上集梳理完 ai 算力中心的内部构造和网络结构之后,这集视频就聚焦这块主板 ai 算力芯片系统,看看巨头们是如何在激烈的竞争与结盟中吃下这波最大红利的。 同时,也为大家彻底梳理清楚算力芯片、 cpu 和存储芯片这三大核心模块的真实竞争格局。只有看懂了他们的博弈,才能真正看透整个 ai 行业的发展趋势和资本的流动方向。 画面中,我用 ai 模拟的这块主板就是算力芯片系统,为了直观理解,我们可以把它看做一座高速运转的算力工厂。 最核心的算力芯片 gpu 或 asic 就是 负责干粗活的工人,承担大模型海量数据的计算,但工人算的再快,旁边没人递砖头也不行,这就有了高宽带存储 hbm。 大家常听说的内存墙,指的就是 gpu 算的太快,但传统内存传输太慢,导致 gpu 大 把的时间浪费在等数据上。为了打破这堵墙, hbm 被直接贴在了算力芯片旁边,充当搬运工,以最快的速度给 gpu 投喂数据。 cpu 则是做调度规划的包工头,负责调度数据流向和管理指令。除了这铁三角,还有两个极易被忽略却不可或缺的部件,系统内存和固态硬盘。由于数据不能从硬盘直接塞给 gpu, 得先在系统内存里清洗和预处理,所以系统内存是前置中转式, 而存放海量数据的大仓库则是固态硬盘。不仅如此,固态硬盘还是大模型训练的救命稻草,一旦训练过程中断电,档机必须在几秒内存下,当前进度没他保底,几百万美金的训练电费直接打水漂, 工人、搬运工、包工头、中转士大仓库,这就是目前最标准的算力系统构成。我们先从整个 ai 产业的心脏,算力芯片讲起。所谓算力芯片,本质上就是为大模型运行服务的。芯片 主要可分为 gpu 和 asic 两类。我们知道,整个 ai 算力体系分为训练和推理两个环节,对应两个市场,这两个市场的技术要求、成本、结构、竞争格局完全不同,必须分开看。训练是让模型从数据中学习参数,完成收敛的过程。 简单说,训练就是造模型,所以他对芯片的要求极高,他需要超大显存、极强互联能力,是整个算力金字塔的顶端。推理是模型训练完成后对外提供服务、生成内容的过程,简单说就是用模型。 由于模型的底层架构,算法已经稳定,不再需要处理复杂的训练过程,所以推理对芯片和算力集训的要求不像训练那么严苛。他更注重成本是否足够低,为用户生成内容时的延迟是否足够短。 根据二零二五年的数据,在全球训练市场,英伟达占比百分之九十以上,几乎完全垄断。第二名 amd 只有百分之三到百分之五, intel 不 足百分之一。国产芯片在海外几乎可以忽略, 而在国内的训练市场,在高端 gpu 出口管制的情况下,英伟达仍占百分之六十左右的市场份额。华为升腾约百分之二十五,含五 g 约百分之五,海光约百分之三,平头哥、昆仑新等合计占剩余份额。 国内一线的大模型几乎全用英伟达的 gpu 进行训练。在全球推理市场,英伟达的 gpu 仍然占主导,约百分之六十八左右, amd 和 intel 以及云厂商自研 asic 芯片,分时胜于市场。英伟达之所以能够在 ai 训练市场形成绝对的垄断地位,主要在于三个方面,而且每一个都很重要。我们简单过一下, 首先最重要的是它的库达软件生态。库达是英伟达打造的一整套让 gpu 变得好用的软件体系,很多非相关专业的人士可能理解不了库达软件生态的重要性。可以这么说,库达对于 ai 工程师和研究人员来说,就是 ai 领域的 windows 系统。 举个典型的例子,一个 ai 创业团队,他们要开发一个大模型,不会选择从零开始,而是直接使用库达。因为整个 ai 行业十几年来积累的最成熟的算法、算子和工具,全部都在库达生态库里。如果不用库达去用别的芯片和软件,那代码几乎得重写, 遇到报错宕机,可能数月都排查不出来。对于烧钱如流水的大模型团队来说,这种时间成本和沉没成本是根本无法承受的。必须承认,库达就是最好的选择。 其次是硬件全站系统能力。英伟达不只是卖 gpu, 它提供从芯片、 nv link 互联、 infini band 的 网络封装技术到集群调度的整套方案。单卡性能可能被追赶,但万卡集群的效率、稳定性、可扩展性目前仍然没有对手。 最后是迭代速度。英伟达保持一年一代的迭代速度,别家芯片刚量产,准备对标 h 一 百,英伟达下一代更强的产品已经开始交货了。黄仁勋的逻辑是,只要你迭代速度足够快,竞争对手就只能跟在后面追赶。这就是为什么在训练市场,大家都只能捏着鼻子给英伟达送钱。 但天下苦,英伟达睡九蚁,谷歌、亚马逊、微软等云大厂绝不甘心永远做黄仁勋的打工仔。一场反击战早已全面打响。 为了打破英伟达的垄断,云厂商巨头们一方面大力扶持 amd, 不 仅买它的 gpu, 而且深度参与 amd 的 rocm 软件生态建设,推动 ai 框架全面支持 amd。 另一方面,云厂商巨头也在积极联合博通、麦维尔等芯片大厂开发自己的 asic 芯片。 很多人存在一个误区,以为 asic 只能用来做简单的推理。事实上,谷歌的 tpu、 亚马逊的 trignium, 在 最烧钱、最核心的训练战场上开始和英伟达拼起了刺刀。云厂商们不仅要在海量的推理端用自研 asic 把成本打下来,更要在主力的模型训练上撕开英伟达的防线。 英伟达的 gpu 本质上是通用图形处理器,它内部保留了大量为了玩游戏做图形渲染而设计的通用电路。而云厂商自研的 asic 直接砍掉了所有不必要的通用功能,将硅片上的每一个晶体管全部用来伺候大模型的并行矩阵计算。 在这种定制的物理架构下,一旦大模型的底层算法稳定下来, asic 就 展现出了强大的杀伤力。在相同算力的情况下, asic 单次计算的成本和功耗只有同级别 gpu 的 一半。 比如谷歌自家的大模型 gemini 和最近特别火的 cloud, 就是 用谷歌自研的 tpu 进行训练和推理的。叉的 gpt 也在部分的使用微软自研的玛雅系列芯片进行训练和推理。 即便如此,谷歌、微软等巨头仍然需要采购大量英伟达 gpu, 因为大模型的预训练、研发和实验,以及第三方云业务,依然需要英伟达的 gpu。 对于云巨头来说,他们的战略目标不仅仅是降本增效,更在于向英伟达发出这样一个信息,我们有备胎,你可不要做的太过分。 面对云厂商和芯片大厂的联合反击,黄仁勋当然不是吃素的,英伟达的反制手段也非常直接。首先就在二零二五年底,英伟达直接砸出两百亿美元,把在推理市场风头最盛的独角兽公司 guorco 给收购了 groc。 这家公司不简单,他的创始人 jonathan ross 是 谷歌 tpu 之父。二零一五年, jonathan 作为首席架构师设计了谷歌的第一代 tpu, 二零一六年离开谷歌创立了 groc。 英伟达这次收购 groc, 补齐了在推理市场缺乏 icx 芯片的短板,也彻底封死其他初创公司在推理端弯道超车的念想。 除此之外,就在二零二六年三月底,英伟达又向云厂商的幕后枪手迈威尔战略投资了二十亿美元。迈威尔和博通是帮云大厂研发 ace 芯片的头号幕后枪手,英伟达的这笔投资可以说是釜底抽薪。 借着这笔投资,英伟达推出了 nv link fusion 网络架构。潜台词是,云大厂不是非要造自己的 asic 吗?没关系,现在给你们造芯片的麦威尔也是我生态圈的人了,你们的算力芯片可以用自家的,但我这套 scale up 网络架构你总得用吧?只要你把卡连在一起,这笔网络的过路费你照样得交。 这场神仙打架绝不是口炮,双方都斥巨资为 aic 芯片在推理市场砸出了一片广阔的空间。根据 idc 的 预测,到二零二八年, aic 在 推理市场的试战率将从目前的百分之十左右提升到百分之四十左右,与英伟达的距离将大幅缩小。 随着 aic 芯片的遍地开花,精元代工厂、封测厂商以及部分芯片设计和 ip 公司也将实打实的分走一大块蛋糕。这个我们放到后面再讲。 聊到这,关于算力芯片的格局和博弈就拆解完了。接下来我们要聊一个在过去两年容易被大家忽视,但现在正迎来价值重估的核心部件, cpu。 在 过去爆炒 ai 的 狂炒里,大家的眼里只有 gpu。 传统的 cpu 巨头在 ai 机柜里似乎沦落成了只能给 gpu 做调度的配角。 但事实上,随着 ai 技术的演进,一场针对 cpu 的 暗战已经打响。从当前格局来看,传统的 x 八十六架构依然占据绝对主导地位, 英特尔仍然掌握着百分之七十以上的市场份额, amd 在 过去几年快速追赶,拿下了百分之二十左右,而剩下不到百分之十的市场,则属于一个体量不大,但增长极快,同时也最具颠覆性的变量, arm 架构。为什么我们现在要重新审视 cpu 核心引爆点就是大家现在都在提的 ai agent。 现在快速发展的 agent 不 再只是一个会聊天的模型,而是一个可以执行多任务的智能体,比如多步骤决策、调用外部工具、发邮件、订机票等。 一旦进入这个阶段,问题就从算的快不快变成了调度的聪不聪明。这些任务属于复杂的串行,逻辑控制,恰恰是 cpu 的 老本行。 所以在 a 阵的时代,大模型计算依然靠 gpu 和 asic, 但整个任务的指挥调度和工具调用越来越依赖强大的 cpu, 两者不再是简单的谁主谁次,而是深度协同。 既然 cpu 在 ai 节点中的地位开始上升,且数据都得从它这里过,巨头们就开始在 cpu 上动心思了。首先是英伟达,黄仁勋非常清楚,如果自己的 gpu 旁边永远搭配着英特尔或 amd 的 cpu, 不 仅数据传输通道容易卡脖子,而且利润还得被别人分走一块。 所以英伟达基于 arm 架构推出了自己的 grace cpu。 在 目前最顶级的 ai 机柜,比如 nbl 七十二里,英伟达直接用自家的 cpu 搭配自家的 gpu, 这就等于是把传统的 x 八十六巨头从最赚钱的高端 ai 节点里直接踢了出去。 其次是云大厂,为了摆脱对传统 x 八十六的依赖,同时降低工号,谷歌、微软、亚马逊纷纷开始自研 cpu。 而云巨头们自研 cpu 的 背后,又离不开 arm 公司的推波助澜。 arm 公司现在不仅卖底层的 cpu ip, 还推出了半成品计算子系统, 这极大地降低了造芯的门槛,让云巨头能够快速地基于 arm 架构攒出自己的 cpu, 比如亚马逊的 graviton、 微软的 cobalt。 更可怕的是, arm 的 野心还在膨胀。根据最新消息, arm 已经不满足于只卖图纸,他们正亲自下场找台积电代工,直接向 mate 等客户售卖自己品牌的 agi cpu 芯片。 所以可以预测,在未来的 ai 增量市场中,英伟达的自研 cpu、 云厂商的定制 cpu 以及 arm 亲自下场制造的 agi cpu, 正在吃掉原本属于 x 八十六架构的蛋糕。聊完了算力芯片和 cpu, 现在我们来聊聊 ai 算力中心存储芯片的竞争格局和趋势。 大家千万不要觉得存储是个没有技术含量的边缘配件。在目前的 ai 产业链里,芯片厂商和云大厂最焦虑的不是买不到 gpu, 而是买不到高宽带存储 hbm。 可以 说, hbm 就是 现在整个算力系统里最紧缺、最卡脖子的命门。为什么会卡脖子? 因为 hbm 属于随机动态存储技术 dram 的 最高形态。而 dram 是 整个半导体行业里最典型的公益驱动型产业,这和 cpu、 gpu 完全不同。 cpu 和 gpu 是 设计驱动型产业,只要你能搞定架构 eda 和 ip, 就 可以把制造外包给台机电。 但 dram 完全不是这么回事。 dram 难在制造,是手艺活,它对工艺的要求不是高,而是变态极高。 它的工艺窗口极窄,必须靠几十年经验慢慢调,而且中间段一年都不行。所以 dram 厂商必须是 idm, 也就是自建工厂,根本没法像 cpu 和 gpu 样走 fabless 代工模式。 这就是为什么全球能做 hbm 的 只有三家公司。不是因为别人不想做,而是没有 dram 工艺,连上牌桌的资格都没有。没有百亿美元级的资本投入,就没法自建工厂。 所以 hbm 的 竞争格局极度集中,海力士占百分之五十七,三星百分之二十二,美光约百分之二十一,整个市场被这三家完全垄断。像 hbm 三、 hbm 三 e 和 hbm 四这些高端产物,也全部集中在这三家,并且全被纳入美国出口管制。 国内方面,长新存储是短期内唯一有量产 hbm 希望的企业。目前长新存储跳过了 hbm 二,完成了 hbm 三样品开发 计划,二零二六年上半年实现量产量率目标百分之八十。但受制于技术代差和地缘政治,国产 hbm 几乎不可能直供北美 ai 算力中心,而是主要服务国内的算力生态。 hbm 的 技术门槛极高,如果不掌握最顶级的 dram 制造工艺,连摸一摸 hbm 的 资格都没有。也正因为 hbm 太难造、太紧缺,海力士和三星为了抢占市场,把大量原本用于生产普通 dram 的 潜能全改成了 hbm 和服务器级 d 二五, 结果整个传统内存市场被迫进入涨价周期。大家最近买电脑内存觉得贵,就是因为性能都被 ai 大 佬们挤光了。算力中心的另外两块存储是系统内存 ddr 五和企业级固态硬盘 esd, 它们虽然不像 hbm 那 样一心难求,但也缺一不可。 先说系统内存,也就是 ddr 五,它是 cpu 和硬盘之间的中转站,负责缓存、训练数据和中间结果。 ai 训练服务器对 ddr 五的需求极高,单机要配一到四 tb, 是 普通服务器的八到十倍,而且必须是高频低延迟,否则就会形成新的内存强。 ddr 五的竞争格局和 hbm 一 样,仍然是三星、海力士、镁光三巨头垄断,合计超过百分之九十三。 因为 hbm 的 高需求,这三家把百分之七十到百分之九十的先进 dm 潜能都转向了 hbm 和 ddr 五,导致 ddr 五也开始紧缺涨价。国内方面,长新存储依然是唯一能量产 ddr 五的企业, 全球份额约百分之三到百分之五,主要供应国内终端推理和信创算力中心。国内高端训练服务器用的高频 ddr 五仍需进口。再说企业级固态硬盘 esd, 我们刚刚说的 hbm 和系统内存, ddr 五都是 dram 内存技术,而企业级固态硬盘则是 n 的 硬盘技术,是两类不同的技术路线。正如视频开始所说, essd 固态硬盘就是 ai 数据中心的大仓库,用来存储训练数据、向量数据库和知识库。 全球 esd 市场同样是巨头主导,韩国的西部数据和美光占百分之十四和百分之十,日本的铠侠占百分之十二。 但相比 hbm 和滴滴二五,国产 esd 的 进步最快,在国内企业及 esd 试战率已达百分之二十到百分之二十五,而且这是目前国产替代跑得最快、生态最健康的一个吸粉领域。这个 领域主要有两类玩家,一类是造面粉的,也就是长江存储、三星、海立士这些上游的 n a n d 晶圆颗粒原厂。另一类是做面包的,也就是存储模组厂商,比如国内的大普威、一恒创源、华为翼联以及江波龙、百维存储等。 这些模组厂的商业模式是买来上游的精元颗粒,搭配上自研或外采的主控芯片和固件算法,最终组装成企业级硬盘,卖给下游的云厂商和 ai 服务器厂商。不过这个领域鱼龙混杂,是最容易踩坑的地方。 大家看财报会发现,这波存储芯片的涨价潮带动了很多模组公司业绩的大幅暴涨,但这里面隐藏着一个致命的陷阱。这种业绩的暴涨,到底是因为公司囤了大量低价精元颗粒,靠着周期涨价赚取的一次性库存差价, 还是靠着企业真正的底层技术打出的可持续性增长,很多人根本看不透。其实要刺破这层伪装,核心判断标准就两条, 第一,有没有自研企业级主控芯片和复杂固件算法的能力。第二,产品有没有实打实的进入阿里字节、腾讯等一线云大厂的核心算力机构。只有同时跨过这两道门槛的,才是真正的第一梯队,否则大概率只是在吃周期的短期红利。 聊完存储芯片,我们简单做个小节。国外的 ai 算力中心的存储系统基本被海力士、三星和美光三家巨头瓜分垄断,国内厂商短期内进入北美 ai 算力中心的可能性几乎没有。 而在国内市场, hbm 领域长新存储带着全村的希望,在奋力追赶 ddr 五领域长新实现突破,但高端仍需追赶。 esd 领域国产厂商进步最快,已经能在国内市场形成有效替代。未来,随着大模型向万亿参数、多模态引进,对存储的要求会越来越高, ddr 五会向更高频、更大容量发展, cxl 内存池化会普及, esd 会向大容量存算一体方向引进。而 hbm 的 国产突破,将是打破海外垄断,解决算力卡脖子的关键。 好了,算力系统的所有核心器官都已拆解完毕,但还有一个最重要的问题,不管是英伟达的 gpu, 还是云大厂自研的 asic, 到底是怎么从图纸变成实物的?这就涉及到了整个 ai 大 基建背后,那些真正稳坐钓鱼台,向全行业收税的隐形霸主。 首先是提供施工图纸和工具的 eda 与芯片 ip 厂商。在大模型公司纷纷自研 asic 芯片的时代,向 arm、 synopsis 和 cadence 简直笑开了花。 因为自研芯片不是从零开始发明轮子,你要造一个 cpu, 可能得买 arm 的 架构授权。你要设计复杂的电路,必须用 synopsys 的 eda 软件工具。只要 asic 持续爆发,这些公司就能分走第一杯最稳健的利润。 有了图纸和工具,接下来就得找代工厂。而全球的高端 ai 芯片几乎只有一个去处,那就是宝岛、台湾的台积电。如果把整个 ai 产业链比作一个金字塔,那么站在金字塔最顶端的就是台积电。 无论你是英伟达、谷歌还是特斯拉,只要你想做出三纳米、二纳米的顶尖芯片,你只能去排台积电的产线。台积电掌握的不仅仅是制程,更是整个 ai 竞争的入场券。 在这场激烈的 ai 军备竞赛当中,台积电可能是唯一一家不参与任何竞争的企业,因为它就是竞争本身。芯片造出来之后,还有一个卡脖子的环节,先进封测。 如前面所说, hbm 必须紧紧贴在算力芯片旁边,要把两块芯片精准的封装在一起,并联通,靠的就是 colos 等先进封装技术。 在这个环节,台积电依然占据统治地位。但由于产能实在太紧缺,像全球封测老大日月光以及国内的长电科技等封测大厂,也都在积极切入高端算力芯片的封测环节,他们就是最后那道精加工流水线,负责把一颗颗独立的芯片封装成我们看到的那块价值连城的算力主板。 顺带提一下,随着 cpu 时代的到来,风测大厂也将迎来新的增长空间。这个话题我们留给下集视频的 ai 网络设备环节。再细聊到这里,整套 ai 算力系统我们就彻底拆解完了。 从 gpu 的 算力霸权到云大厂的 isec 反击,从 cpu 的 价值重估到 hbm 与固态硬盘的后勤博弈,最后到台积电和 eda 的 底层收税。 每一块算力主板的诞生,都是全球数千家顶尖企业、数百万名顶尖大脑跨越国界和技术壁垒协助的结果。而在这一场纳米级的博弈中,每一个环节的强弱都在决定着未来十年全球科技竞争的终极作词。 感谢观看本期节目下集视频,我们继续聊中国企业参与度最深的环节, ai 算力中心的网络设备光模块。关注昆源裁研,我们下期见。

英伟达的变脸只需要一个华为,哈,最近的话呢,英伟达 h 二百终于放开管控,可以卖给中国了。你要知道,这是二零二三年十一月发布的上一代的旗舰,相比之前咱们国内特供的那个阉割版的 h, 二零 h 二百的性能直接翻了好几倍。你说是因为黄仁勋突然之间良心发现了吗? 不是,是因为国内华为的升腾,九幺零 c 它来了。根据供应链的消息的话呢,二零二五年底的时候,九幺零 c 已经在国内开始大规模的铺货了,外媒在评价这款芯片的时候,用了一个极有分量的词,叫做 on par with hr 版,旗鼓相当。 这就是英伟达的底层逻辑,你能造出什么水平的芯片,它就刚好卖给你什么水平的芯片。那可能很多人就要问了,说既然九幺零 c 已经追平了,那么现在放开 h 二百的意义又在哪呢?那这里边我要给你科普一件事,什么呢?算力并不是全部。 咱们举个例子,你比如说单卡,算力上面确实九幺零 c 已经和 h 二百可以摆摆手腕了,但是大模型的训练,它并不是只算一道数学题,它是一场万卡级别的系统工程, 一万张卡连在一块,卡与卡,卡与服务器之间的通信速度,这个现在是我们的短板。这就是为什么英伟达的 h 二百仍然具有不可替代性。 那看懂了技术上的差距,你就很能理解英伟达这次解禁背后的套路了。什么套路?当你没有威胁的时候,高价卖给你去收取利润,当你有威胁的时候,直接断供,锁死你的科技数,当你开始自主研发的时候,这是最关键的一点啊,他要立刻解禁一款刚好比你强一点点的产品, 通过成熟的生态去诱惑你的客户,去放弃国产,然后打断你的裂带挖机,你的生态。那么我们是怎么应对的呢? 其实这么多年咱们见多了套路,自己也成了老司机了。面对这样的情况,我们寄出了一套组合拳,核心就是三点,第一点叫做核心托底,你像军工、航天、能源、政务园这些关乎国运的领域里边,百分之百要求国产,不管好不好用,你先用起来再说,用市场去养技术。第二的话呢,就是商业分级, 对于说中低端推理的场景,国产卡够用了, ok, 先用国产。第三,尖端捆绑。对于那些分秒必争的万亿大模型的训练,确实是需要 h 二百这样的极致效率的,你可以买没有问题,但是同时你也需要采购固定比例的国产芯片。 这招的高明之处就在于说,既保证了咱们国内顶尖 ai 企业的竞争力,又能把资金和应用场景留给咱们国内的阵营,让国产芯片始终可以有市场有空间,研发的节奏可以不被打断。 华为的生腾生态现在确实还不如扩大的护城河那么宽那么厚,但是也确实从难用进步到了能用。那 h 二百的解径,我觉得从另一角度上来看,反倒是我们的一枚勋章,它说明什么问题呢?只要你手中的剑够锋利,对手才会坐下来跟你来谈公平。

在英伟达工作五年多了,我是上海交通大学二零二一届电子工程博士,毕业那年直接加入了英伟达上海研发中心。今天就跟大家分享一下我这几年的收入情况。二零二一年七月入职,岗位 gpu 设计工程师, 前半年主要参加新人培训,协助做下一代架构的模块验证,基本工资两万六千元每月,各类补贴两千元每月。 因为工作不满一年,年终奖按比例只发了六千元。另外,入职时有一笔四万元的签字费,还授予了价值十万美元的限制性股票,分四年归属。当年没到归属期,二零二一年半年总包大约二十一点四万元。 二零二二年开始独立负责一个中等规模模块的设计与优化,基本工资涨到两万九千元每月,年终奖发了三点八万元。 当年股票归属收入合计约三十二万元。二零二二年年度总包大概七十三万元。二零二三年成为高级工程师,主导一项跨团队的总线接口优化项目,基本工资提到三万六千元每月,年终奖五点五万元。 正好赶上升城市 ai 爆发,公司股价持续飙升,这年归属的股票价值猛增到约九十八万元, 二零二三年年度总包达到了一百五十万元左右。二零二四年开始带一个三人小组,负责新一代 gpu 缓存子系统设计,基本工资四万五千元每月,年终奖九万元。 这一年股价在创新高,当年归属的股票价值更是涨到了大约一百八十五万元。 二零二四年年度总包约两百五十万元。二零二五年独立带领一个架构小组,主抓一颗核心芯片的前端设计,同时参与团队招聘和跨部门流片协调。基本工资五万五千元,每月年终奖十五万元。 这年归属的股票价值达到了约三百八十万元,二零二五年年度总包大约五百三十万元。


四家国内的 ai 芯片公司,谁最有可能成为中国的英伟达呢?摩尔建成之后呢?第二家国产的 gpu 重量级选手摩西股份呢,正式登陆科创板了, 信号其实已经非常清晰了,国产的 ai 芯片开始从能不能活下来,走向谁才是一哥的阶段。 那么我们来放眼国内看,真正有资格站在牌桌上的基本就是这几家,华为、摩尔现成含五 g 和摩西股份, 他们承担了国产替代,自主可控的使命。但问题也来了,我们说打完外仗以后,谁能成为内战一哥呢? 之前其实有小作文爆料啊,说含五 g 呢,计划在二六年将 ai 芯片的产量大幅的提升超过三倍,预计出货呢是在五十万块 ai 的 芯片,目标就是要填补英伟达退出中国市场后留下的空白。 那么华为更是公开表明,要在二六年将深腾系列的 ai 芯片的产能实现翻倍的扩张。那英伟达留下的市场呢?是一个一年两百万以上的芯片缺口, 那么大的利润,没有哪一个公司会不心动。那么到底谁会成为中国的英伟达呢?那么在讨论这个话题之前,我们先来看一下英伟达的优势在哪。 英伟达其实它是有两大核心优势,一个呢是硬件性能顶尖,而且迭代的速度是非常快的。英伟达的芯片呢,是全功能的 gpu 一 块芯片,它集成了渲染、 ai 计算、数字孪生科学计算、视频的编辑码等等所有的功能,不管是游戏也好,人工智能还是工业设计、医疗,其实都能用,而且计算的精度完整,兼容性强,遵循了皇室定律, ai 性能每年都在翻倍。 二是软件生态构成了很高的护城河。二零零六年,英伟达推出了库达平台,经过二十年的深耕呢,库达平台已经成为 ai 发展的通用语言, 覆盖全球百分之九十以上的高性能计算场景,捆绑四百万开发者和五千家以上的合作伙伴。新进入者呢,光生态建设周期就要花费五年以上, 替代签约的成本是非常高的。那么接下来我们来看看国内的 ai 四强企业各自都有哪些看家的本领。摩尔县城呢?最像英伟大的复刻者,为什么先说他呢?因为他的管理团队呢,大量都是来自于英伟大。 它的优势也很明确,国内唯一量产全功能 gpu 技术路线引以为达,最接近,主动搭建了开发者平台,试图要复刻扩大的路线。但是呢,它的短板也同样的致命,开发者的规模到现在为止大约十万人,而扩大是四百万,行业软件的适配慢, 定制需求过重,扩展的速度受限,像英伟达,但远没到生态级的阶段。那么第二家就是我们说的含五 g, 含五 g 呢,是背靠中科院,技术的底子强悍, 它的思源五九零的性能已经做到了 a 一 百的百分之八十五到九十,支持万卡训练机,属于专业芯片,并不是全功能,尤其是通用计算,图形渲染等等的能力是偏弱的。 而英伟达的核心优势,它是全功能的 gpu, 这也决定了韩五 g 更可能成为 ai 细分计算领域的一哥,而不是中国的英伟达。 第三家呢,是木兮股份,它可能是最被低估的后起之秀,木兮的背景很一,创始人陈微良呢,曾经是 amd 全球 gpu 的 设计总监,它的产品净度呢,也是不慢的,希芸的 c 五零性能已经达到了 a 百的百分之七十七,新一代的 c 六百, 显存的容量,互联的宽带也优于 hr 零,国产的供应链闭环完成度是极高的。那么我们来看一下它的短板,同样明显啊,营收高度依赖 c 五百,互联网客户的拓展偏慢,但如果 c 七百 顺利落地的话,它会是最有可能快速缩小差距的变量型选手。那我们再来看最后一家,华为目前是唯一能在体系维度来对标英伟达的国产公司, 硬件上呢,深层的芯片持续追赶千卡疾群,训练的效率已经达到了 h 一 百的百分之七十二,在生态上打通了芯片 框架加服务器加场景,开发者的规模是国内第一。在应用上呢,政务运营商实战力稳居第一,自动驾驶、云计算形成了内部闭环的反补。在供应链上呢,自如可控的能力是最强的。 那么谁最像中国的英伟达呢?如果一定要给出答案,可能是华为,他的综合实力在目前来看是最强的。


英伟达一家独大的局面可能要结束了, amd 的 苏斯锋今天甩出全套 ai 方案,从 cpu 到 gpu 到整机架,每一环都精准对标英伟达。微软直接砸了上百亿美元下 单, mate 和 open ai 也签了。不是英伟达不好,是客户不想把所有鸡蛋放一个篮子贵,但有人买,买的是选择权。 ai 军备竞赛搞到现在,终于有人端出了可以和英伟达正面掰手腕的全套方案。