英伟达 gpu 卖这么好,真的只是因为硬件强吗?真正让对手追不上的,其实是这个东西,库达。先说 gpu 和 cpu 的 区别, cpu 是 通用处理器,什么都能干,但并行计算能力有限。 gpu 擅长并行计算,擅长同时处理大量简单任务,所以特别适合跑 ai 模型 这种可以拆成大量并行计算的 work load。 那 库达是什么?库达是英伟达在二零零六年推出的一个计算平台和编程模型。 简单说,它让开发者可以直接用 nvda 的 gpu 来做通用计算,而不只是做图形渲染。它的核心价值是,英伟达围绕库达构建了一整套生态,有变易器,有调试工具,有优化库, 有几百万开发者围绕 qda 写的代码,有大量 ai 框架,比如 tensor、 flow pi、 torch 原声支持 qda, 这就形成了一个生态壁垒。其他芯片厂商不是做不出 gpu, 而是他们的 gpu 需要适配的生态不完整。你买了一颗非英伟达的芯片,很多 ai 框架可能没有原声支持, 你需要自己移植很多现成的模型,跑不起来,出了问题也没有足够的社区支持。 amd 的 gpu 硬件性能其实不差,但 但 rocm 生态比 cda 差太远。华为升腾在国内生态里走得最快,有 marsport 这样的自研框架支持,但在国际主流框架兼容性上还是有差距。这就是库达的可怕之处,它不只是一个技术, 更是一个生态。后来者要追赶,不只是做出一颗性能相当的 gpu 那 么简单,而是要重建整个软件生态,这个过程可能需要十年。所以英伟达的护城河从来不只是那块芯片。
粉丝4641获赞2.2万


很多人以为芯片散热最大的敌人是高温。错了,真正持续吞蚀算力的是热点,是温差,是热硬力。单向液冷把冷却液送到冷板,整体温度确实降了。但面对 gpu 内部局部超高热流密度区域,仅降低平均温度并不意味着真正解决热点问题。 因为 gpu 性能从来不只是看平均温度,而更关注关键节温与热点区域。一个局部的 hotspot 温度可能明显高于芯片平均水平,一旦热点率新触发,温度发直, gpu 就 可能启动降频或热保护机制。你买的是满性能的 gpu, 实际释放的却未必是满性能算力。 更棘手的是温差, ai 负荷不是恒定的,训练、起停、推理、潮汐、动态调整,都会让芯片热负荷持续波动,温度不断变化,热胀冷缩反复作用于焊点、封装基板等材料页面, 一次两次没问题,但长期热循环作用下,材料疲劳会逐步累积,微观裂纹可能不断扩展,最终降频、虚焊性能衰减,甚至提前老化。很多时候,算力平台还没退役,硬件却先进入衰退阶段。 冷板式相变液冷给的答案不是一台更大的泵,而是一种更聪明的物理机制。第一,热点问题。工质在局部高热流区域优先发生相变,热点越强,相变越活跃。相变越活跃,局部换热能力越强。 利用物理规律增强热点区域换热能力,实现更均匀的温度分布。冷板式下面液冷可以有效改善 g p u 热点、 h b m 温差以及芯片表面温度均衡性。 第二,功率密度。 gpu 功耗正在一代比一代更高,单机柜热密度持续攀升,传统显热换热方式正逐渐逼近能力边界,散热跟不上,只能降密度、降功率、拆分集群, 而集群规模越大,通信延迟反而可能开始推迟。算力相变液冷利用浅热换热,在高热流密度场景下,可显著提升单位面积换热能力。 第三,稳定性。相变液冷能够有效减小芯片节温的波动范围,德尔塔 t 压缩后热应力下降,降频减少,系统稳定性提高,芯片服役周期进一步延长。第四,能耗,换热效率提升后,冷却液温区更宽,泵功能降低,空调负荷减小,自然冷却时间延长, 制冷系统能耗下降, p u e 进一步优化,运营成本同步降低。所以散热真正的敌人从来不只是高温,而是热点、温差以及背后的换热机制。相变液冷不是在传统液冷上做加法,而是一次散热机里的待机切换。

cpu、 gpu、 npu 这些究竟是什么?哈喽,朋友们,你们是否也有这样的疑问, cpu、 gpu、 npu 同样是处理器,为什么要分化出这么多种芯片类别呢? 三者之间又有哪些不一样?今天我就用大白话一次性讲透,记得先点赞收藏哦!先从大家最熟悉的 cpu 说起, 它的全称是中央处理器,是电子设备的运算核心。不管是电脑办公、浏览网页还是服务器,处理大量运行任务,都离不开它的调度资源与下达指令。 cpu 就 像公司的总经理, 整合协调所有工作,综合能力面面俱到。接下来是 gpu 图形处理器,最初专为图形视频处理而生,我们玩的大型游戏、观看高清视频制作、三 d 模型渲染全都得靠它。 gpu 拥有海量计算单元,单个核心不算顶尖,但 但胜在数量庞大,擅长集体并行计算。不过他无法独立工作,需要 cpu 统一指挥,二者分工合作缺一不可。最后说说近几年大火的 npu, 也是神经网络处理器,它通过模拟人脑神经元,目标只有一个, 极致优化 ai 任务。在语音识别、 ai 绘画、智能交互这类 ai 实时推理场景里, npu 速度更快, 延迟更低,而且功耗远低于 gpu 视频的。最后给大家做个总结, cpu 统筹协调,全能百搭。 cpu 主攻 图形渲染与 ai 训练,是并行计算的好手。 npu 深根 ai 推理,省电又高效,之所以区分出各类芯片,就是为了让专业的芯片做专业的事,最 最终实现效率、性能、功耗的最佳平衡。视频,看到这里觉得内容有用,别忘了点赞收藏。大家还想了解什么评论区留言告诉我吧!

什么是 gpu? 百分之九十九人不知道。 gpu 全称为图形处理器,是一种专门设计用于处理计算机图形和图像的处理器。它可以加速计算机图形渲染和处理操作,提高计算机图形和图像的性能和质量。 cpu 相对于 cpu 而言,具有更多的处理单元和更高的并行处理能力,因此可以更快地处理大量的图形和图像数据。 gpu 的主要功能包括图形渲染、图像处理、计算加速等。在游戏、动画、视觉效果等领域中, gpu 是实现高质量图形和图像的必要组建。同时,在科学计算、深度学习等领域中, gpu 也可以作为计算加速器来使用,可以大幅提高计算速度和效率。 gpu 的工作原理是通过多个 处理单元并行处理图形、图像和计算任务来提高处理速度和效率。这些处理单元分布在不同的计算核心和计算单元中,可以同时处理多个任务。此外, gpu 还使用了高速缓存、 潜存等技术来优化数据存储和访问,进一步提高了性能和速度。人工智能领域中, gpu 经常被用于深度学习和神经网络的训练。在游戏领域, gpu 是游戏图形渲染的核心,能够提供更真实的视觉效果和更流畅的游戏体验。 在医学图像处理领域, gpu 拥有广泛的应用场景,它可以用于医学影像的分析和诊断,提高诊断准确性和效率。此外,在医学研究领域, gpu 还可以用于支持医学数据的处理与分析,如支持 基因组学和蛋白质研究等。在科学计算领域, gpu 也有着广泛的应用,例如将 gpu 应用于天气预测、气候模拟和蛋白质结构预测等科学计算任务中,可以大大缩短计算时间, 提高计算的准确性和精度。尤其是在需要进行大规模并行计算的情况下, gpu 的计算能力更是凸显出来。通过 gpu 加速,科学家们可以更加快速地进行复杂的科学计算和模拟, 从而推进各种科学研究和技术应用的发展。

很多人以为芯片散热最大的敌人是高温。错了,真正持续吞蚀算力的是热点,是温差,是热应力。单向液冷把冷却液送到冷板,整体温度确实降了。但面对 gpu 内部局部超高热流密度区域,仅降低平均温度并不意味着真正解决热点问题。 因为 gpu 性能从来不只是看平均温度,而更关注关键结温与热点区域。一个局部的 hos 泡温度可能明显高于芯片平均水平,一旦热点率新触发,温度发直, gpu 就 可能启动降频或热保护机制。你买的是满性能的 gpu, 实际释放的却未必是满性能算力。 更棘手的是温差, ai 负荷不是恒定的,训练、起屏推理、朝夕动态调整,都会让芯片热负荷持续波动,温度不断变化, 热胀冷缩反复作用于焊点、封装基板等材料页面,一次两次没问题,但长期热循环作用下,材料疲劳会逐步累积,微观裂纹可能不断扩展,最终降频、虚焊性能衰减,甚至提前老化。很多时候,算力平台还没退役,硬件却先进入衰退阶段。 冷板式下面液冷给的答案不是一台更大的泵,而是一种更聪明的物理机制。第一,热点问题。 工质在局部高热流区域优先发生相变,热点越强,相变越活跃。相变越活跃,局部换热能力越强。利用物理规律增强热点区域换热能力,实现更均匀的温度分布。龙板式下面夜冷可以有效改善 g p u 热点、 h b m 温差以及芯片表面温度均衡性。第二,功率密度。 g p u 功耗正在一代比一代更高,单机柜热密度持续攀升,传统显热换热方式正逐渐逼近能力边界,散热跟不上,只能降密度、降功率、拆分集群,而集群规模越大,通信延迟反而可能开始吞食算力。相变液冷利用浅热换热,在高热流密度场景下,可显著提升单位面积换热能力。 第三,稳定性。相变液冷能够有效减小芯片结温的波动范围,德尔塔 t 压缩后热应力下降,降频减少,系统稳定性提高,芯片服役周期进一步延长。 第四,能耗,换热效率提升后,冷却液温区更宽,泵功能降低,空调负荷减小,自然冷却时间延长,制冷系统能耗下降, poe 进一步优化,运营成本同步降低。 所以散热真正的敌人从来不只是高温,而是热点温差以及背后的换热机制。相变夜冷不是在传统夜冷上做加法,而是一次散热机里的待机切换。

从硬件开发者的角度,那么存储在 ai 推理成本结构实测是怎么样的?炒存储基本上是每一波周期里面是最后一块,因为刚开始可能是从什么 gpu 啊,芯片 cpu 开始炒,最后炒存储就是泡沫快破的时候就开始炒存储了。这个我是有经验,所以美观。我是做空的,但是我做空的位置还是比较低的,刚开始可以的,但现在是赚了。所以很有意思的事情是什么?我们二零年有,我们自己搭了注数,二零年是存储的高点, 当时传奇程序员还自己弄了个分布式的网络来,噼里啪啦四 t 的, 有六 t 的 硬盘都炒到了六七百的二手硬盘, 然后这个硬盘我一直是没有卖掉的。很有意思点是什么呢?就是现在金元啊,等于说他是配额的,你拿不到的,谁拿得到?金元我现在给你去就能建一条二十亿的生产线,但是拿不到,然后跟这个 g p u 也一样。 g p u 最大问题是什么呢?现在市面上找 g p u 这么多人了,现在期货的 h 一 百应该在一 一百九十二左右吧,现货应该两百三吧。 b 三百应该在六百八,现货应该七百多,但是你永远拿不到现货,因为现货一旦到这里啊,他只要违约百分之十违约金,那你还能多赚一笔,所以永远拿不到现货。第二个是什么? 就跟戴着保口罩一样,就变成一个关系生意,但凡生意是屏风的,就永远就轮不到正常人做。屏风的生意永远是留给 other 三去做的,人家为国做了这么多贡献,那子孙赚点屏风的生意怎么做呢?是天然留给他们做的,能拿下这份单子的不是洋货就是 大厂。那大厂很简单,资源都在北京,比如说这个生意要签返保函,要签转折,哪怕签一百他们都愿意签。但是问题返保函你要求你打过钱去赔付,银行要签的是 借手即赔,借手即赔就是说我这几千万打过去的一个单子基本上两个亿,一千万打过去我要求是马上必须能拿回来,就是一旦你这个交货周期到了啊,六到八周你拿不到这个货,我必须要你把钱赔给我,但是签不了,因为签所有环保还是这个钱其实在国内流动是没有关系的,哪怕你这七千万从 他的账户 a 打到了, b 还在银行里,他如果交不了货,扣了马上赔给你定金百分之三十嘛,一千万嘛,买英伟达就不行啊,没有一家银行能出具英伟达的担保。你这个七千万是打到国外了打给英伟达的, 要是打过去,他货不给你,你怎么赔?所以所有的环保函,包括那个出货的问题,也是只签到得是我赔给你货或者怎么样,但是资方是不愿意认的。资方的意思就是要见所击赔,但是没有一个家银行能给你签英伟达的 gpu 见所击赔,所以只有那帮人能做这个生意,看着很赚钱的,生意这么大,没有几个人能做。 储存嘛,你说我们自己做算力中心的,你也知道现在的储存就等于以前的房子产生一样,建个算力中心租出去卖算力到时候回本。但存在一个问题,房子是可以贬值的,没有那么快就有居住属性。那个硬盘如果说你这个算力一旦崩盘了啊,一文不值,也就以前二五年算,可能三年就折没了, 但是呢,现在的合同五年保下去没问题。如果按现在这个规模的上涨啊,不断的去用而言啊,可能还是属于上升期。但是呢,未来啊,我觉得产量拉上来之后,比如说 h 这样的价格弄起来,或者说是各种各样的产品堆上来之后,他肯定会回归到正常。所以我觉得做空这个储存问题也不大,只要你控制好限制,然后芯片的话,对我们目前使用情况来说还是属于一个超级周期的一个起步阶段,就是从马车到汽车的一个过程。


很多人以为英伟达最强的是 gpu, 但如果只是 gpu, amd 有 gpu, intel 有 gpu, 华为也有 gpu, 如果大家都能做 gpu, 为什么英伟达能够成为 ai 时代最大的赢家?答案可能出乎很多人的意料, 英伟达真正的护城河并不是 gpu 本身,而是一套能够把几十块上百块 gpu 连接成一台超级计算机的系统,而这套系统的核心就是 mvink。 今天我们彻底讲透,为什么 mvink 才是英伟达最可怕的武器。过去十年,芯片行业拼的是单颗 gpu 性能,谁的算力更强,谁就拥有优势。但进入大模型时代之后,游戏规则变了, 今天训练一个先进大模型,往往需要成百上千块 gpu 协调工作,每完成一次计算,这些 gpu 之间都要不断交换数据, 这些数据包括模型参数、梯度、信息激活值以及推理过程中产生的大量缓存数据。随着 gpu 数量不断增加,一个新的瓶颈开始出现。 真正限制 ai 发展的已经不再只是计算能力,而是通信能力。如果未来的大模型需要数百甚至数千块 gpu 协同工作,这些 gpu 之间到底该如何交换数据? 答案要从服务器里最基础的一项技术讲起。它叫 pci。 pci, 全称是 peripheral component interconnect express。 名字听起来复杂,但它就是现代计算机内部最重要的高速连接标准。你电脑里的显卡、 ssd、 网卡,几乎都通过 pcie 与 cpu 连接,可以把它理解成计算机内部的一套通用高速公路系统。 过去二十多年, pcie 几乎统治了整个计算机世界,因为它兼容性强、速度快,而且成本合理。对于传统计算任务来说, pcie 已经足够优秀, 但 ai 的 发展速度远远超出了当初设计者的想象。当数十块 gpu 开始同时训练一个模型时,新的问题出现了。假设两块 gpu 需要交换数据,传统方式下,数据通常要通过 pci 通道,再经过 cpu 或系统中转。 这就像两家工厂明明就在隔壁,货车却要先绕到市中心再开回来。 gpu 数量越多,这种问题就越严重。因为 ai 训练并不是各算各的,每一步计算完成后, gpu 之间都需要同步。结果随着模型规模不断扩大,通信量呈爆发式增长。 于是人们发现一个反常现象, gpu 越来越强,训练速度却没有同比例提升。原因很简单, gpu 已经算完了,但数据还堵在路上。如果不能让 gpu 之间更快交换数据,那么再强大的 gpu 也无法发挥全部实力。 于是,英伟达做出了一个关键决定,重新设计 gpu 之间的连接方式。二零一四年,英伟达推出了一项全新的技术, nv link。 简单来说, nv link 就是 gpu 之间的专用高速通道,传统通信路径是 gpu 经过 pce 再到另一块 gpu, 而 nv link 则让 gpu 之间可以直接通信,从此数据不需要再绕路,宽带更高,延迟更低,效率也更高。 如果说 p c i e 是 一条面向所有设备的公共道路,那么 n v link 就是 专门为 g p u 修建的高速铁路。 它的目标只有一个,让 g p u 之间的数据交换速度跟上 ai 模型的发展速度。 n v link 的 出现,第一次让 g p u 摆脱了传统通信架构的束缚,但新的问题很快出现了。 如果服务器里只有两块 gpu, nv link 已经很有价值。可如果有八块、十六块甚至七十二块 gpu 呢? 难道让每一块 gpu 都和其他 gpu 直接连接吗?显然行不通。当 gpu 数量继续增加时,问题再次出现,连接关系开始急剧复杂化。如果每块 gpu 都要与其他 gpu 直接连接,整个系统很快就会变成一张巨大的连接网, 维护困难、扩展困难,成本也越来越高。这时候,仅仅拥有高速通道已经不够, 我们还需要一个能够管理所有通道的交通指挥中心。于是,另一项关键技术诞生了, mv switch。 理解 mv switch 最简单的方法就是把它看成 gpu 世界里的交换机。如果说 mv link 负责修路,那么 mv switch 负责调度交通, 它能够把大量 nv link 连接在一起,形成统一的高速网络,从此,任何一块 gpu 都可以高速访问其他 gpu。 这意味着什么?意味着七十二块 gpu 不 再是七十二台独立设备,它们开始像一块超级 gpu 一 样工作。 这正是今天 ai 工厂的基础,也是 g b 二百 n v l 七二最核心的能力。真正强大的从来不是某一颗 g p u, 而是整个系统协同工作的能力。回顾整个过程, ai 的 发展首先遇到了通信瓶颈, p c i e 解决不了,于是出现了 nv link。 g p u 越来越多, nv link 本身又不够,于是出现了 nv switch。 看似只是两项通信技术,但它们彻底改变了 ai 服务器的架构。很多人看到的是 gpu, 但英伟达真正建立的是一整套难以复制的系统工程, hbm 负责数据供给, c o o s 负责先进封装, mv link 负责 gpu 通信, mv switch 负责集学互联,库达负责软件生态,最终,它们组成完整的 ai factory。 竞争对手或许能够复制其中某一项技术,但很难复制整个体系, 这才是英伟达最深的护城河。过去十年,半导体行业竞争的是单颗芯片,而未来十年,竞争的将是整个算力网络。 mv link 连接的不仅是 gpu, 它连接的是数百万颗芯片组成的超级计算机,也连接着未来 ai 世界最重要的基础设施。

这个新系列主要就会来针对现在各式各样的 ai 相关词汇或概念做解释,大家会不会觉得有些东西好像人人都在讲,自己不懂却又不敢问,但其实可能大家都不是很懂或都在装懂,所以我希望能够在短时间内让一般人也都对这些东西有初步的了解。 那首先要聊的就是 gpu, 虽然 gpu 存在已久,但想必有不少人知道这波 ai 浪潮,才知道或开始注意这玩意吧。那 gpu 到底是做什么的,和 cpu 又有什么不一样呢? 说到 gpu, 就 不能够不提 gpu 界的老大 n v d 二的创办人黄仁勋,有多少人是因为他访问台湾引起的旋风,或是他们一飞冲天的股价才开始关注他们在做什么的呢?基本上在各方媒体的轰炸之下,这阵子大家难免都会有 gpu 强无敌要统治世界了的这种感觉。 但这也同时引起的一般非业内群众有各种各式各样的问题,像是 gpu 跟 cpu 到底有什么不一样? gpu 那 么快,那为什么不全部都用 gpu 呢?为什么 ai 浪潮需要很多 gpu? 希望在简单介绍的时候再听到这些专有名词就不会满头问号啦。 cpu 中央处理器跟 gpu 图形处理器有什么不一样呢?大家有看过美国的三 d 动画电影小小兵吗?电影中一只只黄色的小小兵更带领他们兴风作浪的老大 groot, 各自就好像是我们的 gpu 焊 cpu groot 头脑很好,总是需要各种运筹帷幄,换言之就是运算速度快,而且能够做复杂的控制。 而小小兵呢?每一个个别的小小兵独立出来都相对头脑简单,然后主要是 in group 的 命令来做事。但 gpu 就 像是一群小小兵,一群小小兵加在一起就人多力量大了。虽然每个人做的事技术含量都不高,但合在一起的效果就很惊人了。 举例来说,如果你现在要减为积分或是什么很难的数学,没意外的话,你一定想交给 group 而不是小小兵吧。 但如果是简单的加法,但要做几百题嘞。如果能够做合理的分工,像是每个小小兵负责某一题的某一个位数,那么雇佣再怎么聪明也没办法做得比小小兵好吧。所以他们各自适合什么样的工作呢? cpu 适合的是能够串在一起的工作,擅长做各种逻辑控制分配工作,而且可以同时处理多指令。一般电脑常见的有双核、四核、八核等等, 可以想象是请了两个四个、八个 grill。 有 人这里可能会问,那你为什么不请一千个 grill 嘞?因为厉害的人很贵啊,如果不是想要建什么超级电脑,一般人的需求根本花不起这个钱。 而小小兵们呢,擅长并行的计算,密集的工作通常希望是单指令的,也就是每一盒同时间是做同样的事情。像刚刚算数的例子,虽然每个小小兵家的数字不一样,但都是在做加法这件事,他们通常都有成百上千盒。 这里的这个计算秘籍指的是他们分工下去之后,不用查资料,也不用问 cpu。 你 可以很简单的想象,如果你分配给小小兵的工作,还需要他们来来回回 google, 不 时动不动跑回来问你,那么这个效率就非常低了。 正视点地说,数据和资讯在 gpu 和 cpu 之间的移动是很花时间的,能省则省。 举个例子,要是我们想利用宿舍房间的灯在墙面上玩的,俄罗斯方块要怎么分工呢? glue 需要做的事就是做周详的规划,协调各方的工作,并依据不同的工作性质分配给不同能力的人。 我们小小兵们呢,最简单就是一人负责一间,然后将 glue 设计好的指令按按钮啦。 到这里应该就能够回答这个问题了, gpu 很 快,那为什么不全部都用 gpu 呢?主要是 gpu 的 定位很明确,就是计算,所以 gpu 不是 用来取代 cpu 的, 而是 cpu 会把 gpu 擅长的事分配给它。 而且 gpu 并不是做什么都快,要是能够分解,而且能够平行执行的工作,不然的话,论单一计算的能力, cpu 是 要比 cpu 强很多的。 前面俄罗斯方块的例子就像是 gpu 最经典的应用,也就是图形显示器荧幕,每个荧幕都有上百万个像素,总不能够让 gpu 串行的算每一个像素要做什么吧。 所以这里做的事就是让 gpu 的 每一盒,也就是每个小小兵就位相对应的像素,进行并行的运算。 再来要回答最后一个问题,为什么 ai 浪潮要很多 gpu? 难不成是需要很多荧幕吗?当然不是。 这边举一个简单的视域图。神经网路是构成了现代 ai 的 基本操作,这是一个迷你的一维的神经网路,由四个输入神经元连上三个输出神经元,要能完整布满这个神经网路,就需要四乘三十二条连接,也就是十二个参数,而参数换个词来说就是计算, 而这是一个迷你的二 d 神经网路,也就是现在各种图片 ai 的 基础操作。可以看到对于每个输出的像素位置,都需要知道它们相对应的输入像素的资讯, 这样看起来好像也不复杂, cpu 做快一点的话做不来吗?这两个例子的确做的来,但是现在那些模型,像是 dai 二 stables 都需要几十亿个参数。语言模型就更夸张了, g p d 三需要一千七百五十亿,而 g p d 四更是需要难以想象的一百七十万亿个。 如果是要 cpu 串行的串,不知道要算到何年何月。还好,从今往后的计算过程是可以拆分成很多彼此独立的计算的, 换言之,这些计算在 g p u 的 帮忙下,可以高度的并行,高效的完成工作。 ok, 最后来简单总结一下。

英伟达二零二六年到底能交付多少币?两百不只是黄仁勋说了算,也不只是芯片设计说了算,真正的应约束之一藏在先进封装里。 为什么呢?因为 ai、 gpu 不是 金源,做出来就结束了。 gpu 芯片、 hbm、 高带宽内存、中介层载板,还要通过 curves 这类二点五 d 先进工装组合成一个高性能模组。这个环节排产长、量率难、设备扩展慢,是 ai 算力链上经常被低估的卡点。 声明在前,本期内容仅做产业链逻辑分享,不构成任何投资建议。投资有风险,决策请独立判断。 先说 coos 是 什么,全名叫 cheap on wafer on substrate, 简单理解就是把 gpu、 hbm 内存和中介层放进同一个高密度封装里,让它们之间用更短路径、更高带宽、更低功耗通信。 那为什么 ai 芯片离不开它呢?核心是三件事情,第一, hbm 要和 gpu 高密度集成,必须依赖 coos 这类二点五 d 芯片封装,没有高带宽内存,再强 gpu 也会被数据吞吐卡住。 第二, b 两百这种级别的芯片功耗和热密度非常高,封装不仅是把芯片包起来,还直接影响供电、散热和系统稳定性。 第三, ai 训练和推理拼的是大规模并行,如果 gpu 和 hbm 之间的互联密度上不去,芯片性能就会被封装拖后腿。所以现在的局面是,英伟达 h 两百 b 两百、 amd m i 三百 google tpu 以及一批云厂商自研 ai 芯片,都在争抢台积电的先进封装产物潜能。 市场预估,台积电科沃斯月产量从二零二六年底可能进一步提升到十二到十五万片,看起来扩张得很快,但 ai 需求增长得更快, 所以过去两年先进 ai 芯片长期供不应求。那中国先进封装这一段是中国在半导体产业链里追的相对扎实的环节, 相比最前沿光刻机,先进制成和部分核心材料封测的产业基础更厚,国产厂商也已经在二点五 d、 三 d chip 的 方向持续投入。 a 股里面可以关注三类代表, 长电科技,国内封测龙头之一,在二点五 d、 三 d 集成 chiple 的 封装方向持续布局丰富,微点和 amd 绑定很深,长期参与 amd 相关产品的封测环节。但需要注意, mi 三百的核心 sock 和 curve 集成主要人由台积电完成,不能简单说 mi 三百核心封装由通服完成, 永系电子先进封装存储和 hbm 方向有布局储备。但 你要说清楚,国产科沃斯不是一夜之间就能追上的,这里面不只是设备问题,还有良玉啊,材料工艺整合、客户认证和大规模量产经验。现在更合理的判断是,国内先进封装还有几年印章要打,但封测这条链确实比先进制程更有机会先突破。 后面我们可以关注三个信号,第一看台积电科沃斯的季度破产节奏,只要 ai 大 客户持续加单科沃斯才能就是观察英伟达、 amd 和云厂商 ai 芯片交付的关键指标。第二,看国内风测厂商二点五 d、 三 d chiplet、 hbm 相关业务的收入占比,如果只是讲故事,收入不会动, 如果进入客户供应链,财报会慢慢体现。第三,看玻璃基板、面板及封装这类新技术的产业化节奏,未来封装要继续做,大面积、高贷款、低成本规中介层不一定永远是唯一答案。下一代封装路线可能会带来新的产业变量。 总结一下吧, ai 算力的天花板不只是在芯片设计,也在封装产能。台积电是英伟达的供应商,但反过来,台积电的 coos 产能也是英伟达 blackwell 放量的重要硬约束,要比最先进制成中国先进,封装的追赶路径更清晰,产业机会也更加现实。 下集我们来讲讲库打的护城河。 amd 努力了十年,为什么还是很难绕开英伟达?下集见!

ai 算力越强,数据越难搬?今天一分钟讲清楚什么是 cpo。 光电供风装在万卡 gpu 级群里,问题不只是算得够不够快,更关键的是 gpu 之间的数据能不能足够快、足够省电地传过去。 传统光模块向外接设备插在交换机前面板上, cpu 更像把光引擎搬到交换芯片旁边,距离变短,电损耗就下降。传统可插拔方案,电信号要在 pcb 上跑更长距离, 速率越高损耗,功耗延迟越难压。 c p o 的 核心就是把高速电连接缩到几毫米级,所以光模块形态正在引进。从分立器件到可插拔模块,再到进风装 n p o, 最后走向 c p o 供风装。拆开看, c p o 不是 单个零件,底层是交换芯片 a s i c 旁边有电学引擎 ec, 再往上是归光引擎 p i c。 最后通过光纤阵列把信号送出去。 c p u。 爆火最直接的原因是功耗。一个简化模型里,传统可插拔大约二十 p j bit n p o 约十一, c p o 目标可以降到约五。如果大规模商用, c p o 的 目标就是三件事,更低功耗、更高密度、更低丹比特成本。 ai 的 尽头不只是算力,还有数据搬运。当 g p o 越来越多, c p o 解决的就是芯片之间怎么更快更省电的传数据。

上期咱们留了个悬念,这三件大事背后到底隐藏什么动机?今天一次性给你讲透,搞懂这个。呃,你抓住了今年 ai 行业最大的风口。首先我先给你说核心的结论,这所有的变化 本质上都是一件事, ai 智能体 edge 爆发了,整个算力的需求直接炸了,你别以为还跟以前却 gpt 一 问一答的时代了,现在的 ai 已经有了手脚能自己干活了。你让他帮你抢一张特价的机票,他会自己去查航班啊,底价啊,填信息啊,付款啊,全程不用你管,你让他帮你做一份市场的分析,他会自己爬上几十上百个网站去整理数据啊,写报告啊,自己就能够避还?那这带来了什么? token 消耗直接翻了几十上百倍。之前有个叫 open cola 的 智能体就是因为抢龙虾期货爆火。 呃,人家单任务的 oppo 消耗就是传统屌电机器人的十到五十倍,更别说现在 更多的这个智能体的这个协同,好几个 ai 一 起干活,那就消耗直接就是百倍级的了。高通的 ceo 更是直接放了个数据,二零二六年全球十秒就有三百一十七亿个 oppo 的 需求, 到二零三零年,这个数据会涨到一点二七万亿,四年涨四十倍。你想想,这么大的数据,这个需求砸下来,那这个整个产业链不是变天了吗?首先咱们先看一个为什么 cpu 的 疯狂涨价, 国产双利订单暴增,太简单了,双利不够用了。阿里云的这个高管最近说了哈,过去五个月他们家的托管调用量直接涨了十五倍,这么大的需求上,有的 cpu 根本供不上,你看海外,因为达到 h 两百, b 两百租赁价格涨疯了,现货订单直接排到二零二七年,你有钱都买不到卡, 国内更夸张, s 两百的包夜六万起步,就这个还一堆人在抢,那抢不到海外卡的怎么办?国产的上利直接顶上来,深腾,海光这些芯片直接订单爆满,只要你把国产的芯片适配好,这个能跑这个模型,就能产出这个拓客, 那你直接就能把这这家芯片的所有的货都盘活了。为什么?因为现在谁手里有上利谁就能赚钱。 以前卖硬件,现在卖拓客,卖拓客比卖卡赚的可多了,整个市场直接从这个买方变成卖方。以前拓客都是打折卖,现在就是加价都买不到,你说 gpu 能不涨价吗?第二点和第三点的变化我们下期继续聊,想更多关注 ai 算力和拓客行业的资讯,可以关注华哥。