这是一个比智能重塑的时代, ai 大模型迈向多模态融合,对算力的需求指数及增长。从单芯片、单机到超级点再到集群,算力瓶颈越来越大,急需系统创新重构。 就在华为开发者大会二零二五上,我们听到了华为云的答案。 今天, g 卡尔迈克三八四超节点的新一代升腾 ai 云服务已经在芜湖、贵安、乌兰察布和林格尔全面上线。 我们致力为大家提供澎湃的 ai 算力,让大家不再有 ai 算力短缺的焦虑。单芯片落后一带,当我们用数学股 物理非摩尔补摩尔,用群计算补单芯片,这是华为创始人任正非的重磅发生,也是基于克拉特 matrix 三八四超级点的新一代升腾 ai 云服务给出的答案。 在东莞松山湖的 hdc 现场,我们看到了新一代升腾 ai 云服务的创新架构 about metric 三八四超节点。在这里,三八四不是冰冷的数字,而是三百八十四颗自主创新的升腾 npu, 通过全新高速网络对等互联形成的一台超级 ai 服务器。 plant metric 三八四超节点,将算力从单台服务器的六点四 p flops 提升到了超节点三百 p flops, 算力提升了近五十倍。 skill alt 两级交换网络进一步将超节点集连形成集群,最大支持十六万卡规模,业界最大提供十万批 flops 算力,可以支持约一千三百个千亿参数的大模型同时做训练, 通过对等磁化的超节点架构,实现资源的灵活调度,让千亿万亿参数模型迅推无忧。 张总,您好,我在想请问您,那么基于 cloud matrix 三八的超节点的新一代升腾 ai 云服务是如何突破了传统设计的瓶颈来提升超节点的痛苦能力呢? 由于这个工艺受限,我们在芯单芯片上还没有做到。业界的最新技术就是我们用系统的能力来补单芯片的能力。我们用我们的高速网络 mattress link 把三百八十四个声头 这个芯片连接成一台一台计算机,我觉得这是我们最主要的突破。那我们想了解一下 cloud matrix 集群是如何做到百分之九十五的线性度。其实集群线性度啊,有两个很关键的因素, 一个关键的因素是通信上不能产生瓶颈,因为十六万卡那相互之间通信不能产生瓶颈。第二个问题就是在十六万卡上这个算力的任务的分布要均匀, 我们一行代码就可以把一个大模型的任务能够很自动化的均匀的分布在这个整个集群之上。 那么新一代双腾 ai 云服务呢?据说是最 q 和大模型应用的专利服务,那我们应该如何来理解这一点呢?那我们的这个超前天里面的卡数比较多,所以正好适合这种一卡一专 家。那我们可以把千亿大模型的数百个专家变形的分布在我们的把超节点的各张卡上,然后进行变形的计算。所以我们可以讲我们这个这样大的三八四的超节点的架构是最适合像 moe, 像千亿大模型 这样的架构的,我们也相信这是提供给了世界另外一种选择。新的一种选择是是华为语音基于 cloud matrix 三八四超节点打造的新一代升腾 ai 云服务, 它具有算力密度领先、互联贷款领先、长稳可靠、灵活高效、未来可控的核心竞争力,正持续赋能产业智能化的基座建设, 深度赋能于我们的人工智能、科研创新、互联网应用以及企业软件服务等核心领域。当前,一批批行业先锋率先使用升腾 ai 云服务,以接出累累 说过,在人工智能领域,灰机流动正在使用 cloud matrix 三八四超节点为数百万用户高效提供 tipsik v 三二一的推理服务。在科研领域,中科院寄予 cloud matrix 三八四超节点打造了自己的模型训练框架, 构建了中科院 afss 科研大模型,摆脱了对国外高性能 ai 算力平台的依赖,升腾 ai 云服务也在全球开花结果,客户数量跃升至一千三百四十六家, 未来大模型参数量从万亿走向十万亿甚至百万亿,对 ai 训练集群的规模算力需求将迈向 g flops 时代,模型复杂度跃迁,还将持续遭遇基础设施瓶颈。而随着近年来自动驾驶、 云宇宙视频和游戏等应用不断创新发展,对于多元融合算力的需求也在与日俱增。在产业界看来,基于克拉特 matrix 三八四的新一代升腾 ai 云服务也是为提供多元融合算力而打造的坚实算力的一种。 那么我们在呃算列的故事的场景,一般来说都是呃银边端这种立体的这种模式。第三个的话,就从整个一个集群来说,那么他的这个加号里面就可以设计到 呃算力的多元,那么里面会有呃 cpu, 有 gpu, 有 npu 等等这些算力去统一的这个管理和调度。随着大模型的一个发展,那么传统服务器的以太网互联已经成为一个瓶颈,那么这个当 也是行业的一个重大的一个难题。所以我们在三八四超级点里面的话,对整个网络那么进行了重构,那首先的话是重构了组网,我们通过加分布式晴天混合组网,改变了传统 cos 的一个组网架构,那么将 npo 通信代宽提升了十四倍。 第二,我们是重构了一个协议,我们把 cpu 到 npu 之间, npu 到 npu 之间的协议,那么统一为自研的协议, 减少了协议开销,那么使得小包传授的啤酒与食盐降低了一百倍啊。第三,重购了通信协议,那么将传统的这个通信羽翼转变为一个内存羽翼,那么使得通字通信算子的性能再提升了十倍。 第四层呢,是重复了通信的调动,那么以前的话是传统的一个随机调动,那么通过三八四的 memer link 技术,我们实现了一个全于统一的拓普的感觉路 油,那么使得万卡通信零中断,空气效率提升百分之三十。超级点的发布呢,对于行业来说也是非常重要的一件事情,那么同时呢,对于我们个人开发者来说,我们也有了更多的呃长性创新的解决方案。 基于克拉的 matrix 三八四超级点的新一代升腾 ai 云服务,是最适合大模型应用的算力服务。在全面智能化的道路上,华为云正向着云底座和使能器目标持续发力,为世界提供另一选择。 深扎根基,方请千军之中,云起九霄,终则万物之声。 plug matrix 三八四升腾 ai 鱼服务的故事,本质上是中国算力十年磨一剑的缩影。用系统创新弥补单芯片的代差,用开放生态打 或技术壁垒,用长期主义筑牢发展根基,不去想困难,干就完了。一步一步往前走,新一代升腾 ai 云服务正在开启算力新纪元,东方智慧正在重新定义科技的未来。
粉丝2762.8万获赞15.4亿

