这颗显卡强到被禁止在国内出售,如果你以为四零九零就是目前最贵的显卡,你就大错特错了,这颗显卡光是价格就是四千零九十的二十倍。大家好,这里是泰润通电。三月二十一日,英伟达在 gtc 大会上 发布了专为拆 gpt 设计的核弹, gpub 是一百 ada, 较之适用于之前的 a 一百,速度提升十倍。强盗被禁止在国内出售。 拆 gpt 让生成时 ai 成了时代的风口,人工智能或许会比流浪地球预想的还要来的更快些。英伟达创始人黄仁勋表示, 我们正处于人工智能的 iphone 时代,生成是 ai 将重塑几乎所有行业,谁能买到 h 一百,谁就能在这 ai 大战中获取更充足的弹药。你做出来 的是人工智能还是人工智障,全靠背后的算力支持,直接决定的胜负。或许正如老黄说的, helping the world do the impossible have a great gtc。
粉丝9334获赞3.8万

我们有些网友在问我啊,如果企业要做大模型呃,使用这些大模型的话,应该选择什么样的 gpu 啊?那就建议大家就是选择这个四零九零啊,因为它的性价比会更高啊。那啊,李博士的这样一篇啊, a 一百和 h 一百太贵,何不用四零九零啊这样一篇文章跟大家来介绍一下 啊。首先先讲结论啊,结论的话呢,就是四零九零的话呢,他是做推理,他的性价比会非常高啊, 如果做大模型的这个预训练的话是不行的,四零九零是不行的啊,那么如果四零九零做一些微调的话,其实勉强也是可以的,勉强也是可以。好,我们来看看啊,他为什么,那么我们看一下,其实一百 a 一百和四零九零,他是在算力上面,他其实相差是不大的,特别四零九零跟 a 一百,他在 p 十六的这个算力上面啊,几乎是差不多, 甚至四零九零比 a 一百还更快一点啊,那么 h 一百的话,跟四零九零的他的那个算力才接近三倍,这是一个,所以的,因为我们在推理过程当中呢,主要是用单模型,模型需要的这个数据量会比较小,所以他主要靠算力就够了,当然呃内存贷款也会比较重要一些,但是问题也不是太大啊, 它比训练的时候要少啊,那么预训练过程当中呢,因为它是要呃几千块的 g、 p、 u 进行联合训练的,所以的话非常看重这个 呃 gpu 跟 gpu 之间的这个通讯贷款啊,他会非常看重啊,这个会成为他的这个瓶颈,所以四零九零跟 a 一百 h 一百对比的话,他啊至少差了十五倍啊,所以的话呢,他的这个通讯啊, 如果有几千块 gpu 同时要进行相互的数据进行交互的时候的,那么做大模型的运行,连 h 一百和 a 一百就更合适了,四零九零就不太行了,那他这个主要的差异在这,好,我们来 看一下啊,这个网站给大家看一下啊,四零九零跟 a 一百的那个对比来看一下,我们看到那个四零九零的话是二点三九啊,他的这个速度,速度还是比较快。 a 一百二点二九,你看的话差别不是太大了, 差别不是太大,但是它的价格要相差十倍啊,甚至十对啊,所以的话它这个性价比是非常高的。 二点三九,他跟这个相差不是太大的,二点九五差不多的,这个要差,所以他的这个性价比,四零九零的性价比就非常高啊,我们测下来他的性价比至少是至少是大概是 五倍以上的这种性价比啊,除非就是说你的这个量非常大啊,你的这个量非常大。好,我们再来看一看啊,我们来讲一下他,他他如果,为什么他四零九零,他这个训练他就不太行啊,我们看一下,如果一个训练拉玛 two 七十 b 等于一个模型,他需要 两千四百块 a 一百的这个 g p u 啊,你看啊,它是需要的 g p u 是非常多的,因为它在呃喇嘛处,它不光有参数啊,它还有数数据啊,还有这个中间的每一层的这样的一个一些一些过程的一些数据和参数,它都要保留和计算,所以它需要大量的这个 g p u 大量的内存, 那么有这么多块 gpu 之后的话,他就要对 gpu 和 gpu 之间进行通讯啊,所以他的贷款就会成为一个比较大的一个成本啊,最大的一个瓶颈啊,所以四零九零的话就,呃,他只有六十四 gb, 跟九百 gb 比起来,他这个差的就太大了啊,如果用四零九零来训练的话,就成通讯就成为了最大的一个问题啊, 同时性性价比就会非常差了,他等于是这样啊,而且这么多块 gpu 的很容易坏啊,因为你 gpu 快速越多的话,他越容易坏,如果当中有一块出现问题的话,他整个模型要中断掉了,他等于是这样啊,好,我们一起来 看看。我们如果要进行这种阿玛 two 这个七百亿参数模型训练的话呢,他们需要做几个事事情啊?这个两千四百块 gpu, 第一个的话呢,他是要做数据的并行,他就是他把一个 几个 t 的这样的一个数据,他要分发到不同的这个 gpu 上面去,然后训练啊,这是叫 data 的并行数据并行啊。第二个并行的话呢,就是他会把因为你这个模型一块的这个一个模型的数据在一块 gpu 里面可能是放不下的啊,所以的话呢,他会按照每一层 把某几层放在不同的这个 g p u 上面进行串联啊,这个叫流水线并行啊,三个的话呢,它主要是叫 tensor 张亮并行,张亮并行的话是我们目前训练的这个 phone 的模型都是多头的啊,多头他每一个头其实他都是可以按照张亮来进行并行训练啊,所以他的整个一个 个呃,像阿拉玛杠七 b 的这种模型的话,会通通过张亮啊,流水线数据三种并行方式啊,从模型内层到模型层之间啊,和训练数据三个维度进行计算空间的划分, 二四两千四百块 gpu 要进行大量的这个协调和通讯计算,他等于是啊,所以的话呢,这个就导致了这个四零九零的话,通讯贷款不够的话,是不能做这方面的训练的,因为他效率会很低,效率会很低啊,这个是关键的一个因素啊。好, 那么我们再呃,再给大家再介绍一个项目啊,这个项目的话呢是 bexitis 啊,他们目前开发的啊,叫潘透斯啊,潘透斯啊,这个项目可以把很多小的四零九零的这个 g p u 啊,组成一个 p to p 的一个网络,然后它可以结合起来啊,把它变成一个网 之后,他们可以把这些网络上面的 gpu 把它连接起来,作为一个微调,或者进行一个就是推理啊,他这个就是这个也是可以的啊,通过这种方式也是可以是这样来做的。那么这个项目的话呢,他据说的话,这个 ptp 网络的话呢, 他可以把单个节点啊,呃,通过这个网络的话可以加速十倍,所以性能会也会不错啊,所以我们也不用担心,如果我们买了一些四零九零的一些 gpu 之后的话呢,他,呃,企业一般做微调的应用场景会比较多啊,那么他其实是可以用一些比较好的一些技术架构啊, 像潘斗士啊这种技术架构可以作为一些 p two b 网络的联合的这样的一个微调的这种方式去做啊。好啊,如果这个项目如果大家也有兴趣的话也可以看一下啊,目前这个项目钉啊也是比较新的啊,七点六个,七千六百个信心啊,这个热度也是比较高的。他这个项目啊,然后也有 相关那些论文啊,我也下载,如果大家有兴趣的话可以去看一下。好啊,今天的话,关于那个企业级的一些不利部署的大模型应该选用什么样的 gpu 啊?这样这个话题就跟大家就交流到这。好,谢谢各位。

h 一百跟四零九零太谁厉害?你可以把四零九零太比作职业电竞选手。 h 一百啊,比作研究所的科学家,在各自领域呢,都是佼佼者。 h 一百能拿到手,路子有点野。 著名的诗人邢慕容曾经说过,世界上本没有路,走的人多了也变成了路。明明是九万,干嘛说二十五万。 兄弟,你看的是 a 一百吧。 h 一百啊,是 a 一百的升级款啊,采用英伟达最新的后肯架构对比, a 一百呢,性能提升了六倍,是当今最强的计算卡,专门用于数据科学深度学习,人工智能高性能计算等领域。可以挖矿吗?嗯,可以,但是亏得你血本无归啊。

四零九零两万米的确很贵,那二十四万米的显卡你有见过吗?我说的是英伟达专业显卡 h 一百,这款显卡凭什么这么贵?今天霞姐给你科普科普。 h 一百加速计算卡, 首次采用了台积电四纳米工艺,拥有八百亿个晶体管,比上一代 a 一百显卡还多了两百六十亿个,拥有八组 gpc 图形处理集群, 七十二组 tpc 文理处理器集群,一百四十四组 sm 流处理器单元,总计一万八千四百三十二个 q 大核心。 h 一百显卡拥有八十 gb 的 hbma 显存 带宽,高达恐怖的二 tb 每秒,首次采用 p c i e 五点零技术,从数据看, h 一百就非常的牛。最后,霞姐有个疑问,用这张 h 一百显卡玩撸啊撸能不能稳定两千针呢?

比当前最强显卡四零九零还强一万倍的见过吗?就在前段时间的电脑展上,老黄关注了一个史上最大的核弹 gh 两百超级芯片,他封装了七十二核心的 cpu 和最强服务器显卡 h 一百以及九十六 gd 显存和五百一十二 g 内存,听起来是不是很恐怖?接下来还有更加重量级的 二百五十六颗 gh 两百超级芯片组合到一起,那就是 bgxgh 两百 ai 超级计算机,其 ai 预算能力达到了一百万万亿次,比四零九零高一万倍还多,不知道这台超级计算机要卖多少钱?玩元神卡不卡啊?

今天我们来认识一下地表最强 gpu h 一百。首先给不了解的小伙伴科普一下, h 一百产自科技巨头英伟达,属于三大系列中特斯拉系列的企业级 ppu, 这一系列的卡主要用于超算、数据中心等领域, 但是过去几年,老黄把事业重金都转移到了 ai 计算领域,这张 h 一百也主要是为 ai 服务的,像大语言、模型训练、自动驾驶、 科学计算都离不开它。 h 一百在二零二二年三月份就已经发布,使用台机电自纳米工艺, 具备八百亿个晶体管,同时采用最新的 hope 架构,共有 p c i e 和 s x m 两个版本,其中 s x m 的版本相对来说更高级一些,它有一百三十二个 s m, 一万六千八百九十六个, 主打黄金五十兆 l 二缓存,同时有八十 g 的 hbm 三缓存,带宽达到惊人的三 td 每秒, tdp 更是高达七百瓦,俨然就是一个发热怪兽。 同时 s 一百显卡支持通过 dgx 系统串联组合成八合一的巨型 gpu 显卡组,可以提供至今为止最快的单显卡 ai 转运。 而更为疯狂的是,当你集齐三十二个 dgx 点卡组织后,可以组合成一个 dgx pro 运算中心,直接得到两万零四百八十 g 的 spm 三总成, 以及史诗级的七百六十八 k d 每秒的显铜带宽。要知道二零二二年全球互联网数据存储总量 不过是接近八百 bb 每秒,拥有如此强大硬件配置的印象能力,他对得起地表最强的声号,但是遗憾的是, h 一百在国内却无法购买。

笔记本的 rtx 四零九零显卡到底有多强?笔记本的 rtx 四零九零呢,规格方面,采用了台机电四 n 工艺,最新的 id lovelist 架构,拥有九千七百二十八个扩大核心,十六级别的基地带,二六线从二百五十六位的线从位宽,支持第五代的 max q 技术, 这里面呢,也包括目前仅支持五十款游戏和应用的新大杀器 dlss 三。从最近发布的四零九零新游戏本可以看到,因为达到标准功号上线呢,是一百五十万,加持了动态功号增强后呢,满血是一百七十五万,于是呢,一百七十五万满血的笔记本四零九零 ts 显卡分呢,可以跑到两万两千分。散热调教超频做的更好的机型呢,可以跑的分数更高,这个性能分数甚至超越了台式机上一代顶级的三零九零肽,基本可以持平台式机新一代的四零七零肽。 实际上呢,笔记本 rtx 四零九零采用的是与台式机四零八零一样的 a d 幺零三核心,甚至呢扩大核心线头微宽等都是一样的,只是频率线从颗粒、功号等方面有所区别,可以简单理解为是台式机 rtx 四零八零降频降功号改分装移植到笔记 本上。而台式机的四零八零十六 g 呢,三零 max ts 显卡分呢,可以跑到两万八千分。这么一对比,同核心的笔记本四零九零明显性能没有完全发挥出来,大概率呢,是工号不够微不保。不过呢,在笔记本上呢,实际上这颗四零九零已经很强了,对比上一代笔记本顶级的三零八零碳 ts 显卡分呢,提升了约百分之六十三,对比新一代笔记本,四零八零 ts 显卡分提升了约百分之十九。 如果按价格论,不太科学的进行对比,四零九零新笔记本目前最低价是二幺九九九,每一封需要约一元以上,而四零八零笔记本目前最低价是一万四千九百九十九,每一封需要约零点八元以上。而 rtx 三零八零太目前最低价约一二九九九,每一封也需要零点九六元以上。那加上模具、屏幕、内存、硬盘等方面的差异, 目前最划算的呢,其实是新款低价的四零八零游戏本,至于四零九零游戏本,性能确实很强,规格也很炸,堪称史诗级提升,但价格呢,也确实很硬核,没有两万以上的预算呢,完全没有选的资格。你这里是颠覆玩家,咱们下期见。

英伟达卖三万美元的计算卡,成本居然只要三千美元?最近啊,海外的一家投行呢,对英伟达 h 一百的报名清单啊进行了分析,大概呢估算了一下物料成本,咱来看看是怎么一回事。 h 一百啊,最核心的部分呢是 gpu 核心啊,加上六颗 hbm 存储,然后啊靠 cos 封装技术啊,把这七颗芯片呢打包在一起, 这里插播一下,有些新来的小伙伴呢,可能对 h 变码和 cool 风中不是很熟悉,可以呢,去主页看一下我们之前的两期视频,专门呢有讲过 h 一百的成本大头啊,其实呢也主要就在这三个核心部分。我们先来看一下 h 一百 g p u 核心成本, 英美达呢用的是台机电的森工艺一片价格啊在一万三千美元的十二寸金元呢,至少啊可以出六十五颗芯片,那每颗芯片的成本呢大概啊在两百美元左右。 hpm 存储啊,英伟达呢用的是 sk 海力士,每 gb 的价格呢是十五美元一张。 h 一百的 hbm 存储呢,一共有九十 gb, 那么成本大概就在一千五百美元左右。最后啊是封章这个技术呢,台机电独占,虽然啊台机电从来没有公布过成本是多少, 但是呢我们从台机店的财报当中啊,可以测算一下, cos 封装啊,占总营收的百分之七左右,而且呢只有伊美达和 mb 在用,成本呢大概就在八百美元左右,那都快赶上存储了。这三样成本加起来啊,再算上零零散散的器件和一些材料,成本呢大概就在三千美元。 看伊美达的售价呢,就是在成本上啊,直接乘以十,然后这刀法真的很扎心。不过这成本呢,只是比较粗浅的算了一下,制造的部分,能造出这些芯片,钱呢?这些研发投入啊,肯定也是巨 要知道啊,因为达光电子硬件工程师平均的年薪啊,可就有二十万美元。但更加重要的呢,还是因为达玩了十几年的扩大软件生态,已经啊砸了几百亿美元进去,想玩转 ai, 你软硬件都逃不过英伟达,这才是 h 一百敢卖三万美元的核心原因。老黄啊,早就说过,英伟达可不是一家 gpu 公司。这话瞅的是不是有点眼熟啊,对,乔布斯也说过。


给准备买四零九零显卡的老铁一些建议,如果你不差钱的话,那这个视频就可以不用看了。 富哥哪里还需要看什么购买推荐,选贵的买就是了。如果说你是玩吃鸡歇斯购永结乌尖之类网游,不怎么吃显卡性能的游戏的话,那一到两 k 分泌率完全可以考虑买三零七零泰到三零九零这些显卡, 老型号显卡能便宜不少,而且性能是够用的。对比四零九零,你会发现增数没有多大的区别,就是显卡占用高低而已。如果你是玩三 a 大作或者视觉档, 玩吃鸡打劫这种 fps 游戏也开四 k 分辨率玩高画质体验的话,那四零九零会很适合。不算光追跟大力水手的提升,纯拼价 架构跟哭打核心数量对比,三零九零太就有百分之五十以上的提升。而且三零九零来说只能算四 k 游戏入门,更高规格的四零九零游戏体验会来得更好。我是老提莫,你身边的电脑硬件帮手。