粉丝6486获赞8.5万

价值一百三十多个 w 的百万级别服务器,确实有点大,这一台机器呢,我们用上了 m d 销路的处理器和八块英伟达特斯拉 a 八百八十 g 啊,光这一句话就值一套房了呀。那这台机器啊,是北京某科技公司的刘总定下的, 用来训练图像深沉的模型。果然金银出手就是豪气,百多万的福气,换大家手上一个赞,这买卖值了,机枪,咱们选择 n 五四六八 a 五这个四优的老伙计啊, 双路骁龙七零三平台,支持八张双宽, gpu 的扩展性不是一般的能装,哎,深图说白了和深度学习息息相关,以 gp 为主,当然处理器的核心和主屏啊,能提高数据与处理效率。两颗 md 七四五三处理器核心不高,但是加速频率能够达到三点四五 g 啊。 内存不多说,为适应大规模图像生成模型啊,所需的大量参数和中间数据, 三十二根六十四 gb ecc 内存,一共两 tb 的内存容量。针对大规模图像生成任务的,不仅要多个 gpu 进行并行计算, 还要具有大量的扩大核心和浮点计算能力。八张大金砖 a 八百八十 g 显卡再合适不过,也就一百一十二万左右吧。高性能存储系统啊,也是必须的,两张三点八四 tp 固态做系统盘,哎,数据盘呢?哦,原来是客户,他自己有存储,那就不用管了。 最后四张两千两百瓦的热插吧,荣誉电源这个服务器呢,可以说是超级豪华了,我可以说他能够完美的应对绝大部分深度学习的应用场景,这就是传说中的利达飞砖吧。


兄弟们,一张显卡驾驶一辆特斯拉,两张显卡呢?二三线城市的一套房你们见过没?今天我给大家带来一台 h 一 百原版的这种服务器,来看一下。 cpu 这边的话我们是采用了一个英特尔四代的六四三零是有三十二建成六十四核心, 那我们主板这里是选用了一块 g 加的四六七七双入的主板,也是一个全新的,给大家拆开看一下,这块主板支持两颗四六七七的处理器,也是挺好的,非常适合我们 研发部署。我们这里硬盘是选用了两块四百八十 g 的 卡侠的硬盘,准备做一个瑞特一保护数据的安全,然后我们数据盘我们是采用了一块西邪霸气的这种国行的盘机械硬盘做一些数据备份。我们今天的重头戏是这块显卡 h 一 百原版的卡,这张卡相当于一辆特斯拉,现在这辆特斯拉就在我的手上, 这个是原版的卡,所以说特别高。我们定制版的卡,他就是从那种 sm 叉里面把核心拆下来送到工厂再重新做出来,这种是叫定制版,但其实总的来说定制版和原版的性能其实没有 多大的差距,所以说我们选择根据预算以及我们的使用场景,可以选择定制版以及我们普通的原版这种显卡,我们这两张 去办显卡,目前价格差不多要五十个 w, 相当于二三线小城市的一套房,我把这两张显卡放在路边,大家可能都认不出来它价值五十万。总的来说原版跟定制版反正根据用户的需求以及预算, 我们可以进行一些多样化的选择,我们这里这个机箱我们是采用了一个机塔互换的一个四 u 的 机箱,这里面有完整的通道,以及我们可以进行一些多功能的扩展,都是可以的。这个机箱做工也是挺好的, 我们今天配置就给大家介绍到这里,我们下期视频我给大家看一下。这台机器组装好之后,他跑一些模型以及做些测评,他的效果到底怎么样,是不是跟我们定制版的这种显卡有很大的差距?我们下期给大家看一下。关注电子华图,带你了解更多服务器的小知识。



英伟达 a 一 百和 a 八百的区别是什么?应该怎么选?直接说结论,这两张卡在最核心的计算性能上几乎一模一样,同样的 gucci 核心数量,同样的显存容量,但是唯一的也是最关键的一刀 砍在了多卡互联的高速公路 nv link 的 贷宽上。 a 一 百是六百 gb 每秒,到了 a 八百被限制到了四百 gb 每秒,这限速有啥影响? 分情况,如果你只用一张卡做推理或者小模型训练,放心,两者体验没差。但如果你要组建多卡服务器跑大规模 ai 训练,数据在卡之间疯狂交换, a 八百那条窄了的高速路就可能拖后腿。 在一些较大的模型训练里, a 八百基群可能要比 a 百的基群速度慢上百分之十五到百分之三十之间。所以要怎么选呢?第一,看合规和渠道,这是硬门槛。第二,看你的真实场景,追求极致多卡效率,那就 a 一 百。 a 当然有个前提啊,你得买得到。





