00:00 / 04:43
连播
清屏
智能
倍速
点赞167
司波图4月前
拼好机!2500元装一台AI服务器!vLLM张量并行性能暴涨 💥2400元预算挑战AI算力天花板!本期视频,我们解决了Radeon VII / MI50 等 gfx906 架构显卡长期以来无法使用 vLLM 张量并行的痛点! 我们将全程展示如何用两张“过气”Radeon VII显卡,搭配X99“洋垃圾”平台,组装一台总价仅2397元的AI算力服务器。通过社区大神 nlzy 提供的特制Docker容器,我们成功解锁了vLLM的张量并行功能,在Qwen3 32B量化模型上实现了98 tokens/s的并发推理速度,性能是Ollama的6倍以上! 视频最后,我们还将通过Open WebUI,实战演示8个用户同时访问这台服务器的流畅体验! 本期硬件配置清单 (总计: ~2397元) 显卡 (GPU): AMD Radeon VII 16GB x 2 (二手 ~1600元) 主板 (Motherboard): 精粤 X99M-PLUS (~300元) 处理器 (CPU): Intel Xeon E5-2680 v4 (56元) 内存 (RAM): 海力士 ECC REG DDR4 8GB x 4 (176元) 硬盘 (Storage): 512GB NVMe SSD (~150元) 电源 (PSU): 额定850W 金牌认证电源 (二手 115元) 【本期方案超详细文字版教程】 为了方便大家复现,我们已经把今天所有用到的命令、链接,以及一份超详细的文字版部署教程,全部整理好,放到了UP主的Gitee主页上! 直达链接:https://gitee.com/spoto/R7vllm 如果觉得本期视频对你有帮助,请务-务-务必 点赞、投币、收藏 三连支持一下UP主!你们的支持是我爆肝更新的最大动力!感谢大家! #AI #AMD #vllm #服务器 #装机
00:00 / 07:59
连播
清屏
智能
倍速
点赞4435
00:00 / 01:20
连播
清屏
智能
倍速
点赞36
00:00 / 00:19
连播
清屏
智能
倍速
点赞13
11月27日,长盈精密在互动平台扔下一个重磅消息:谷歌是公司前十大客户,双方已经深度合作十年,现在还在联手开发新品!是不是很好奇,这家低调的企业到底在给谷歌做什么?又为啥能被全球科技巨头抢着合作? 先来说说大家最关心的,长盈精密可能在给谷歌研发哪些新品?要知道谷歌最近动作频频,即将推出对标英伟达的第七代TPU旗舰芯片Ironwood,这可是能搅动全球AI算力市场的“大杀器”,单芯片峰值算力高达四千六百一十四 TFLOPS!而长盈精密刚好擅长服务器铜缆及连接器这些核心配件,这些就像是AI芯片的“神经网络”,少了它们算力再强也跑不起来。除此之外,谷歌的Pixel手机、AR/VR智能设备一直迭代不断,长盈精密在消费电子精密结构件领域深耕多年,很可能在给这些产品打造更轻薄、更耐用的机身部件。虽然公司没明说,但结合谷歌的新品规划和长盈的业务强项,这波合作大概率瞄准了AI和智能终端两大热门赛道。 能和谷歌合作十年还持续开发新品,长盈精密的“朋友圈”可不止这一位巨头!海外科技圈的半壁江山,都有它的身影。三星作为全球消费电子龙头,早就把智能手机、电脑的精密结构件订单交给了长盈,越南生产基地就近供货,协同效率拉满;Meta的Ray-Ban智能眼镜,镜架、铰链这些关键结构件就是它家的手笔,让智能穿戴更轻便舒适;特斯拉的人形机器人Optimus更离不开它,核心传动件的市场份额超过七成,单台机器人的配套价值就有四万元,未来一年有望带来超二十亿元的收入增量;还有海外新锐机器人公司Figure AI,不仅签下了两万套灵巧手关节总成的订单,还和长盈达成了三年战略合作,高层专门飞到东莞工厂考察点赞。从消费电子到新能源汽车,再到人形机器人,长盈精密的产品几乎覆盖了科技巨头的核心赛道。 那么问题来了,全球科技巨头为啥偏偏认准长盈精密?核心原因就三点,每一点都硬气十足!首先是研发投入“下血本”,公司年均研发占比营收达到十个百分点,累计专利超三百项,人形机器人相关专利占比就达三成五。其次是制造精度“超苛刻”,能把零件误差控制在微米级,机器人关节齿轮的精度更是达到国际领先的一弧分以内,就像给机器 人做“关节手术”一样精准。最后是响应速度“超给力”,靠着千台CNC设备的柔性生产调度,订单响应周期缩短至四十八小时。 #长盈精密 #谷歌tpu #人形机器人概念股 #ai眼镜概念股
00:00 / 03:12
连播
清屏
智能
倍速
点赞1843
00:00 / 00:21
连播
清屏
智能
倍速
点赞4
00:00 / 00:08
连播
清屏
智能
倍速
点赞148
00:00 / 01:34
连播
清屏
智能
倍速
点赞7
00:00 / 06:03
连播
清屏
智能
倍速
点赞3
00:00 / 03:02
连播
清屏
智能
倍速
点赞1806
00:00 / 05:03
连播
清屏
智能
倍速
点赞96
00:00 / 02:40
连播
清屏
智能
倍速
点赞25
00:00 / 01:48
连播
清屏
智能
倍速
点赞43
00:00 / 00:46
连播
清屏
智能
倍速
点赞34