00:00 / 04:56
连播
清屏
智能
倍速
点赞954
00:00 / 01:50
连播
清屏
智能
倍速
点赞132
00:00 / 06:03
连播
清屏
智能
倍速
点赞273
00:00 / 00:48
连播
清屏
智能
倍速
点赞126
Qwen3.5-35B视觉多模态本地跑通,性价比炸裂💥 在2026年的今天,想跑大模型还要花几十万买H100/A800?NO! 🙅‍♂️今天给大家展示一套“极度务实”的国产化AI推理服务器方案。 CPU: 国产之光海光3490(16核32线程) 显卡: 2张 RTX 4090 48GB 魔改版(显存翻倍,快乐翻倍!) 目标: 完美运行 Qwen3.5-35B-A3B-FB8 视觉多模态模型! 总成本不到专业卡的零头,性能却足以应付绝大多数私有化部署场景!🔥 🤖 为什么选这套配置跑 Qwen3.5-35B? 1️⃣ 显存才是硬道理!💰 Qwen3.5-35B 是一个巨大的模型。 FP16精度:需要约 70GB+ 显存。 INT4量化:需要约 20-24GB 显存。 但是! 我们要跑视觉多模态 (Vision) + 长上下文 (Long Context) + 高并发。 图像编码需要额外显存。 KV Cache 在长文本下会吃掉大量显存。 双路4090 48G = 96GB 总显存。这意味着你可以: ✅ 轻松运行 FP8/INT4 精度的全量模型。 ✅ 预留充足显存给 高分辨率图片输入。 ✅ 支持 更长上下文 (32k+) 而不爆显存。 ✅ 甚至可以做小规模的 LoRA 微调!🛠️ 2️⃣ 海光3490:被低估的国产老将 🇨🇳 很多人觉得16核不够用? 在推理 (Inference) 场景下,瓶颈主要在 GPU 和 PCIe带宽,CPU主要负责数据预处理和调度。 海光3490基于Zen架构,PCIe通道数充足,能喂饱双卡数据流。 重点: 在信创、政企、涉密场景,国产CPU是刚需。这套方案完美符合“自主可控”要求,且成本极低! 📝 总结 这套 “海光3490 + 双4090 48G” 的方案,是2026年中小型企业、科研实验室、极客玩家部署私有化大模型的版本答案。 不要迷信原厂标,适合业务的才是最好的!如果你也想搭建自己的AI大脑,这套作业可以直接抄!📝 #大模型 #Qwen35 #国产芯片#RTX4090 #多模态AI
00:00 / 02:13
连播
清屏
智能
倍速
点赞5
00:00 / 03:42
连播
清屏
智能
倍速
点赞2
00:00 / 01:11
连播
清屏
智能
倍速
点赞5
00:00 / 07:03
连播
清屏
智能
倍速
点赞3
00:00 / 00:55
连播
清屏
智能
倍速
点赞14
openwrt也能无线中继ipv6和ipv4 在将 OPENWRT 作为二级路由进行无线中继连接上一级路由后,若要像商用路由器那样让 LAN 口和 Wi-Fi 同时支持 IPv4 和 IPv6,可按以下步骤操作: 首先,进入网络设置界面,删除其他默认网络。使用 5G 端口对周围的无线网络进行扫描,以找到上一级路由。扫描完成后,系统会自动分配 wwan 口。 接着,在频段设置中,需根据上一级路由实际使用的频段进行填写,切勿选择“自动”选项。之后,将上一级路由的连接分别分配到 wan 口和 wan6 口,其他设置保持不变。完成分配后,点击“保存并应用”。 然后,添加一个属于自己发射的 Wi-Fi 网络,并将其分配到 Lan 口。这里的数据设置要与上一级路由保持一致,设置完成后再次点击“保存并应用”。 随后,进入接口设置界面,创建一个名为 wwan6 的接口,并创建 dhcp6。接着,进入 DHCP 服务器设置页面,将所有选项都设置为中继模式,并将其设置为默认主 DHCP 分配口,设置完毕后点击“保存并应用”。 之后,查看 wan、wan6、wwan 这些接口,将它们的 DHCP 服务器全部设置成中继模式,注意不要勾选“忽略接口”,也不要将其设为主接口。 接下来,回到网络设置界面,找到之前扫描到的上一级路由,查看其防火墙设置,确认是否包含 wan、wwan、wan6、wwan6。 最后,回到接口设置界面,找到 Lan 口,将其 DHCP 服务器设置为混合模式,设置完成后点击“保存并应用”。完成以上操作后,查看 IPv6 是否导通。 #OPENWRT #ipv6
00:00 / 02:09
连播
清屏
智能
倍速
点赞6
00:00 / 14:29
连播
清屏
智能
倍速
点赞166
00:00 / 02:07
连播
清屏
智能
倍速
点赞78