您是不是在找：

AI赚钱研究社1月前
Qwen 3.5中杯发布：本地部署教程 深度解析 Qwen 3.5 各版本差异，分享 35B-A3B 本地部署避坑参数与显存优化技巧。#Qwen35 #大模型 #vllm #SGLang #本地部署
00:00 / 05:26
连播
清屏
智能
倍速
点赞867
AI技能研究社1月前
oMLX 框架部署Qwen3.5 实测oMLX让Qwen3.5生成速度提升4.14倍，解决长上下文响应慢与智能体解析报错难题。#oMLX #Qwen35 #Mac #本地大模型 #AI智能体
00:00 / 01:59
连播
清屏
智能
倍速
点赞711
沪上码仔AI1月前
#qwen3.5 #LLM #开源大模型 #mac #本地部署 在Mac book上本地部署qwen3.5大模型测试结果。使用LMStudio进行本地部署大模型。实测qwen3.5最新开源大模型。
00:00 / 02:11
连播
清屏
智能
倍速
点赞424
灵猫工作室LynxLab2周前
1CatAI用 V100 的预算跑出 A100 的性能？ 谁说老卡不能打？1Cat-vLLM 让 Tesla V100 再次伟大！ Make V100 Great Again ！！！🚀 在显卡价格起飞的今天，难道只有堆新卡才能玩转大模型？1CatAI 团队给出了不同的答案：深挖硬件潜力，用技术优化抹平代差。 我们将带你看到实测 1Cat-vLLM 0.0.4 框架在 一猫之下S4N（四路 NVLink 全互联） 平台上的暴力表现。看我们如何通过深度优化，让老兵 V100 在推理 Qwen3.5-122B 时跑出令人惊叹的数据！ 核心亮点速览： ⚡️ 性能跃升： 首次将 FlashAttention 2 完美移植至 Volta (SM70) 架构底层，Prefill（首字处理）速度暴涨 150%，Decode 提升 15%！ 🔗 暴力带宽： 四路 NVLink 全互联打造 300GB/s 聚合带宽，彻底消除多卡推理的通信瓶颈。 🧠 超大池化： 128GB 高速统一显存池，原地复活，无压力满血加载 122B 超大规模参数模型。 📊 实测数据： Prefill： 最高达 4800 tokens/s Decode： 最高达 82 token/s（同规格下甚至超越 M5 Max 推理表现） “真正的性价比，是把成熟硬件的每一滴性能都压榨干净。” 如果你也在寻找低成本、高性能的本地化 AI 算力方案，这台 一猫之下 S4N 四卡工作站 或许就是你的最优解。 #v100显卡 #vLLM #A100 #NVlink #硬件
00:00 / 00:34
连播
清屏
智能
倍速
点赞112
子沐AIGC4天前
本地部署Qwen3.5速度飞快#openclaw #养龙虾 #AI
00:00 / 00:33
连播
清屏
智能
倍速
点赞316
神烦老狗4天前
一个视频学会部署无审查大模型 ｜VMLX + Ollama保姆级教程#ai新星计划#Google#qwen#gemma4#本地部署
00:00 / 07:26
连播
清屏
智能
倍速
点赞492
AI技能研究社1月前
SGLang部署Qwen3.5-27B实战踩坑记录 详解 SGLang 部署 Qwen3.5 27B 流程，攻克工具调用、显存优化及 OpenClaw 对接等 5 大实战坑位。#SGLang #Qwen35 #大模型部署 #AIAgent #人工智能
00:00 / 06:08
连播
清屏
智能
倍速
点赞535
薛定谔的叨叨3周前
阿里千问qwen3.5-35B-A3B大模型本地部署体验，实现养龙虾模型自由#大模型 #本地大模型 #部署大模型
00:00 / 06:47
连播
清屏
智能
倍速
点赞101
芦苇草server3周前
4090 96G显存Qwen3.5-35B实时视频语言测试 #SGLANG框架 #本地模型部署# Live-VLM-WebUI #多模态大模型 #视觉语言测试
00:00 / 01:48
连播
清屏
智能
倍速
点赞18
风林火山1月前
Qwen3.5-35B-A3B-FP8在我的炼丹炉成功部署，接下来深度体验智能体、写代码效果，看看能不能靠它实现token 自由#程序编程 #大龄程序员 #程序员的焦虑 #ai
00:00 / 01:17
连播
清屏
智能
倍速
点赞9
鸦无量9月前
2025年AI本地部署性价比之王！双卡V100！ 32G大显存，deepseek-r1:32b、qwen3:32b等模型随便跑。比同价位2080Ti 22G算力更高、显存更大！安装有些麻烦，但是值得！#ai本地部署 #v100显卡 #显卡坞 #deepseek #qwen
00:00 / 05:20
连播
清屏
智能
倍速
点赞2463
玉七零【教程👀简介】11月前
【Qwen3+Dify】手把手教你构建私有合同审查助手 高效率、低风险、低成本AI工作流！全程干货！（附文档）大模型LLM #大模型 #大模型学习 #AI #人工智能 #Qwen
00:00 / 07:19
连播
清屏
智能
倍速
点赞93
千问大模型10月前
奶奶都能学会的Qwen部署教程来了！ 无需任何计算机知识，只需要会用手机，动动手指点几下，就能轻松在手机上部署大模型，不止可以跟你文字对话，还能和你语音聊天，帮你看世界！ #Qwen #通义千问 #AI #人工智能
00:00 / 01:42
连播
清屏
智能
倍速
点赞890
刘东-长乐未央2周前
mac 使用 oMLX 本地运行 Qwen 3.5 AI模型 文字版内容，请看课程讲义文档：https://clwy.cn/courses/openclaw 注意：本课程使用oMLX部署，仅支持M 系列芯片的Mac。 Windows 用户，请改为Ollama或LM Studio。 #oMLX #千问 #Qwen #AI大模型
00:00 / 02:17
连播
清屏
智能
倍速
点赞224
Ai 学习的老章3周前
vLLM 紧急补丁！Qwen3.5 越跑越蠢，元凶找到了 Qwen3.5 的大模型用了 Mamba 加 Attention 的混合架构，两种层共享 GPU 上同一套缓存空间。Mamba 往里写的是 32 位浮点数，attention 用的是 8 位或 16 位。一个缓存块先被 Mamba 用过，回收后分配给 attention，旧数据在新的精度下直接变成了 NaN。更坑的是，attention 的掩码机制用的是乘以零。零乘正常数字等于零，但零乘 NaN 还是 NaN。脏数据就这么一路扩散，所以服务刚启动没事，跑一阵之后精度才悄悄往下掉。 这种 bug 排查起来最折磨人，你查模型、查数据、查 prompt，全都没问题。但输出就是在变差。vLLM 这次修复方案很朴素：新分配的缓存块，用之前先清零。性能代价不到百分之一。只要你在跑 Qwen3.5 混合架构，建议尽快升级。 除了这个，0.17.1 还正式支持了 Nemotron 3 Super。英伟达 120B 参数的开源模型，OpenClaw 排行榜杀进前五，前五里唯一的开源选手。现在 vLLM 一航命令就能部署了。
00:00 / 01:13
连播
清屏
智能
倍速
点赞94
王纯迅1周前
OpenCLaw终于在本地把qwen3.5-27b跑起来了 #openclaw #人工智能 #qwen #ollama #vLLM
00:00 / 08:12
连播
清屏
智能
倍速
点赞174
懂AI的引路哥2周前
本地Qwen3.5 9B接OpenClaw #Qwen3.5 9B #OpenClaw #模型调优 #本地部署 #bug修复
00:00 / 01:30
连播
清屏
智能
倍速
点赞26
司波图8月前
拼好机！2500元装一台AI服务器！vLLM张量并行性能暴涨 💥2400元预算挑战AI算力天花板！本期视频，我们解决了Radeon VII / MI50 等 gfx906 架构显卡长期以来无法使用 vLLM 张量并行的痛点！ 我们将全程展示如何用两张“过气”Radeon VII显卡，搭配X99“洋垃圾”平台，组装一台总价仅2397元的AI算力服务器。通过社区大神 nlzy 提供的特制Docker容器，我们成功解锁了vLLM的张量并行功能，在Qwen3 32B量化模型上实现了98 tokens/s的并发推理速度，性能是Ollama的6倍以上！ 视频最后，我们还将通过Open WebUI，实战演示8个用户同时访问这台服务器的流畅体验！ 本期硬件配置清单 (总计: ~2397元) 显卡 (GPU): AMD Radeon VII 16GB x 2 (二手 ~1600元) 主板 (Motherboard): 精粤 X99M-PLUS (~300元) 处理器 (CPU): Intel Xeon E5-2680 v4 (56元) 内存 (RAM): 海力士 ECC REG DDR4 8GB x 4 (176元) 硬盘 (Storage): 512GB NVMe SSD (~150元) 电源 (PSU): 额定850W 金牌认证电源 (二手 115元) 【本期方案超详细文字版教程】 为了方便大家复现，我们已经把今天所有用到的命令、链接，以及一份超详细的文字版部署教程，全部整理好，放到了UP主的Gitee主页上！ 直达链接：https://gitee.com/spoto/R7vllm 如果觉得本期视频对你有帮助，请务-务-务必 点赞、投币、收藏 三连支持一下UP主！你们的支持是我爆肝更新的最大动力！感谢大家！ #AI #AMD #vllm #服务器 #装机
00:00 / 07:59
连播
清屏
智能
倍速
点赞6413
AI技能教学网1周前
Qwen3.5蒸馏版本地部署教程 解析Qwopus核心优势：专注代码与硬逻辑，支持3090及Mac本地部署，拒绝废话干活快。#Qwen35 #大模型 #本地部署 #ClaudeCode #人工智能
00:00 / 03:31
连播
清屏
智能
倍速
点赞290
泡泡AI大模型聚宝盆1年前
10分钟基于vllm企业级本地部署DeepSeek #DeepSeek #大模型 #AI #本地部署 #大模型推理
00:00 / 02:32
连播
清屏
智能
倍速
点赞28
yx1n1周前
最新量化版模型本地部署 Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-v2-GGUF Q4_K_M量化 经过Claude-4.6-Opus蒸馏版本 在普通家用电脑也可以超快处理128k上下文 #Ai #大模型 #Claude #千问 #开源
00:00 / 00:57
连播
清屏
智能
倍速
点赞634
Ai 学习的老章3周前
单4090 本地实测 Claude 蒸馏版 Qwen3.5 我这次实测的是 Qwen3.5 27B 的一个高质量优化版本，用 llama.cpp 在 24GB 显存的 4090 上直接跑。结论先说： 第一，显存压力比我预想的小很多。单卡就能启动，而且 64K 上下文可以稳定开。这个上下文长度，比 GLM 4.7 Flash 高出不少，对个人使用已经很够了。 第二，速度确实不错，平均大概 46 token 每秒，日常对话、文档总结、代码理解，响应都很快。 第三，效果属于中等偏上。核心任务能完成，尤其是阅读理解、SVG 代码生成这类任务，表现已经挺优秀了。 缺点是并发能力相对一般，我后面调了一些更高性能参数，提升不算特别明显。
00:00 / 01:06
连播
清屏
智能
倍速
点赞29
kate人不错1月前
实测 Qwen3.5-Plus，性价比极高 千问 3.5 正式发布了，我重点实测了 Qwen3.5-Plus（开源 397B-A17B）： - 架构：混合线性注意力 + MoE，基于 Qwen3-Next，推理效率高 - 体验：知识截止更新到 2026 年 - 多模态/OCR：论文图空间理解、反写铅活字、反光复杂大图、模糊小票文字识别 - 推理/指令遵循：40 字严格计数、红包礼仪规则抽象、年夜饭方案、7 语种翻译 - 复杂规则：让它当“产品政策审核员”找冲突、判案例、补边界 - 编程：生成气候数据故事网页、无限循环动画、复古终端文字冒险游戏 时间戳 00:00 Qwen 3.5 发布 01:17 多模态实测 04:37 推理能力实测 07:05 编程实测 #Qwen #Qwen35 #Qwen35Plus #千问 #开源AI
00:00 / 08:59
连播
清屏
智能
倍速
点赞98
AI猿姗姗11月前
20分钟教你用GraphRAG +Qwen3 打造个人专属 AI知识库 #人工智能 #ai #Qwen #大模型 #知识库
00:00 / 26:35
连播
清屏
智能
倍速
点赞26
Aiwood爱屋研究室1月前
开源绝唱？如何在Comfyui部署qwen3.5
00:00 / 05:03
连播
清屏
智能
倍速
点赞81
AI技能教学网1周前
低成本部署Qwen3.5教程：企业级API高并发方案 详解T10/2080Ti显卡选型、Ubuntu环境搭建及Qwen3.5量化部署全流程，实现企业级API并发。#本地大模型部署 #Qwen35 #龙虾 #Qwen3527B #私有化部署
00:00 / 03:13
连播
清屏
智能
倍速
点赞109
nxlz11月前
qwen3 本地实测 🚀 本地运行Qwen3模型零门槛教程 📱 小白也能快速上手的AI大模型教程 🔥 无需高配置，轻松本地运行Qwen3模型 ⚙️ LM Studio客户端一键下载部署Qwen3 🌐 Cherry Studio跨平台调用，扩展应用场景 #Qwen3 #LMStudio #AI大模型 #本地部署 #技术教程
00:00 / 03:48
连播
清屏
智能
倍速
点赞76
小工蚁2周前
OpenClaw运行独立部署模型推荐 Qwen3.5-27B #小工蚁 #openclaw #开源大模型
00:00 / 00:37
连播
清屏
智能
倍速
点赞439
技术爬爬虾11月前
全球最强开源模型Qwen3，全场景实测+本地部署教程 今天凌晨阿里开源了重磅的Qwen3大模型。作为AI大模型开源届的“源神"，最近几个月阿里密集地开源了一系列模型，覆盖了众多场景与功能。 今天Qwen的版本号更是直接跃升到了3.0，足见这次开源的重量级地位。本期视频我会介绍下Qwen3的新特点，并且从全场景实战测试下，视频最后我们一起看下如何本地部署，使用家用显卡4090能跑多大模型，速度怎样。 #阿里云 #通义千问 #Qwen3 #AI #人工智能
00:00 / 10:06
连播
清屏
智能
倍速
点赞2683
lukeewin2周前
本地服务器部署AI大模型 | 本地化部署Qwen3.5-4B大模型 | 人工智能 | 生成式AI | 多模态AI大模型本地化部署 #大模型本地化部署 #大模型 #ai #Qwen3.5 #多模态大模型
00:00 / 02:08
连播
清屏
智能
倍速
点赞9
智驭导师授AI1年前
vLLM+QwQ生产环境部署及Transformers推理 #ai #编程语言 #vllm #qwq #Transformers
00:00 / 19:22
连播
清屏
智能
倍速
点赞66
AI 博士嗨嗨8月前
个人电脑最强AI模型，Qwen3-30B本地部署教程！ #qwen3 #本地部署 #Ollama #AI模型 #大模型
00:00 / 12:41
连播
清屏
智能
倍速
点赞1748
刘东-长乐未央2周前
OpenClaw 安装、配置使用本地 Qwen 3.5 模型 #OpenClaw #AI #本地大模型
00:00 / 02:57
连播
清屏
智能
倍速
点赞223
赋范课堂1年前
一文详解工业级模型微调前期工作必备！ 模型微调环境部署，Ollama/vLLM调用方法，QWQ&DeepSeek模型微调COT数据集准备#DeepSeek #微调 #QWQ #Ollama #大模型
00:00 / 33:28
连播
清屏
智能
倍速
点赞67
智慧办公坊1周前
8G显存也能起飞？llama.cpp+qwen模型深度调优 为什么显存没占满，速度却掉到了脚脖子？ 为什么 CPU 线程拉满，性能反而缩水 50%？ 本期视频带你实测 RTX 3050 8G 在运行 Qwen 3.5 9B 时的性能极限。 通过《三体》3 万字压力测试，深度拆解上下文长度、KV Cache 量化、Batch Size 以及 CPU 线程对推理速度的真实影响。 【核心调优结论】 8G 显存黄金平衡点：32k 上下文--ctx-size 64k 极限模式：必开缓存量化 --cache-type-k/v q4_0 预处理加速：调大吞吐量 --batch-size 远比增加 CPU 线程有效。#模型调优 #本地部署ai 【我的配置】显卡: 3050 8G | 内存: 32G DDR4 | CPU: i3-12100
00:00 / 06:03
连播
清屏
智能
倍速
点赞32
小闲AI1年前
vllm,企业级大模型本地化部署，比ollama更快，支持多卡多并发，就是部署过程复杂，一定要看文档。 #ai #vllm #大模型 #本地部署
00:00 / 02:45
连播
清屏
智能
倍速
点赞199
船长⁶3周前
#创作者扶持计划 #ollama #千问3.5 #Qwen #本地部署 洋垃圾V100大战5070ti！ 结果显而易见，V100是什么路边一条啊！！！
00:00 / 01:40
连播
清屏
智能
倍速
点赞15
瑞克老张有话说10月前
Qwen3端侧模型损耗只有10%，这让小门店也能玩转大模型 #通义千问 #AI #大模型 #端侧大模型 现在部署一套32B大模型的方案多少钱？整机只要4万~5万元，用4张英特尔A770显卡就能支持36~48台门店终端，效率堪比10个资深督导！就连14B模型方案也压到了万元级别，服务20人团队绰绰有余。其中阿里千问0.6B模型更夸张——手机就能跑116种语言实时翻译，便利店跨国沟通零门槛。小门店也能玩转大模型！但技术再牛，落不了地就是纸上谈兵。
00:00 / 03:20
连播
清屏
智能
倍速
点赞240
肝帝AI8月前
Qwen3-Coder Sealos 从开发到上线 面向新手 国产最强开源编程大模型Qwen3-Coder与Sealos王炸组合，开发一个个人记账系统并上线，仅需3分22秒。 人人都是产品经理不再是口号，只要有想法，每个人都可设计并上线自己的产品！！！ 专门面向新手编程，不用写代码，即可上线自己的应用。 #qwen3 #qwen3coder #ai编程 #cursor #零基础编程
00:00 / 02:17
连播
清屏
智能
倍速
点赞992
王耀鐭3周前
本地部署Qwen3.5: vllm VS llama.cpp #大模型部署 #大模型 #学习日常
00:00 / 07:32
连播
清屏
智能
倍速
点赞29
GM乔丹2年前
双4090部署qwen72b大模型 每秒150tokens
00:00 / 03:06
连播
清屏
智能
倍速
点赞188
薛饿喵的腚1周前
#qwen3.5 #手机本地部署大模型
00:00 / 03:22
连播
清屏
智能
倍速
点赞19
T8star.Aix10月前
破限版！DeepSeekR1 Qwen3 0528本地部署，微调ModelFile教程！AI酒馆SillyTavern实测及满血版685B API半价调用！ #AI #人工智能 #DeepSeekR1
00:00 / 08:26
连播
清屏
智能
倍速
点赞17
大曼哒3周前
本地部署智能体：Qwen3.5 + Claude Code 本视频将演示如何使用 Llama.cpp 和 Claude Code 在本地安装 Qwen3.5 4B 模型 #claude #ai编程 #千问qwen #ai #智能体
00:00 / 06:07
连播
清屏
智能
倍速
点赞293
凌风的技术工作坊9月前
企业部署大模型的首选-vLLM基于缓存优化的推理引擎 企业部署大模型的首选-vLLM基于缓存优化的推理引擎 #vllm #模型部署
00:00 / 11:51
连播
清屏
智能
倍速
点赞5
lukeewin2周前
终于本地跑起来了大模型 | 本地化部署Qwen3.5大模型 | 本地部署多模态大模型 #多模态大模型 #大模型 #ai #人工智能 #Qwen3.5
00:00 / 03:00
连播
清屏
智能
倍速
点赞9
学大模型的-果果10月前
【QWen3天气预报大模型部署教程】实现天气预报功能 【QWen3天气预报大模型部署教程】基于Qwen3微调，实现天气预报功能：配置、微调、部署+效果展示，带你训练自己的行业大模型！#大模型 #QWen3 #AI #通义千问 #计算机
00:00 / 24:51
连播
清屏
智能
倍速
点赞84
AI超元域1年前
vLLM本地部署Qwen2.5-VL多模态大模型 vLLM本地部署Qwen2.5-VL多模态大模型！70亿参数即可打造监控视频目标查找项目！轻松实现监控视频自动找人！RTX A6000显卡部署Qwen2.5-VL-7B-Instruct模型实战教程 🚀🚀🚀视频简介： ✅【完整教程】用Qwen2.5-VL模型打造智能监控系统？支持自然语言精准搜索目标人物！从环境配置到代码实现，从接口调用到界面开发，手把手教你用Python和FastAPI搭建企业级应用，附完整代码和部署文档 📱 在本期视频详细演示了阿里巴巴最新发布的Qwen2.5 VL多模态大模型，并演示如何利用它来实现视频监控中的目标人物识别功能。 🔍 主要内容： 详细介绍Qwen2.5 VL模型的优越性能，特别是在图像识别和人物特征识别方面的出色表现 完整演示使用vLLM框架在本地部署Qwen2.5-VL-7B-Instruct模型的全过程 通过实际案例展示如何使用OpenAI API调用模型进行图像识别 使用FastAPI开发了一个基于FastAPI和Tailwind CSS的Web应用,实现了上传视频并利用Qwen2.5-VL-7B模型逐帧分析,根据输入的目标人物描述检测目标出现的时间点。 通过几个实际视频案例演示了该程序的运行效果。Qwen2.5-VL-7B模型能够快速准确地检测视频中的目标人物,即使目标不太清晰也能识别,整体效果非常不错。 #AI #Qwen #Qwen2 #qwen25 #Qwen25vl
00:00 / 13:36
连播
清屏
智能
倍速
点赞114
智慧办公坊2周前
Qwen 3.5本地部署全攻略 2026算力大饥荒：别再排队等API #Qwen3.5 #ai教程
00:00 / 05:07
连播
清屏
智能
倍速
点赞23
比尔1周前
ollama部署大模型并对接openclaw ollama部署大模型并对接openclaw，安装的是QWen3.5 0.8b 显存 6G ，吃力
00:00 / 09:34
连播
清屏
智能
倍速
点赞21
【教程👀简阶】爱学大模型的疯哥8月前
教会你Qwen本地部署+微调领域垂直大模型 【本地部署+模型微调】25分钟教会你Qwen模型本地部署，以及微调一个垂直领域大模型！无需GPU，只需5G内存~大模型|LLM #模型微调 #AI #大模型 #通义千问 #人工智能
00:00 / 25:51
连播
清屏
智能
倍速
点赞123
马可爱科技9月前
开发属于自己的本地大模型语音助手 LLM: Ollama+Qwen3/Deepseek ASR:Whisper 完全离线无Token消耗 #每天学习一点点AI
00:00 / 02:24
连播
清屏
智能
倍速
点赞150
数致西瓜讲AI10月前
企业级大模型部署工具vLLM 为什么我推荐用vLLM部署开源大模型？ #ai #aigc #openai #deepseek #大模型
00:00 / 03:41
连播
清屏
智能
倍速
点赞50
爱吃🍒的AI学姐10月前
最强开源大模型QWen3场景实测+本地部署教程 #QWen3 #大模型 #ai #人工智能 #互联网
00:00 / 08:54
连播
清屏
智能
倍速
点赞3
卢菁老师讲AI10月前
qwen3使用心得 #qwen #通义千问 #qwen3 #ai大模型 #大模型微调
00:00 / 00:29
连播
清屏
智能
倍速
点赞34
跟着小坛学AI10月前
10分钟手把手教会你微调Qwen3大模型，超详细教程，草履虫都能学会！！#创作者中心 #创作灵感 #大模型 #AI #程序员
00:00 / 13:40
连播
清屏
智能
倍速
点赞63
小元老师8月前
挑战16分钟搞定，Dify+Qwen3构建合同审查系统 #人工智能 #大模型 #AI大模型 #大模型学习 #大模型入门
00:00 / 16:15
连播
清屏
智能
倍速
点赞1232
杨喆忻9月前
苹果MLX架构深度优化qwen3 6月17日，阿里通义千问团队发布了基于苹果的MLX架构深度优化的qwen3版本，这也意味着苹果AI落地中国推进了一大步。
00:00 / 00:51
连播
清屏
智能
倍速
点赞4

简介:

您在查找“vllm部署qwen3.5过程”短视频信息吗？帮您找到更多更精彩的短视频内容！最新发布时间：2026-04-12 06:39

最新推荐:

相关推荐:

热门推荐: