DeepSeek-V4-Flash 本地部署，H20*2 两块 H20，96G 显存，本地跑 DeepSeek V4 Flash，能跑通吗。大家好，我是AI学习的老章。Flash 版权重 160G，原始 Safetensors 接近 149G，AMD 全军覆没，消费级英伟达也不配，门槛先把一半人劝退。我用 vLLM 官方 Docker 镜像 deepseekv4-cu129 启动，按默认配置一启就 OOM，连续翻车好几次。最终生效的脚本是这套，开 FP8 KV cache，启用专家并行 EP，单卡权重压到 77.6G，max-model-len 砍到 7K，gpu-memory-utilization 拉到 0.95，再叠 enforce-eager，才算是稳住了。256 个专家分两路，每张卡背 128 个，KV cache 只剩 9.29G，并发能力 3.72 倍，撑死也就 4 路同时跑。说性能，思考模式打开，平均 8.33 token 每秒，慢得让人怀疑这是不是 H20。把 DP 改成 TP，再关掉 enforce-eager，速度直接翻倍到 20。最猛的是关闭思考，单轮生成能飙到 70 多。我的判断很直接，2 张 H20 跑 Flash 是省着跑，不是爽快跑。Flash 这个名字，本地部署这边是真不 Flash。要的是体验，老老实实充 API

Name: DeepSeek-V4-Flash 本地部署，H20*2 两块 H20，96G 显存，本地跑 DeepSeek V4 Flash，能跑通吗。大家好，我是AI学习的老章。Flash 版权重 160G，原始 Safetensors 接近 149G，AMD 全军覆没，消费级英伟达也不配，门槛先把一半人劝退。我用 vLLM 官方 Docker 镜像 deepseekv4-cu129 启动，按默认配置一启就 - 抖音
Uploaded: 2026-04-28T08:35:00+08:00Z
Duration: 1 min 29 s
Channel: Ai 学习的老章
Description: DeepSeek-V4-Flash 本地部署，H20*2 两块 H20，96G 显存，本地跑 DeepSeek V4 Flash，能跑通吗。大家好，我是AI学习的老章。Flash 版权重 160G，原始 Safetensors 接近 149 - Ai 学习的老章于20260428发布在抖音，已经收获了9506个喜欢，来抖音，记录美好生活！