两千块魔改2080Ti，本地跑通千问27B 嫌4090贵又想本地跑大模型？华强北魔改2080Ti，11G硬改22G，一千五到两千二搞定。配上开源引擎vLLM，每秒一百多token，Ollama只有七八个，差十几倍！双卡加NVLink四千块，44GB显存比七千3090Ti还猛。重度用户一天一百万token，五个月回本。轻量需求直接买API更省心，混合架构总成本至少省一半。花两万买4090，不如花两千改旧卡——你日均多少token？评论区聊聊！#vLLM#本地大模型#千问 #AI#vibecoding大赏

1494
200
1156
350
举报
发布时间：2026-07-05 01:04
全部评论
大家都在搜：
BG_Vlog
...
跟你討論~ 我研究雙卡2080 很久 結論是不行單發可以 雖然單發用很爽 隨便50~70TOK 但 蜂群不行， 不適合工作 ，還可以降每卡150W X2共 300W 來用只弱一點點而已 ，但省電不是那一丁點
2月前·中国台湾

1

分享
回复
AI甄选优品
...
只是显存大了 位宽和带宽 算力呢
2月前·江苏

0

分享
回复
谷神不死
...
实测四张跑 qwen3.6-27b 40 左右 token
2月前·贵州

1

分享
回复
祥
...
[呲牙]双5060ti16g在win10可以45t/t，linux可以65t/s，2个卡才6千多，还有3年质保期，功耗双卡360w
2月前·江苏

4

分享
回复
瓦哈哈
...
工作有很多个人身份证信息的不太适合用 api 吧[捂脸]
2月前·安徽

1

分享
回复
zqyiye
...
vllm在wsl下运行巨坑，换系统电脑又不能干别的
2月前·湖北

2

分享
回复
Chaunor
...
4 亿 token，这方案双卡一天 800w token 需要多少张卡 多少电费呢
2月前·广西

0

分享
回复
大奖东去
...
真有两万，买rtx Pro4500 32G，功耗低显存大。
2月前·陕西

0

分享
回复
瞅小样
...
我不怀疑他们能改能用，主要是能用多久，别没用俩月就不行了[捂脸][捂脸]
4周前·江苏

0

分享
回复
pony
...
这个配置什么并发，多少上下文？
2月前·广东

0

分享
回复
卢铁锤
...
每天的token用量大概在1000万左右。预算在7000元以内。有什么方案？
3周前·安徽

0

分享
回复
Jarvis开发日记
Jarvis开发日记

粉丝468获赞4942

最新视频

热榜推荐

热门视频