12g显存上运行qwen3.6 35b a3b 110t/s 这个算是很厉害了吧 #ik_llama.cpp#qwen3 #mtp #turboquant #本地部署大模型

30
24
22
7
举报
发布时间：2026-05-21 22:58
全部评论
大家都在搜：
fox
...
温度是0，应该草稿完全没有意义才对，怎么这么快的
3周前·广东

0

分享
回复
qd网多鱼
...
3080跑过，意义不大[捂脸]
3周前·山东

0

分享
回复
阿巴dsn
...
怎么跑的[黑脸]
3周前·浙江

0

分享
回复
吃的不太多
...
参数发来试试[呲牙]
作者回复过
3周前·宁夏

0

分享
回复
我怎萌你了
...
怎么做到的我16G才60tok
3周前·浙江

0

分享
回复
颠倒的成熟
...
多少的上下文？
3周前·山西

0

分享
回复
剑道尘心
作者
...
这个是reddit上看来的，我英文不好，它没有写么？
3周前·浙江

0

分享
回复
小风winds
...
我草甚至还是Q4量化
3周前·广东

0

分享
回复
剑道尘心
作者
...
是惊叹高还是太低了？
3周前·浙江

0

分享
回复
剑道尘心
剑道尘心

粉丝1577获赞2.8万

猜你喜欢

推荐视频

最新视频

热榜推荐

热门视频