5090跑Qwen3.6速度实测

用户在 9800X3D、64GB 内存和 RTX 5090 平台上调优 llama.cpp 运行 Qwen3.6 27B，记录 6454 个样本的真实分布。其称在 192K 上下文、MTP 与 q8 KV cache 设置下，平均生成速度约 140.7 tok/s，中位数 134.9 tok/s。

事件进展（2 篇报道）

1. 2026-07-04 23:11
   Reddit r/LocalLLaMA Qwen3.6 27B on a 5090, 6.4k sample tok/s distribution after tuning MTP/cache settings
2. 2026-07-05 09:24
   Reddit r/LocalLLaMA Getting close to 100K context on 32GB VRAM with Qwen3.6-27 at Q8

← 返回首页