DFlash2加速Qwen推理
llama.cpp PR #27342 引入 dflash2 后,社区测试显示 Qwen3.8 27B 在 RTX 6000 上中位解码速度可达 140.6 tok/s,相比 baseline 约 3 倍。测试者指出不同任务增益差异明显,但对本地大模型推理优化有实际价值。
事件进展(2 篇报道)
-
2026-08-20 02:10Reddit r/LocalLLaMA DFlash2 speeds Qwen 3.8 27B up to 4 times
-
2026-08-20 04:28Reddit r/LocalLLaMA I pushed Qwen3.8-27B limits again... Dflash2 - 134 tps on a RTX 3090