DeepSeek V4 Flash KV量化受质疑
社区用户测试DeepSeek V4 Flash从BF16 KV Cache切换到Q8 KV后的困惑度、KL散度等指标，认为质量影响显著。该结论提示本地部署时不宜轻易量化KV缓存，尤其与Qwen等模型表现不同。
事件进展（1 篇报道）
-
2026-08-03 06:01Reddit r/LocalLLaMA You really should not quantize KV Cache for DeepSeek V4 Flash
社区用户测试DeepSeek V4 Flash从BF16 KV Cache切换到Q8 KV后的困惑度、KL散度等指标，认为质量影响显著。该结论提示本地部署时不宜轻易量化KV缓存，尤其与Qwen等模型表现不同。