DeepSeek Flash预填充提速
社区发现 DeepSeek V4 Flash 在 CUDA 13.2/13.3 下因 DeviceTopK 相关变化导致预填充速度下降。建议降级至 CUDA 13.1 并重新编译,或使用临时 fork,以获得约 100-150 t/s 的 prefill 提升。
事件进展(1 篇报道)
-
2026-08-03 00:13Reddit r/LocalLLaMA Deepseek v4 flash - 100-150 faster t/s in prefill/pp.