开发者与开源 重要度 4

DeepSeek Flash长上下文优化

社区用户分享在单张RTX 3090上运行DeepSeek-V4-Flash-0731 GGUF的128K上下文优化经验。通过GPU卸载、专家层放置、KV缓存量化、批大小和内存映射调参，生成速度从约10 tok/s提升至约15 tok/s。

事件进展（1 篇报道）

  1. 2026-08-06 19:36
    Reddit r/LocalLLaMA Final optimization: from ~10 tok/s to ~15 tok/s on DeepSeek-V4-Flash-0731 at 128K ctx - 1 RTX 3090

← 返回首页