单4090运行DeepSeek V4 Flash

Reddit用户称用自研Blaze编译器与推理引擎，在单张RTX 4090和64GB内存上跑通DeepSeek-v4-flash-0731的Unsloth IXQ2/Q3检查点。其方案将高频专家保留在内存，当前约5-8 tokens/s，后续计划公开技术栈细节。

事件进展（1 篇报道）

1. 2026-08-15 18:34
   Reddit r/LocalLLaMA Deepseek v4 flash Q2 on a single 4090 😅

← 返回首页