DeepSeek V4 Flash低内存运行

开发者展示 Mference 引擎，可将 DeepSeek-V4-Flash 284B-A13B 通过 MoE 专家流式读取与 2-bit 动态量化，在 Mac 上约 5.3GB 内存运行。项目还提供原生 Mac 应用、OpenAI 兼容服务和本地文档附件能力。

事件进展（3 篇报道）

1. 2026-08-02 15:28
   Reddit r/LocalLLaMA DeepSeek-V4-Flash 284B on 5.3GB of memory
2. 2026-08-03 04:27
   Reddit r/LocalLLaMA DeepSeek V4 @ IQ3XXS on M1 Ultra 128GB- 16 tok/s in LM Studio after patch
3. 2026-08-03 00:10
   Reddit r/LocalLLaMA Running DeepSeek-V4-Flash-0731 (155 GB MoE) on a DGX Spark with vLLM-Moet 2-bit quantization - AI's narrative

← 返回首页