Kimi K3在8GB内存CPU运行

Reddit用户称为Kimi K3编写C99推理引擎，通过按需从NVMe读取MoE专家、4-bit打包直接计算和分层流式加载，将1.56TB检查点压到单机CPU运行。其测试显示最小预设峰值内存约8.24GB，但速度约33秒/ token，128GB内存下约20秒/ token。

事件进展（1 篇报道）

1. 2026-08-02 12:26
   Reddit r/LocalLLaMA I pushed Kimi K3 onto one CPU with 8 GB of RAM

← 返回首页