WASTE让Kimi K3跑上笔记本

Hacker News 热议 WASTE 推理引擎：该 C 语言嵌入式引擎无需第三方运行时，可将 Kimi K3 的主干常驻内存，并从磁盘流式加载专家参数。其演示在 64GB MacBook Pro 上运行 2.78 万亿参数开权重 Kimi K3，模型容器约 982GiB，速度约 0.5 tok/s。

事件进展（1 篇报道）

1. 2026-07-31 22:12
   Hacker News Run Kimi K3 using 29 GB of RAM at 0.50 tok/s

← 返回首页