GLM-5.2本地推理提速

社区用户跟进 GLM-5.2 NVFP4 在四台 DGX Spark 上的运行测试，称已解决 MTP 接受率异常问题，使 128K 上下文下 decode 从约 15 tok/s 提升到约 24 tok/s。该进展体现了长上下文推理与多设备部署调优价值。

事件进展（3 篇报道）

1. 2026-07-03 14:33
   Reddit r/LocalLLaMA Follow-up: GLM-5.2 NVFP4 on four DGX Sparks — the MTP mystery is solved, and it's now ~24 tok/s at 128K context
2. 2026-07-04 07:33
   Reddit r/LocalLLaMA GLM5.2 performance.
3. 2026-07-04 05:49
   Hacker News GLM5.2 on AMD MI355X at 2626 tok/s/node at over 2x lower cost than Blackwell

← 返回首页