GLM-5.2部署配置热议
Reddit 用户分享在 8xB200 节点上部署 GLM-5.2 的配置测算,认为 NVFP4 加 2x TP=4 可跑出 4 个副本,相比 TP=8 理论吞吐接近翻倍。文章重点讨论 MoE 解码的 HBM 带宽瓶颈、B200/H200 差异以及 1M 上下文下 KV Cache 的容量约束。
事件进展(1 篇报道)
-
2026-07-08 03:06
Reddit 用户分享在 8xB200 节点上部署 GLM-5.2 的配置测算,认为 NVFP4 加 2x TP=4 可跑出 4 个副本,相比 TP=8 理论吞吐接近翻倍。文章重点讨论 MoE 解码的 HBM 带宽瓶颈、B200/H200 差异以及 1M 上下文下 KV Cache 的容量约束。