GLM-5.2在GB10集群跑分
社区分享 GLM-5.2-Int4-Int8 在 8×GB10 上的本地推理表现,预填充约 1200 t/s,平均解码约 33–54 t/s。帖子称在 tp 8 配置下仍有余量并行运行 Mimo 2.5 处理图像/音频输入。
事件进展(1 篇报道)
-
2026-07-15 04:24Reddit r/LocalLLaMA GLM-5.2-Int4-Int8 on 8× GB10: ~1,200 t/s prefill, 33–54 t/s avg decode