Kimi K3全量模型跑上GB10集群
Reddit用户称已在16台GB10组成的集群上用dspark跑通Kimi K3全量模型,llama-benchy coherent corpus平均速度超过20 tps,峰值38 tps,prefill约750 tps。作者计划继续优化并发布vLLM镜像和部署说明,属于社区侧对大模型本地/集群推理能力的实测进展。
事件进展(1 篇报道)
-
2026-08-05 03:56Reddit r/LocalLLaMA Kimi K3 full model running on 16x GB10 cluster at 20+tps