芯片算力 重要度 4

Kimi K3全量模型跑上GB10集群

Reddit用户称已在16台GB10组成的集群上用dspark跑通Kimi K3全量模型,llama-benchy coherent corpus平均速度超过20 tps,峰值38 tps,prefill约750 tps。作者计划继续优化并发布vLLM镜像和部署说明,属于社区侧对大模型本地/集群推理能力的实测进展。

事件进展(1 篇报道)

  1. 2026-08-05 03:56

← 返回首页