芯片算力 重要度 4

双GPU跑llama.cpp PCIe实测

用户分享 RTX 3090 与 Titan RTX 双卡在 PCIe 3.0 x16 下运行 llama.cpp 的数据,加载 Qwen3.6 27B 量化模型并测试 180k 上下文。其重点比较 tensor parallel 与 pipeline parallel 的 PCIe 传输压力,为多卡是否可用 riser 提供参考。

事件进展(1 篇报道)

  1. 2026-07-12 07:35

← 返回首页