双GPU跑llama.cpp PCIe实测
用户分享 RTX 3090 与 Titan RTX 双卡在 PCIe 3.0 x16 下运行 llama.cpp 的数据,加载 Qwen3.6 27B 量化模型并测试 180k 上下文。其重点比较 tensor parallel 与 pipeline parallel 的 PCIe 传输压力,为多卡是否可用 riser 提供参考。
事件进展(1 篇报道)
-
2026-07-12 07:35Reddit r/LocalLLaMA Measuring PCIe transfer under dual GPU with pipeline & tensor llama.cpp