消费级N卡开启P2P提速
用户在4张RTX 5060 Ti 16GB与vLLM环境中测试称,开启PCIe P2P后多GPU本地推理性能提升明显。帖子提供了不同上下文长度下的吞吐与延迟对比,对家用多卡LLM部署有参考价值。
事件进展(1 篇报道)
-
2026-08-09 05:42Reddit r/LocalLLaMA enabling PCI-E p2p for consumer Nvidia cards will yield you more than you think
用户在4张RTX 5060 Ti 16GB与vLLM环境中测试称,开启PCIe P2P后多GPU本地推理性能提升明显。帖子提供了不同上下文长度下的吞吐与延迟对比,对家用多卡LLM部署有参考价值。