SSD阵列跑LLM引讨论
社区讨论用多块SSD组RAID0来承载超大开源模型,试图以更低每GB成本替代部分内存和显存需求。该方案理论带宽可提升,但仍面临延迟、数据搬运和系统复杂度等瓶颈。
事件进展(1 篇报道)
-
2026-07-17 16:19Reddit r/LocalLLaMA Has anyone tried running an LLM from a raid0 of a bunch of SSDs.
社区讨论用多块SSD组RAID0来承载超大开源模型,试图以更低每GB成本替代部分内存和显存需求。该方案理论带宽可提升,但仍面临延迟、数据搬运和系统复杂度等瓶颈。