Gemma本地上下文扩至80K

LocalLLaMA 用户分享在 RTX 5090 上运行 gemma-4-31B-it-Q6_K.gguf 的配置，将可用上下文从约 35K 提升至 80K。帖子给出 llama.cpp/Docker 参数组合，包括关闭 pinned memory、启用 backend sampling 和调整并行设置等实践细节。

事件进展（1 篇报道）

1. 2026-07-04 19:09
   Reddit r/LocalLLaMA RTX5090, gemma-4-31B-it-Q6_K.gguf. Context: before - 35k, after - 80k!

← 返回首页