长上下文模型代理基准
Reddit 用户用 RX 7900 XT 在 llama.cpp 上测试 13 个本地模型的 65K-128K 长上下文表现，覆盖 dense、MoE、Mamba2 hybrid 与 MLA MoE。结果认为代理工作负载中 prefill 成本占主导，KV head 数量比参数规模更影响长上下文性能。
事件进展（1 篇报道）
-
2026-07-05 11:37
Reddit 用户用 RX 7900 XT 在 llama.cpp 上测试 13 个本地模型的 65K-128K 长上下文表现，覆盖 dense、MoE、Mamba2 hybrid 与 MLA MoE。结果认为代理工作负载中 prefill 成本占主导，KV head 数量比参数规模更影响长上下文性能。